電馭新疆的「AI暴政」：中國數位恐怖的維吾爾監控再進化

「以 AI 分辨种族面谱、针对维吾尔人执行监控」是否只是天马行空？由于维吾尔人与汉人的脸孔特征十分不同，AI辨识技术难度并没有想像中高。中国当局所企图构筑的，是一个什么样的社会控制图像？是怎么样的一个美丽新世界？ 图／美联社

2009 年 7 月，中华人民共和国成立以来新疆最严重的族群冲突事件——「七五事件」爆发，事件爆发一周后，乌鲁木齐仍实施宵禁，南疆处于半紧急状态，公路上每个进城的路口都安了哨口和满满的武装警察，我自中巴边境的塔什库尔干县下山，预备进入喀什市区，辗转休息后前往墨玉县。

剧降两千多米的海拔落差教我头直发疼，一股肿胀的炸裂感填塞了头盖骨内缘。只见进喀什的哨口乱哄哄的，层层铁网路障前，人们被赶下车，人车分离地接受盘检。我不以为意，下了车、打开台胞证，在几个持枪的武警的眼前，晃了晃，过了关。

短短的通关过程，我注意到检查台旁却有人没像我这般好运，是个 20 出头的年轻男人，戴着眼镜：

他又指了指已摆在桌上的学生证辩解，正和盘检哨口的武警争得面红耳赤。

不知道他缺了什么文件，显然武警不轻易放人，我过了关，他仍是卡在那儿，晒着热辣辣的艳阳，任凭斗大的汗珠落下，屡屡将随之滑落的眼镜给推回鼻梁，狼狈至极地解释，继续那无尽地盘问、纪录、检验、上报的监控程序。我轻易过了关，只因为在容貌上我被定义为汉人；他无法轻易过关，因为他是维吾尔人。

「……我是新疆大学的学生，学校放暑假才会来这里的，放假了去塔县转转，为什么不能让我进城？」图为一名中国武警坐在乌鲁木齐市二道桥一带的卡车上。 图／路透社

时序移至 2016 年冬日，我再访了乌鲁木齐的天山区，当年七五事件的爆发地。武警撤哨了，解放南路上的街容看上去与其他省份城市越来越为相像；大路旁，好几个街廓正在进行拆迁——那些当年汉人们叮嘱千万不要靠近的「维吾尔区的暗巷」。大路岔口重复播放着高颂社会主义价值观的政令歌曲，只有和平南路底，接近二道桥清真寺的拐角，镇着一辆武警武装车、几顶军帐、几只武警。似乎，社会控制的施行手段正发生着看不见的演进。

时间再移至 2020 年末，日前《华盛顿邮报》报导，华为和脸部辨识新创公司旷视（Megvii）曾于 2018 年合作测试一组人工智慧监控系统，以在人群影像中，自动识别出每一个个体的年纪、性别与种族，并配有针对性的「维族告警」（Uyghur alarm）：一旦该系统自人群中甄别出突厥裔群体的脸孔，将通知有关监控单位。为此，法国足球球星格里兹曼（Antoine Griezmann）在国际人权日，发表声明谴责并中止与华为的合作，引起轩然大波。

同样出自于与全球影像监控技术研究机构 IPVM 的合作报导，《纽约时报》指出科技巨头阿里巴巴在旗下产品「阿里云」的指南网站中，指导用户使用其产品内建的维吾尔人脸部辨识工具，用以检测图像与影片。

政府是如何盘检、抓捕维吾尔族人的？近期媒体、非政府组织所发布的讯息，或可协助我们理解新疆社会控制的新一轮趋势，甚或，我们正目睹着一个科技极权治理模式的诞生？

2009 年 7 月位于喀什市区艾提尕尔清真寺前驻守的武警队伍。 图／作者摄影提供

2009 年 7 月，贴遍新疆各公共场所的政府公告，鼓励民众举报「暴力犯罪份子」。 图／作者摄影提供

▌「维族告警」辨识系统是什么？

IPVM 的报告指出，华为与旷视合作出品的摄录监控系统，以及阿里巴巴的云计算产品，均针对维族脸部影像进行研发测试，但目前尚无法获知这类技术被实际应用的广泛程度。

然而，华为、旷视及阿里巴巴等公司均不否认维族脸部系统测试项目的存在。华为发言人 Gleen Schloss 仅表示：「这只是一个未实际应用的简单测试。」且保证「华为并不会为客户提供客制化的演算法或应用程式」。

事实上，2019 年初即有相关人士，向《纽约时报》揭露中国政府正在进行类似的计划，该报导称多笔其他省份的政府采购案，正在找寻「可以识别出维吾尔人」的解决方案，且，该报导称，由于维吾尔人与汉人的脸孔特征十分不同，该计划的技术难度并没有想像中高。

由于维吾尔人与汉人的脸孔特征十分不同，AI辨识技术难度并没有想像中高。 图／路透社

「以 AI 分辨种族面谱、针对维吾尔人执行监控」是否只是天马行空？

《华盛顿邮报》向麻省理工学院的人工智慧实验室询问，研究人员 Jonathan Frankle 证实，尽管目前美国并未应用具有族群身份侦测功能的软体，且该判定技术深受光线、角度、个体差异的影响，但具特定演算法的 AI ，确实可以甄别出特定脸部特征与个体种族身份之间的关联性，且其敏锐度可以透过大量的脸部影像来进行训练、累积、改善。而这类技术将致使「自动化族群歧视」（automating ethnic discrimination）成为可能。

然而，这类系统的开发需要大量资本投注，以维系 AI 精进演算法所需的大量运算需求，还需要大量的人脸资讯以提高精准度。Frankle 语重心长地表示：

这类系统的开发需要大量资本投注，以维系 AI 精进演算法所需的大量运算需求，还需要大量的人脸资讯以提高精准度。 图／路透社

或许政府当局的野心，对于生活在新疆的人们而言，可说是毫不意外。更甚于 2009 年的满城安检哨点，类似概念的举措早已贯彻在新疆的日常之中，例如系统性地采集部分维吾尔人的基因资讯，每个小区、巴札、百货商场无所不在的查证与「刷脸」，早已建立起类似的「结界」。

此外自治区政府也早已于硬体层面积极布局。

据《纽约时报》报导，隶属自治区政府的乌鲁木齐云计算中心自 2016 年起投入营运，成立目的在于「在云计算、大数据、深度学习等技术的帮助下，智能视频分析引擎可以整合视频录像、Wi-Fi 热点、检查站信息、人脸识别分析等警方数据和应用，支持各部门行动。」

该中心的服务供应商中科曙光如此宣传，以将工作思维「从事后追踪升级为事前预测性警务，提高维护社会稳定的能力」。中科曙光具有解放军资金背景，也是中国军用设备重要供应商。目前该中心已跻身全球最快计算机榜单前两百位之内。

自动化地辨识出政府所欲监管的人士，以维护所谓的「社会稳定」，这类技术也越来越受商用市场、极权国家欢迎，也是中国政府口中，中国技术对于全球安全所做出的「重大贡献」。

自动化地辨识出政府所欲监管的人士，以维护所谓的「社会稳定」。 图／路透社

▌「阿克苏名单」披露的监控内情

与「维族告警」新闻释出同日，国际组织「人权观察」（Human Rights Watch）发表了以〈新疆穆斯林成为大数据计划目标〉为题的长篇分析报告，指出该组织取得一份自新疆阿克苏地区流出的被拘留人士资料，继去年首发的研究报告及年初的「墨玉名单」后，再次证实中国政府使用名为「一体化联合作战平台」（Integrated Joint Operations Platform, IJOP）的大数据计划，以监控、标示（flag）、筛选并进而拘禁突厥裔人士。

该报告指出，中国政府部门使用「一体化平台」，整合各类监控系统所搜集来的资讯，诸如医疗资讯、通联纪录、居住迁移史、工作史、车辆纪录、亲友往来纪录等等，而后进行初步的资讯比对，依据官方设定的标准、筛选出可疑人物清单，让有关单位执行后续判处。这次流出名单的两千多位阿克苏居民即是于 2018 年期间被该平台筛选出，评估后被收入所谓的「职业培训机构」。

除外界所知的大批常见理由外，本次名单中，个体被该平台标示为可疑人物的理由还包括：「没有固定居住地址」、「一再更换手机」、「使用不是自己名字登记的手机门号或身分证」、「属于 80 后、90 后不放心人员」、「平时行为可疑、社会关系复杂，或者思想不稳定，或（性）关系不正常者」等等。

近似于年初的「墨玉名单」，「阿克苏名单」呈现了新疆警务体系的日常监控过程：将资讯整合过滤，决定是否拘禁个体，以及日后的拘留期程是否延长；在这两个决策过程中，「一体化联合作战平台」皆扮演提供必要决策资讯的角色。

2018年12月3日，人们在新疆的阿图什市职业技能教育培训服务中心。 图／路透社

相对于过往的社会控制过程，高度仰赖大量警务基础建设投注、安插多面向的举报管道一类的预防措施，「维族告警」与「一体化作战平台」等政府治理意志的数位实践均让我们再次确认，自治区当局的治理思维已由「事发防范」，升级成为种族针对性的「事前预警」，针对被设定为「具有潜在威胁」的特定族群，施以自动化的数位监控、筛选。

「人民反恐战争」的最前沿，不再是武警或路障，而是脸孔辨识演算法和大数据平台；安检人员自然不再需要听取任何的辩解，查证刷脸后一切交给「大数据」决定。

且已有越来越多学术研究指出，中国的数据产业发展和政府的治理意图紧密相关，两者合作的背后涉及了大量国家资本投注、数据共享，彼此相互增强——在合作实务中增强产业技术、增强社会控制。

中国当局所企图构筑的，是一个什么样的社会控制图像？是怎么样的一个美丽新世界？我们该如何理解这一系列发生在新疆的改变？

「人民反恐战争」的最前沿，不再是武警或路障，而是脸孔辨识演算法和大数据平台；安检人员自然不再需要听取任何的辩解，查证刷脸后一切交给「大数据」决定。 图／法新社

▌数位围场与恐怖资本主义

在这个议题上，目前走得最远的是人类学家 Darren Byler。

基于 2011 年起在首府乌鲁木齐与南疆的田野工作，以及近三年与大量拘留营当事者所做的访谈，他提出了「数位围场」（Digital Enclosure）与「恐怖资本主义」（Terror capitalism）等两个概念，来理解眼下新疆的景况。

上周，Byler 在期刊《Society & Space》的论坛集中，提出〈突厥裔穆斯林的数位围场〉（The Digital Enclosure of Turkic Muslims）一文，简要的解析他对于当前政府数位化监控的见解。

他认为当前政府以警务设施、拘留营体系，乃至于各样的「就业安置」、「劳务转移」，佐以影像监控、一体化平台等科技工具所施行的社会控制系统，可统称之为「数位围场」，其目的在于种族式地针对突厥裔住民，将他们圈限、监控、改造成为一个以产业工人为主的永久下层阶级（permanent underclass）。

图为新疆的「就业安置」现场。当前政府以警务设施、拘留营体系，乃至于各样的就业安置、劳务转移，佐以影像监控、一体化平台等科技工具所施行的社会控制系统，可统称之为「数位围场」。 图／美联社

透过人工智慧、大数据、自动化资讯平台等科技所建构起的「数位围场」，对于政府和高科技财团而言，是一个全新、具多重意义的数位「新疆（域）」（new frontiers）：一方面，获取其疆域内「坏穆斯林们」所产生的行为监控数据，进行各样的数据征用以改良既有监控分析技术，一方面，则可更不受阻碍地以权力使人们成为国家、产业所需的劳动力。

经过这样长期的控制，维吾尔将成为一个以受政府摆布的低阶劳务阶层，数位围场内的维吾尔生活，将具有三重彼此相关的核心意义：

顺服党与国家、产生数据、成为劳动力。

透过人工智慧、大数据、自动化资讯平台等科技所建构起的「数位围场」，对于政府和高科技财团而言，是一个全新、具多重意义的数位「新疆（域）」（new frontiers）。 图／美联社

而为了将数位围场的概念放置在更全球性的历史脉络来理解，Byler 和社会学者 Carolina Sanchez Boe 将这类新崛起的治理模式称为「恐怖资本主义」。

乘着后 911 席卷全球的反恐风潮，恐怖资本主义系指国家以消灭潜在恐怖活动和维系国家安全为由，运用科技与数据积累，合理化并强化国家与财团对特定边缘群体的劳动剥削，这样的合谋关系的目的，在于社会控制且扩展潜在的廉价劳动力来源。

其获益模式可简述为：国家宣称特定族群涉及恐怖活动、可能颠覆国家安全，政府提供价格可观的承包合约予科技财团，建立相关警务设备，监控、管理国家所设定的目标群体，例如无所不在的检查哨、监视仪器、脸部辨识系统等。

运用取自于目标群体的大量的生物资讯数据与社群网络数据，相关产业借此改善、精进现有的科技水平，并将更精准的设备转卖给其他客户，包括私人企业或其他政府客户。

政府提供价格可观的承包合约予科技财团，建立相关警务设备，监控、管理国家所设定的目标群体，例如无所不在的检查哨、监视仪器、脸部辨识系统等。 图／美联社

最后，无论是透过直接的国家暴力，或是间接的污名，将目标群体转化成为国家或资本家所需要廉价劳动力来源。该特定群体经此过程，往往被改造成没有主体性，任由国家摆布、且难以抵抗国家体制的低阶劳动力。以新疆的例子而言，即为大量被「职业培训」后、安置到石化产业、纺织业工厂的维吾尔工人们。

值得注意的是，监控、资本与国家的合谋主要源自于 911 后，美国对寻求庇护的外来移民的监控实践经验，但这类运作模式，目前也广泛为各国政府所应用，如北印度的孟加拉裔住民和巴勒斯坦的阿拉伯裔住民，但新疆的案例却是最能够阐述其精髓，且是涉及规模最大、仍在进行中的骇人案例。

相关学者也开始担忧，这套于新疆发展已臻成熟的数位治理技术——继菲律宾与辛巴威之后——将输出至更多以「反恐」为名，行扩权统治之实的专制政权手中。

2019年7月11日，一名巴勒斯坦男子在耶路撒冷穿越使用指纹压印的生物识别门。 图／路透社

▌科技极权实验场，终将走到何处？

2020 年末，对于华为疑似正在开发的「维吾尔警报」系统，以及格里兹曼的解约通告，中国外交部发言人华春莹仅冷淡回应：「有关人士想跟谁合作，这是他的事情。」

对于人权观察提出的阿克苏名单，那些行使合法、不涉及暴力的行为的人们，却因被一体化平台标示，而被为当局所拘禁一事，另一位发言人赵立坚仅不屑地回应：「这个所谓的人权组织一向充满偏见、搬弄是非，有关言论不值一驳。」

相形于当局反应的云淡风轻，长期关注科技监控与极权主义之间关系的学者们，则逐渐透过商业报告、被拘留者的证词、外泄的受害者名单、政府文件，拼凑出一个愈加完整的、当代新疆的数位图像。也据此警告，新科技与社会控制在中国，毫无节制的合谋，以及该技术模式的扩张输送，将是未来全球社会所需面对的全新议题。

从高度仰赖人工拦检、查证登记，到扫码刷脸，十余年过去了，维吾尔人的家园早已沧海桑田，而那位在喀什市郊、跟武警争论着的维吾尔青年，现在人会在哪里呢？我不大敢细想。

新科技与社会控制在中国，毫无节制的合谋，以及该技术模式的扩张输送，将是未来全球社会所需面对的全新议题。 图／路透社