9岁非法移民若被监控到90岁会怎样 [AI错误笔记]

by Kim Dongpyo

Published 08 Mar.2025 15:19(KST)

特朗普加大利用人工智能驱逐移民
借助各类数据实现终身追踪与监控
担忧对低收入群体和少数族裔形成歧视性标签
人工智能不应沦为踢翻向上阶梯的工具

编者按审视失败，是通往成功的捷径。“AI错题本”栏目将探讨与人工智能相关的产品与服务、企业与人物的失败案例。

“要把非法移民从美国驱逐出去”

美国总统Donald Trump一上任，就把“大规模驱逐非法移民”列为首要课题。国土安全部（DHS）、移民与海关执法局（ICE）等机构也因此承受着执法业绩方面的压力。

在这一过程中，结合人工智能（AI）的尖端监控技术被投入使用。用于识别和追踪非法移民与非法滞留者的大规模系统正在运行。

技术无疑是解决社会各类问题、提升生活质量的强大工具。无论是提高医疗诊断的准确度、改善能源效率，还是预测自然灾害，人工智能都在诸多领域带来积极变化。

然而情况并非总是如此。尤其是在此次这样的案例中，“利用AI等技术高效筛选人类”的想法本身就蕴含潜在风险，而且这种风险的规模可能远超预期。

不妨来看看，人工智能在现实中究竟是如何对人进行分类和筛选的。

基于AI的风险评估系统

2024年8月20日（当地时间），在密歇根州举行的美国总统选举拉票活动中，美国总统唐纳德·Trump（当时为共和党候选人）手持关于非法移民涌入和犯罪率的资料发表演讲。AP联合新闻供图

移民与海关执法局使用名为“飓风评分（Hurricane Score）”的人工智能算法，以1至5分的量表评估移民的风险度。系统会分析个人违法记录、公共机构服务使用记录、就业信息与纳税记录、出入境记录及相关行政信息，以预测该移民规避当局监管的可能性。算法给出的分数虽不会直接决定收容或驱逐，但会成为ICE执法人员作出决策时的重要参考。

除此之外，还有多种数据被纳入使用。联邦机构保存的生物识别信息、在边境收集的数据、执法机构的无人机和执法记录仪视频等海量信息，都可以输入AI工具进行分析。在州政府与地方政府的配合下，甚至有可能进一步利用交通摄像头、车牌识别系统、收费系统的位置信息。

此外，国土安全部还部署搭载AI的无人机和传感塔，对边境进行监视。该系统通过机器学习区分人、动物和车辆，识别异常模式，从而发现非法越境行为。还有一款名为SmartLINK的应用程序，通过人脸识别和位置追踪功能，据称可以对数十万名未登记移民进行实时监控。

收集到的数据被用于识别和追踪“非法”移民。但这一系统并不只是提高行政效率的工具，它还有可能演变为强化针对特定族群和阶层的结构性歧视的手段.

更重要的是，这类AI系统往往会对社会弱势群体造成污名化等副作用。

AI如何歧视并困住低收入群体

黑色背景中，一名单手握着天平的人物剪影显现，剪影内部被象征数字世界的0和1填满。Getty Image Bank供图

2006年，美国印第安纳州引入了利用IBM技术的“福利待遇资格审查自动化流程”。具体包括：▲最大限度减少面对面服务，转为呼叫中心与线上申请；▲文件处理与资格审查实现完全自动化；▲通过AI算法评估骗取福利的风险；▲建立标准化的问答系统。看上去，业务处理速度有所提升，似乎也大幅筛出了违规领取福利的人。

但这更接近于“筛错了人”的结果。对于家庭关系或居住状况复杂的人群来说，很难用标准化表格准确呈现情况，往往会在无意中在申请表上出错，甚至干脆放弃申请。存在心理健康问题的申请人，也难以承受长时间电话等待和复杂的线上流程。残障人士和老年人放弃申请的案例尤为突出。

在匹兹堡，当局引入了儿童虐待预测算法，初衷是尽早发现并应对儿童虐待问题。系统以家庭福利领取记录、父母犯罪记录、家庭成员心理健康就诊记录、学校出勤率与成绩、所在社区犯罪率与贫困率等为基础数据，将各家庭的风险度量化为1至20分。人们原本期待，通过对高风险家庭实施重点监控，就能及早发现儿童虐待行为。

然而事态并未如预期发展。公共服务使用记录较多的低收入家庭，会自动被归类为“高风险”家庭。一旦被贴上“高风险”标签，就会持续成为监控对象，更容易被系统“抓到”，从而形成恶性循环。此外，一些父母出于担心未来受到不利对待，开始回避心理健康服务。

数学也能成为大规模杀伤性武器（WMD）

上述案例表明，人工智能已经进入一个新阶段，它不再只是提升行政效率，而是直接影响到人的基本权利与尊严。尤其是针对移民群体的AI监控与管控，有可能进一步强化并制度化既有的种族与社会偏见。

正因如此，有观点指出，我们必须重视技术可能反而加剧社会不平等、进一步边缘化弱势群体这一问题。

美国数学家兼数据科学家Cathy O’Neil将人工智能和算法的危险性比作大规模杀伤性武器（Weapon of Mass Destruction）。她更进一步，将AI界定为另一种WMD，即“数学大规模杀伤性武器（Weapon of Math Destruction）”。

由于算法的决策过程如同黑箱，人们几乎无法对结果提出异议，甚至连开发者自己都无法解释结果为何会如此生成。尽管如此，AI输出的结果却会同时影响数百万人，一旦系统出现错误，就可能演变成大规模损害。教育、就业、住房、金融、福利等领域无一例外。

不是踢翻梯子的AI，而是铺设梯子的AI

正如非法移民监控、福利资格判定、儿童虐待预测等各类案例所显示的那样，AI与自动化系统在带来效率与便利的同时，也潜藏着严重的社会风险。尤其是一旦遭到一次负面评估，这一“标签”就会如影随形，诱发长期且结构性的各种不利后果。

技术本身是中立的，但当人类的判断与数据的局限叠加在技术的设计与运行之中时，它最终可能沦为加剧社会不平等与歧视的工具。AI本身既不完美，也谈不上天然公正。我们必须广泛收集多元化的训练数据，并对具有代表性的数据进行精细清洗，否则就等同于把既有的社会问题和偏见原封不动地固化在系统之中。

必读新闻

三星放缓之际猛然追上…中国D램一年内转亏为盈

要让AI技术朝着更加合乎伦理、公平正义的方向发展，必须确保技术具备透明性与责任机制，并建立起保护社会弱势群体的制度性装置。不能只沉迷于效率，而应在技术设计与落地实施的全过程中，充分体现公平与正义的价值。如果缺乏这类审慎考量就贸然推进AI自动化决策系统，只会加剧既有的社会不平等，从长远来看还会增加社会的不稳定性。对技术与人类互动关系进行细致考量，才是迈向更加公平与包容社会的捷径。

한글 기사 보기

本报道由人工智能(AI)翻译技术生成。