在围绕人工智能（AI）风险性的监管论述不断扩大的背景下，微软（MS）提出，应像为列车配备紧急制动装置那样，强制为AI安装在紧急情况下可以关闭或减速的“紧急刹车”。
据25日（当地时间）多家主要外媒报道，微软副董事长兼总裁 Brad Smith 当天在华盛顿州西雅图总部演讲时警告称：“关于AI的最大担忧，是如何解决利用AI技术操纵内容或视频等的‘深度伪造（deepfake）’相关问题。”
他特别就俄罗斯、中国和伊朗政府在网络空间开展的影响力行动指出，“必须采取措施，阻止出于欺骗人们或实施犯罪意图而利用AI生产虚假内容”。
同时，他强调，随着 ChatGPT 等生成式AI热潮的兴起，AI被广泛应用，在如何监管AI方面，必须采取措施，让公众能够分辨内容、视频、图像等究竟是真实存在，还是由AI出于恶意目的生成。
微软当天通过博客提出了“为AI监管应当考虑的五项原则”。其中第一项原则，就是建议对用于关键基础设施的特定AI系统强制安装安全刹车装置。
微软呼吁美国国会，对用于控制电网、自来水等关键基础设施的AI施加安全制动，以确保人类能够保持控制权。这类似于列车的紧急刹车装置，即为了应对突发情况，必须能够完全关闭或减缓用于关键基础设施设施的AI运行。
他补充称，此类制动装置长期以来已内置于电梯、校车和高速列车等其他技术之中。微软还建议，为政府主导使用AI技术建立“护栏”，并解释称，这类框架可由隶属于商务部的美国国家标准与技术研究院（NIST）等机构制定。
此外，微软还强调，应为应用程序、高级基础模型以及AI基础设施构建法律框架，并为AI相关的学术和非营利研究提供资金支持。
为应对AI对社会产生的影响，微软还建议构建公私合作关系。微软表示，所有开发或使用先进AI系统的组织，都应当开发并落实自身的治理体系，并称微软在过去6年间已经建立了这样的体系。
微软向 OpenAI 投资了逾100亿美元，引爆了全球AI技术竞争热潮。通过在搜索引擎必应以及文档工具等所有自家产品中搭载AI聊天机器人，微软与 OpenAI 被评价为在这场竞争中处于最前列。
另一方面，微软创始人 Bill Gates 于本月22日表示：“未来最顶尖的企业，将是打造个人数字代理（personal digital agent），也就是AI个人助理的公司”，“在像谷歌这样的巨型科技企业中，未来AI领域的赢家究竟是谁，目前还无法确定。”
他认为，随着AI加速推动新药开发的创新，“在10年内将实现对人类的试验”。他还将AI技术比作对白领劳动者产生巨大影响的“游戏规则改变者（game changer）”，并预测称，“今后出现的人形机器人也将对蓝领劳动者产生巨大影响”。
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。
