“类人机器人将掀第二次iPhone革命”引期待
中国研究所现失控案例，被指威胁人类
AI自主性愈强，安全可控方案亟待研究
特斯拉首席执行官（CEO）Elon Musk于本月13日在X（原推特）上公开了自家人形机器人“Optimus”跳舞的视频。在这段时长6秒的视频中，Optimus几乎和人类一样活动四肢。动作极为自然，在社交媒体上也引发了不小的热议。
随着人工智能（AI）基础设施的迅猛发展，人形机器人产业正在伸展筋骨。如果原本可能只是“废铁一堆”的机器人与“聪明的AI”结合，人们期待这将掀起一场超越“iPhone冲击”的革命。英伟达首席执行官Jensen Huang今年3月曾预告称，“制造业现场大规模投入人形机器人的时代已为期不远”，“这是在短短几年内就会发生的问题”。
正如Jensen Huang所言，人形机器人正被视为解决工厂、物流中心等制造业现场劳动力短缺问题的革命性替代方案。更进一步，人们也期待其在医院、养老机构、家庭等各个领域得到应用。
特斯拉已在弗里蒙特工厂启动Optimus机器人小批量生产，计划今年生产超过1000台并在自家工厂内部投入使用。其售价预计在2万至3万美元（约2800万至4200万韩元）之间。X Tesla_Optimus 提供
View original image市场同样一片火热。摩根士丹利在上月发布的报告中预测称，“到2050年，人形机器人市场规模将达到4.7万亿美元（约合6572万亿韩元）”。这相当于以2024年为基准，20家汽车制造商总销售额的两倍。摩根士丹利将特斯拉、英伟达、亚马逊、Alphabet等美国大型科技公司视为人形机器人市场的核心企业。
阿里巴巴、腾讯等中国企业也被纳入其中。中国凭借价格竞争力和较高的技术实力，正迅速成长为人形机器人强国。尤其是以“DeepSeek”等中国自研AI模型与中国庞大制造业基础设施环境之间的协同效应，正受到投资者关注。不过，人形机器人市场并非一马平川、毫无阻碍。
如果机器人威胁人类：失控的中国研究所事件
体型庞大、重量惊人，却能像人一样自由行动的钢铁之躯，会不会有一天变得“失控”？
近期，中国一所机器人研究所内发生了人形机器人“闹事”的事件。
从“希望之声”（SOH）公开的视频来看，两名研究所工程师正在操作吊在小型吊车上的人形机器人。正活动四肢的机器人突然像是失去控制一般，开始粗暴地挥舞手脚。工程师们慌忙后退，机器人的动作则愈发剧烈。SOH解释称，“看上去是暴露出处于测试阶段的人形机器人存在部分错误”。
这并非人形机器人首次出现“闹事”。今年2月，中国泰山灯会期间也发生了类似情况。优必选旗下的机器人“H1”突然挥舞手臂朝人群做出攻击性动作。该机器人开发公司解释称，“这是由于程序设定或传感器错误导致的事件”。
阿西莫夫“机器人三定律”之一：不得伤害人类
第一定律：机器人不得伤害人类，或因袖手旁观而使人类受到伤害。
第二定律：在不违反第一定律的前提下，机器人必须服从人类的命令。
第三定律：在不违反第一、第二定律的前提下，机器人必须保护自身的生存。
这是科幻界大师Isaac Asimov提出的“机器人三定律”。Asimov在1942年的短篇小说《Runaround》中首次提及机器人三定律。他的《I, Robot》等作品也都与这些定律存在直接或间接关联。
三定律的要旨很简单：机器人①不得伤害人类，②必须服从人类命令，同时③要保护自己。各条定律须以前一条为优先。乍看之下，这些定律简明且逻辑清晰，但在Asimov的小说中，这些定律不断受到挑战并被打破，进而引发出人意料的结果。
Asimov的故事在当下AI革命时期同样具有重要启示意义。无论规则设计得多么精妙，一旦应用于高度复杂的AI系统，依然可能导向始料未及的结果。定律之间的冲突、模棱两可的解读，以及难以预见的思维路径，都会表现为不可预测的行为。
当今我们开发的AI系统正变得愈发复杂。即使在现在，开发者也往往无法解释AI产出的结果。就像Asimov小说中的机器人那样，我们的AI也可能探索我们赋予规则的边界，有时甚至会钻进规则的空隙之中。从这个意义上说，机器人三定律并非单纯的虚构设定，而很可能是对当今AI安全重要性的前瞻。
AI摆脱人类控制、自行其是的情况，随时都有可能发生。AI正变得越来越聪明，自主性也在不断提高。
那么，如何才能安全地设计和运营AI呢？可以参考市场调研机构Gartner的报告。这份报告提出了几种防止AI失控的办法。
越来越聪明、越来越自主的AI机器人……应对之策
Gartner首先建议，“要事先识别风险领域，并尽可能缩小这些领域”。如果仅仅因为AI“足够聪明”，就不加区分地在所有场景中部署和使用，那么风险也会相应增加。
首席副总裁分析师Jorge Lopez表示，“从经验来看，最好的方法是，在能够实现业务目标的AI技术中，选择最不复杂、最不精细的那一种”。
换言之，就是只在“刚好必要”的范围内使用AI。一旦让AI拥有更大的自我学习、介入和行动空间，其脱离控制、偏离原有意图运行的可能性必然会增加。
另一项颇具趣味的建议，是强调AI的“良知”。
不应只给AI设定目标，还要同步努力，为其构建能够区分“应该做的事”和“绝对不能做的事”的良知。
如果只重视“目标”，就可能产生极端结果。假设我们在购物网站上开发AI推荐聊天机器人，如果只给它“让收益最大化”这一目标，它就会肆意推荐顾客并不需要、甚至不想要的商品。
当然，如果限制条件过多，AI也可能失去创造力，只会按部就班、机械执行。因此，人类介入以把握平衡就显得尤为重要。
随后被强调的一点，是要培育能够对上述事项进行综合性观察与设计的专业人才，并营造相应的责任文化。AI不仅是技术问题，也是人与组织文化的问题。
![“月薪150万不如去美国年入5亿” 首尔大·KAIST人才纷纷收拾行囊 [科学家正在消失]①](https://cwcontent.asiae.co.kr/asiaresize/93/2026051414165763158_1778735817.jpg)
在一些组织中，技术部门负责开发AI服务，而运营则由其他部门负责。即便运行上没有错误，也仍可能出现各种问题。此时，建议摒弃相互推诿的文化，转而营造一种共同思考“由谁来负责、如何解决”的组织文化。
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。
