可替代用户操作鼠标和键盘
因AI代理安全隐忧被下达禁用令
高实用性也获正面评价
“必须多做、多测试”
能够代替用户操作个人电脑并执行办公任务的人工智能(AI)代理(助理)“Openclo”的应用正不断增加。舆论认为其可以实质性替代人的部分工作,但随着安全忧虑被提出,禁止使用该服务的IT企业也在增多。
据IT业界9日消息,Naver(네이버)、Kakao(카카오)、Danggeun(당근)等公司近日公告称,禁止在公司内部使用开放型AI代理Openclo。Kakao为保护公司内部信息资产,已禁止在内网和工作用设备上使用Openclo;Naver和Danggeun同样通知,将在公司内部限制使用Openclo。这是国内IT企业自去年对中国生成式AI“DeepSeek”进行广泛限制后,首次再次大范围限制AI服务的使用。
Openclo是奥地利开发者 Peter Steinberger 开发的开源AI代理。AI可以代替用户查看电脑屏幕并操控鼠标和键盘,从而实质性地执行各类工作。不仅能够替用户撰写电子邮件或文档、管理日程,还可以代替完成诸如整理电脑文件、启动程序等必须直接操作电脑的任务。该代理最初以“Claudebot”之名提供服务,但由于提供生成式AI服务“Claude”的Anthropic公司提出商标权问题,它先后更名为“Maltbot”,最终定名为Openclo。
在海外,也出现了阻止使用Openclo或就其安全性提出忧虑的声音。据外媒报道,中国工业和信息化部(MIIT)本月5日(当地时间)警告称,如果Openclo设置不当,可能成为网络攻击和数据泄露的通道。美国微软(Microsoft)的人工智能安全团队也正式表示担忧,称“Openclo在企业级应用方面的安全性仍然薄弱”。
之所以出现上述忧虑,是因为AI代理Openclo在运行时必须访问并利用各类信息。它可以代替用户自主执行工作,但在运行过程中会使用到业务机密或敏感的个人信息。在这一过程中,无法排除Openclo发生故障或因安全缺陷导致信息泄露的可能性。再加上Openclo本身是个人发起的开源项目,在安全层面存在明显局限。
实际上,曾有报告指出,在Openclo中用户的应用程序接口(Application Programming Interface)密钥会被泄露,或通过“间接提示注入”攻击,使AI窃取敏感个人信息和金融信息等的安全漏洞。
尽管如此,也有评价认为,Openclo有望推动能够实质性替代人类工作的“Agentic AI(代理型AI)”系统走向大众化。Upstage代表 Kim Sunghoon 在其社交媒体上发布称:“上周使用Openclo、Maltbook和Botmadang时,感受到的是惊讶、恐惧与心动”,“(AI的)奇点正在临近。我们应在谨慎接近的同时,尽可能多地进行测试和开发”。
由于价格低廉且AI运算性能出色,被视为运行Openclo的最优设备——苹果桌面电脑“Mac mini”在国内外都出现供不应求的局面。在国内主要电商平台上,Mac mini已售罄无法购买,苹果官方网站也提示发货时间将耗时1个月以上。
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。