秘书、同事之外还能创造数字世界的“我”

SKT、Naver等企业加速研发AI代理

须提升用户信任并消除个人信息等不安因素

全球社交平台“LinkedIn”联合创始人兼OpenAI早期投资人Reid Hoffman在今年4月利用人工智能(AI)技术做了一项有趣的实验。他让AI学习自己20年来创作的书籍、演讲稿、播客以及媒体采访内容,打造出一个名为“Reid AI”的个人专属虚拟化身。

里德·霍夫曼在今年4月利用多种人工智能(AI)服务,让一款学习了自己相关数据的化身“Reid AI”完成训练,并与其进行了一次采访。霍夫曼与 Reid AI 互相提问作答,展现出互动交流的场景。 YouTube提供

里德·霍夫曼在今年4月利用多种人工智能(AI)服务,让一款学习了自己相关数据的化身“Reid AI”完成训练,并与其进行了一次采访。霍夫曼与 Reid AI 互相提问作答,展现出互动交流的场景。 YouTube提供

View original image

Hoffman通过一段约14分钟的YouTube视频公开展示了自己与Reid AI相互问答的场景。视频中,Reid AI在脸部与声音上与Hoffman几乎一模一样,连肢体动作都十分自然。它能够用一句话概括Hoffman所写的书,也会阐述对政府AI监管的看法。视频中段,Reid AI还向Hoffman发问:“你怎么看待AI导致工作岗位消失的问题?”展现出双方互动交流的样子。观看视频的网友纷纷表示“Reid AI自然的肢体动作令人惊讶”“好到让人起鸡皮疙瘩”“太梦幻了”等反应。


Hoffman认为,借助Reid AI可以把自己的想法翻译成多种语言进行传播,还能像一面镜子那样,帮助自己回顾个人的理念与性格。也就是说,他在思考如何利用AI虚拟化身来帮助自己与更多人建立联系并展开合作。


Hoffman在题为“与AI虚拟化身的问答”的帖子中表示:“一种强大的技术已经到来,我们必须利用这项技术,使自己变得更加有人性。”他强调:“在我们共同塑造未来的过程中,保持审慎与谨慎的态度至关重要。”


目前,人工智能(AI)服务正展现出从简单聊天机器人,向助手、智能代理再到虚拟化身的分阶段演进路径。AI助手主要指苹果的Siri、亚马逊的Alexa、OpenAI的ChatGPT等,主要用于回答问题和协助完成任务,需要用户发出指令,无法独立运行。与此相对,能够执行类人工作的AI智能代理具备一定自主性,能够感知环境并作出决策,向用户主动提出建议等。以让人联想到电影《她》(Her)的OpenAI GPT‑4o,以及谷歌推出的未来型AI智能代理“Project Astra”等,都是典型案例。亚马逊云服务(AWS)则将AI智能代理描述为“无需人工介入即可执行特定任务的自主智能系统”。比AI智能代理更进一步的阶段,正是前文所述那样,能够完整复制用户本人的数字孪生体——AI虚拟化身。

对话式AI的终极目标是主体性与创造性执行

根据全球市场调研机构“MarketsandMarkets”的数据,对话式AI市场规模到2030年将以年均24.9%的速度增长,维持强劲增势。从今年的132亿美元(折合约17.5万亿韩元)预计增长到2030年的499亿美元(约66万亿韩元)。

Naver代表Choi Suyeon正在发布用于人工智能服务的超大语言模型“HyperCLOVA X”。 照片=记者Kang Jinhyung aymsdream@

Naver代表Choi Suyeon正在发布用于人工智能服务的超大语言模型“HyperCLOVA X”。 照片=记者Kang Jinhyung aymsdream@

View original image

韩国国内代表性对话式AI智能代理是NAVER的“Clova X”。Clova X近期通过更新,升级为具备视觉信息处理能力的多模态AI。不仅可以分析表格和图表,还能推理图片中的情境并编写代码,应用范围大幅拓展。


最近,SK电讯与美国AI独角兽企业“Perplexity”共同发布了“个人AI智能代理(PAA)”战略。其开发水平被划分为从1级到5级。目前,SKT应用程序“Adot”已升级到利用具备推理和搜索功能的多重大型语言模型(Large Language Model,LLM)的2级。在2级阶段,通过AI智能代理功能分析用户偏好,可在音乐、媒体、证券等特定领域为用户提供业务协助。


在3级阶段,目标是让AI智能代理能够独立、个别地完整处理某项工作。4级则是能够分析复杂任务、制定计划并执行;在最终的5级阶段,AI智能代理将具备主动提出和设计工作的能力,实现“创造性工作执行”。


如果AI技术进一步发展,其角色将超越秘书、同事的层级,成为数字世界中的“另一个我”。在这一阶段,AI不仅能提升个人的工作生产率,还能突破语言障碍,在数字空间中与全球用户交流合作,拓展连接范围。这也使得Hoffman提出的“AI不是‘替代’人类,而是‘扩展’人类”的未来愿景有望成为现实。

AI演进路上遇到的个人信息“门槛”

然而,天下没有免费的午餐。AI智能代理掌握的用户信息越多,产出的结果就越精准、越令人满意。也就是说,要使用AI服务,就必须向企业全面提供个人数据,因此大规模收集个人信息几乎不可避免。从Clova X的使用条款来看,用户与AI之间的对话内容会被保存,其中包含有害关键词的部分对话内容等,还可能由人工进行审查。

[进化中的AI助手] 从“另一个我”AI助手、智能体到虚拟形象 View original image

在注册Adot时,平台会收集用户的姓名、电话号码、社交账号、电子邮箱地址,以及语音与聊天指令语言、通过AI服务对话和问答内容推断出的个人兴趣与偏好、终端位置信息、在Adot电话服务中被摘要的通话内容、用户上传的图片和视频文件等各类信息,以及内容与媒体的使用记录。甚至从用户请求证券信息的时间,到为生成AI个人档案而上传的照片等,都会被采集,涉及数十种信息。


SKT全球与AI技术事业部部长Jung Seokkeun也公开阐述了利用这些数据推进全球化的战略。他表示:“我们可以提供全新的AI驱动客户体验,还能将业务模式拓展到通信以外的服务,例如了解客户喜欢什么餐厅、去哪里度假、对哪些领域的新闻感兴趣等。”

个人信息一旦泄露 将暴露于“深度伪造声音”犯罪

国际人工智能伦理协会(International Association for Artificial Intelligence Ethics,IAAE)会长Kim Myungju表示:“一旦积累在企业中的个人信息和隐私信息泄露,可能造成诸如短信诈骗、语音诈骗等实质性损害。”他指出:“今后,企业在本人身份认证流程方面也必须进行严肃考量。如果AI智能代理仅凭用户的声音即可运作,那么就可能被深度伪造声音技术所模仿,并被用于新型犯罪。”Kim会长建议:“AI企业有义务致力于防止用户个人信息泄露,并且仅收集提供服务所必需的信息。”

[进化中的AI助手] 从“另一个我”AI助手、智能体到虚拟形象 View original image

全球调研企业Gartner在去年7月发布的题为《首席技术官在实现AI价值过程中面临的挑战课题》的报告中指出:“对个人信息进行大范围收集与存储,可能导致未经授权的访问或身份盗用。”AWS方面也表示:“要开发和运营高级AI智能代理,就必须获取、存储和传输海量数据。各组织应充分认识数据隐私的要求,并采取必要措施强化数据安全态势。”



此外,AI所推荐的服务究竟是反映用户偏好的结果,还是广告内容,也有必要加以明确区分。Perplexity首席执行官(Chief Executive Officer,CEO)Aravind Srinivas表示:“我们将通过引入广告等方式多元化收入来源。”据介绍,Perplexity的AI搜索服务在给出答案的同时,还会向用户推荐后续问题,在这一过程中可以展示广告主的企业信息。正如早期门户网站时代,人们难以区分纯粹的相关搜索结果和广告网站一样,类似情况今后也可能在AI服务中重演。


本报道由人工智能(AI)翻译技术生成。

版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。

不容错过的热点