[AI一口新闻]从核开发到自我复制…AI灾难应对小组出动

by Choi Yuri

Published 29 Oct.2023 09:00(KST)

OpenAI新设团队分析并应对AI相关灾难

编者按自从ChatGPT问世以来，全球都因人工智能（AI）而沸腾。技术日新月异，各类新闻铺天盖地。就连久经沙场的业界专家都应接不暇。信息多到“吃不完”，但又不能“饿着”。我们从每周AI热点中挑出最核心的部分，精炼整理后呈现给大家。

稍显落后的苹果，加速踩下生成式AI油门

检方就苹果涉嫌向国内应用程序开发商超额收取数千亿韩元应用内支付手续费一事展开调查。照片为18日位于首尔的苹果商店江南店。照片由记者 Kang Jinhyung 提供 aymsdream@

在生成式AI领域一直动作偏慢的苹果，正试图迎头赶上。最快从明年起，苹果计划在自家产品中搭载类似ChatGPT的生成式AI。据报道，为追赶竞争对手，苹果每年将投资10亿美元（约合1.35万亿韩元）。目前苹果在部分产品中已经利用AI进行照片和文本编辑，但尚未正式推出生成式AI服务。外界只知道，苹果已自研大型语言模型（LLM），并在内部搭建了类似ChatGPT的聊天机器人服务。这样的苹果，被认为有可能从明年开始，把生成式AI融入语音助手Siri、iPhone操作系统（OS）以及内部开发工具等。

“阻止AI灾难”……OpenAI成立风险应对团队

OpenAI新组建了一个团队，专门应对与AI相关的“灾难性风险”。该团队负责分析并防范包括类似核武开发的化学、生物威胁，以及AI自我复制行为等风险，还涵盖欺骗人类的AI和网络安全威胁。OpenAI首席执行官（CEO）Sam Altman今年5月曾与多位知名AI研究人员一起发表声明，称“全世界都应把降低AI给人类带来的灭绝风险作为首要任务”。他在一次采访中还警告，各国政府应像对待核武器那样严肃对待AI。

中国AI专利申请量为美国两倍

图片由联合新闻提供

中国去年在AI专利申请数量上大幅领先美国。中国提交的AI相关专利共2万9853件，位居世界第一。排名第二的美国为1万6805件，仅为中国的一半左右。日本（8870件）和韩国（7899件）分列其后。自2017年登上首位以来，中国与美国之间的差距不断拉大。美国AI专利申请量逐年减少，而在政府支持加持下，中国则持续增加专利数量。

必读新闻

“月薪150万不如去美国年入5亿” 首尔大·KAIST人才纷纷收拾行囊 [科学家正在消失]①

“开发像人一样思考的AI”

一种“像人一样思考”的AI已经问世。该AI由美国纽约大学心理学系教授Brenden Lake团队开发，应用了模仿人类思维方式的“元学习”技术。通过这项技术，AI在学习一个概念后，能够将其与其他概念结合，从而扩展知识。例如，学会“跑”这个词后，就能理解“在房间里跑两圈”“举着手跑”这类表达的含义。过去主流观点认为AI无法进行这种思考，相关开发也屡屡失败。相比之下，这次开发的AI重点接受了“给定一个单词，然后生成新的单词组合”的训练。在一般学习任务中，它不及ChatGPT，但在元学习任务上却超越了ChatGPT。

한글 기사 보기

本报道由人工智能(AI)翻译技术生成。