全球IT企业与学界成立非营利基金会以“AI安全时代”为目标

by Lee Seunghyeong

Published 11 Feb.2025 09:15(KST)

为加强人工智能（AI）时代的线上安全，企业、学界和公民社会携手成立了一家非营利基金会。

前谷歌首席执行官 Eric Schmidt / 路透社联合通讯社供图

“ROOST（Robust Open Online Safety Tools）倡议”表示，将于10日（当地时间）在法国巴黎举行的第三届人工智能国际峰会期间正式启动。

该基金会以美国纽约哥伦比亚大学为基地，由主要信息技术企业和全球慈善机构合作，目标是在人工智能时代构建安全的互联网环境。前谷歌首席执行官（CEO）Eric Schmidt、Discord、OpenAI、谷歌、Patrick J. McGovern基金会、Project Liberty研究所等参与其中。

ROOST计划在各类线上安全议题中，特别是在儿童保护领域，利用基于人工智能的技术提供安全解决方案。同时，还将提供儿童性虐待内容的检测与举报支持、利用大型语言模型（Large Language Model）的安全技术开发以及有害线上内容屏蔽功能等。

ROOST将基于开源模式，向公共和民间机构提供任何人都能轻松使用的免费工具，并计划支持中小企业及非营利组织构建自身的安全防护系统。

ROOST在过去4年间从信息技术企业及慈善机构处获得了2700万美元（约3.92亿元人民币）的初始投资资金。今后计划与更多企业和机构合作，推进全球扩展。

前谷歌首席执行官Eric Schmidt表示：“ROOST将在加速推动线上儿童保护和人工智能安全创新方面发挥重要作用。特别是通过向此前难以获得相关技术的中小企业和非营利组织提供技术，将提升互联网的安全性。”