谷歌、Meta、OpenAI、Naver等出席
个人信息保护委员会15日表示，作为定于16日举行的全球隐私大会（GPA）的会前附属活动，已举办“开源日”。
当天活动有谷歌、Meta、微软、OpenAI、SelectStar、Aim Intelligence等全球开源模型与解决方案企业，以及韩国国内人工智能企业、研究人员和海外监管机构等共120余人出席，就开源人工智能生态与隐私问题进行了讨论。
个人信息保护委员会今年年初曾与人工智能初创企业举行座谈会，讨论开源生态的隐私“护栏”。从去年到今年年初，委员会还针对包括开源模型在内的主要大型语言模型（LLM）开展事前实态检查，掌握开源人工智能环境下个人信息保护相关的风险程度。
在此基础上，委员会细化了开源生态中的风险管理与责任分担方案等内容，先后发布了《人工智能隐私风险管理模型》和《生成式人工智能个人信息处理指南》。
根据个人信息保护委员会在活动前进行的简易问卷调查，在参与调查的70名开发者、研究人员及企业相关人士中，约62%有引入和利用开源的经验。表示在利用开源模型进行微调时曾考虑安全性的比例高达77%。
当天出席活动的全球开源人工智能企业分别介绍了各自的开源生态和实际应用经验。谷歌在介绍用于高性价比运营开源模型的平台Vertex AI时，分享了大型语言模型质量评估工具、提示词优化功能、安全性强化工具等，用于确保可信度和安全性的工具使用方案。
Aim Intelligence结合自身经验，分享了企业在面向客户的人工智能服务运营及内部办公用人工智能模型利用过程中所面临的安全性与信息安全课题。该公司将Meta的开源人工智能过滤模型“Llama Guard”高度本地化以契合韩国实际情况，曾因此获得“Llama Impact Innovation Awards”。
微软以基于Azure AI Foundry构建Agent AI的客户案例为例，提出了构建Agent AI时利用开源模型和工具的可能性。OpenAI则介绍了新近公开的自家开源模型（gpt-oss-20b/120b），并在此基础上提出开源模型所具有的经济和社会价值，以及围绕安全性担忧、责任问题和全球层面讨论必要性等，阐述了开源扩散过程中面临的课题。
Naver介绍了开源模型HyperCLOVA X，以及为利用开源而提供的公开数据集、基准测试和人工智能安全性框架等工具。SelectStar则介绍了利用开源模型和技术开发的人工智能可信度验证解决方案DATUMO Eval，说明其在人工智能数据与可信度业务过程中为扩散开源生态所作出的贡献。
在随后进行的实时问答环节，与会者围绕在引入开源过程中遇到的困难以及与隐私相关的顾虑等一线声音和解决方案展开讨论。大家就开源人工智能引入过程中如何保障安全性与可信度进行了交流，包括：个人信息和敏感信息过滤及验证程序、微调时的考量事项、红队测试设计方案等。
最后一个环节是由包括韩国个人信息保护委员会在内的英国、意大利、巴西等4个国家的个人信息监管机构作为嘉宾参加的圆桌会议。4国个人信息监管机构就开源人工智能生态中的隐私考量进行了讨论，并一致认为有必要实现值得信赖的人工智能。
个人信息保护委员会副委员长Choi Janghyeok表示：“本次‘开源日’作为首次公开讨论以Agent AI等创新服务为基础的开源人工智能生态与个人信息保护的国内论坛，具有重要意义。委员会将倾听企业和研究人员的一线声音，积极反映到政策中，使其能够放心利用开源。”
当天出席活动的个人信息保护委员会非常任委员Kim Hwigang表示：“开源的开放与共享文化正在加速最新技术的扩散，成为推动各类产业和整个社会创新的动力。希望此次活动能成为共同探索开放且可信的人工智能发展的一个有意义的起点。”
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。
