NC推出聊天机器人“Ensswer” 搭载三重安全技术
国内首个综合AI安全系统实现商用
NC AI于30日表示，已在NCSOFT的客户咨询聊天机器人服务“NCER”中正式应用其自主开发的人工智能（AI）安全技术“Safeguard”。这是国内AI企业中首个将综合性AI安全系统导入商用服务的案例。
NC AI的Safeguard技术基于由红队、蓝队和紫队构成的三重安全体系运行。红队研究越狱（Jailbreaking）等新的恶意攻击模式，蓝队开发相应的防御技术。紫队则综合两支团队的成果并反映到策略中，形成一个循环结构。
尤其是NC AI与NCSOFT的发行协调中心协作，制定了反映游戏行业特性的“聊天机器人负面监管政策”。该政策包括与游戏服务相关的不当内容、与付费道具有关的投机取巧行为以及各类禁止行为等。
NCER是去年为提升基于AI技术和游戏数据的客户服务（Customer Service）效率及客户满意度而推出的服务，负责主要游戏中用户的实时咨询、漏洞反馈和意见受理等工作。
应用了Safeguard技术的NCER在阻断ML Commons和国际基准研究中提出的歧视、仇恨、辱骂、色情等一般不当内容的同时，也反映了游戏产业特有的安全需求。在实时对话环境中，系统可事先探测并立即阻断可能发生的各种风险情境。实际上，在《Lineage W》和《Lineage 2M》中，已经运行可识别并拦截13种语言广告模式的垃圾信息过滤系统。
NC AI计划将目前基于文本的安全技术扩展为基于视觉-语言模型（Vision-Language Model）的多模态内容检测，目标是构建能够全面阻断图像、视频等内容中可能出现的不当内容的下一代AI安全系统。公司还与AIWorks合作开发在高风险情境下也能实现安全响应的AI应答系统。NC AI表示，预计将为国家层面的AI安全标准确立作出贡献。
NC AI的技术正从游戏聊天机器人向多种产业领域扩展。在新作角色扮演游戏（Role-Playing Game）《Aion 2》中，公司展示了基于自然语言生成动画并可进行情感表达的语音合成（Text-to-Speech）技术。
NC AI代表Lee Yeonsu表示：“此次Safeguard技术的应用，是NC AI在AI安全领域确立技术优势，并巩固其作为负责任AI开发企业地位的重要起点。今后我们也将继续履行作为大韩民国AI专业企业的使命，同时实现技术独立、产业实证和全球贡献。”
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。
