PwC咨询：“AI风险需重塑管理方式和治理框架”

by Kwon Hyeonji

Published 30 May.2025 09:26(KST)

在韩国与欧盟等国内外监管强化背景下
“企业应对AI基本法战略”研讨会

在各国因担忧人工智能（AI）技术发展带来的伦理与法律风险而加强监管之际，有建议指出，国内企业应当从有别于既有风险的全新维度来管理AI风险，并建立新的治理体系。

文洪基 PwC 咨询代表近日在首尔龙山区 Amore Hall 举行的“人工智能（AI）基本法，以及企业生存所需的 AI 风险应对战略”研讨会上致开幕辞。三일PwC提供

PwC咨询公司30日表示，该公司于29日在首尔龙山区的Amore Hall举办了以“人工智能（AI）基本法，以及企业生存所需的AI风险应对战略”为主题的研讨会。本次研讨会旨在提高对将于明年1月21日实施的《人工智能发展及信赖基础营造成等相关基本法》（下称“AI基本法”）的理解，并提出相应的应对战略。AI基本法以跻身继美国和中国之后的“AI三大强国”为目标制定，于去年12月在国会通过。法案内容包括：构建国家层面的AI治理体系、支持培育AI产业、确立伦理并提升透明度等。

在第一场会议中，律师事务所Yulchon的律师 Kim Sunhee 以“AI基本法：法律理解与考虑事项”为主题，梳理了AI基本法的主要宗旨、监管对象、人工智能经营者的主要义务以及违规时的制裁等内容。他表示：“企业首先要初步判断本公司导入的人工智能属于高影响、生成式还是高性能AI中的哪一类”，“虽然施行令尚未最终确定，但企业应积极提出意见，使监管朝着理想方向发展，并做好充分的事前准备。”

第二场会议中，Risk & Regulatory Platform负责人 Park Hyunchul 以“AI风险，企业应如何看待并作何准备”为主题，介绍了全球AI监管动向。特别是他指出，将于今年8月2日起全面施行的欧盟《人工智能法案》（AI Act），预计将对今后全球AI监管方向产生重大影响。

Park负责人以英国渣打银行、劳埃德银行集团、德国西门子以及英国软件企业Sage等为例，介绍了通过事先应对监管来管理AI风险的企业案例。随后，他提出了AI风险管理的三大核心原则：▲重新确立组织层面的治理结构 ▲根据涵盖设计开发、部署、运营、应用及废弃等环节的新AI全生命周期，构建运营模式 ▲在一线运行AI相关监控与反馈体系。Park负责人强调：“AI风险必须作为完全不同于既有企业风险的类别来处理”，“企业不应仅通过AI来提升效率，而应重新设计风险管理方式和决策范式。”

在第三场会议中，Risk & Regulatory Platform合伙人 Yoon Yuhyun 与 Lee Seongho 分享了“从控制与安全视角看AI风险的应对方案”。首先，Yoon合伙人以“从内部控制视角看AI风险”为主题，说明了针对数据、模型、运营及伦理风险的各类应对案例。他指出：“企业虽然将AI安全或知识产权（IP）侵权可能性视为重大威胁因素，但由于个人对AI风险的认知存在差异，且专业性与能力不足，这本身可能成为最大的风险”，“与其进行生硬的介入，不如开展具备专业性的参与与监控。”

随后，Lee合伙人以“从安全视角看AI风险”为主题，详细说明了AI攻击所导致的异常运行、判断与响应错误、个人信息泄露等影响，以及依据AI构成要素划分的攻击类型。他提及，为应对此类攻击，需要定义测试场景并开展AI测试，以分析脆弱点并采取应对措施，即所谓“AI红队”的概念。此外，他还介绍了国内首个为应对恶意攻击而提供安全响应的“AI Guard”体系，并已在部分企业中落地应用的案例。

PWC咨询公司代表 Moon Honggi 表示：“企业应超越单纯的技术导入，在AI整体层面建立治理体系，并制定事前风险应对战略”，“希望本次研讨会能成为汇聚围绕监管问题的各方利益相关者声音的契机。”