政府出手堵截AI“假医生”虚假广告…将推行“AI生成内容标识制度”
明年初推动修法：发布视频照片须“勾选”是否使用AI，政府协同封堵，违法将从重处罚
为防止利用生成式人工智能（AI）技术实施虚假和夸大广告侵害消费者权益，政府将引入“AI生成内容标识制度”。计划在明年第一季度通过修改《信息通信网络法》，要求发布者在上传内容时标明是否为AI生成物。同时，将向线上平台企业赋予相应责任，包括告知标识方法和义务等。对于恶意散布虚假、操纵信息的行为，将引入最高可达损害金额5倍的惩罚性损害赔偿制度，并大幅提高罚款水平。
向内容发布者·平台企业·用户同时赋予义务
国务总理 Kim Minseok 10日在政府首尔大楼主持第7次国家政策协调会议时，就利用AI的虚假和夸大广告表示，这是“扰乱正常市场秩序、欺骗消费者并造成损害的重大犯罪行为”，并称“将大幅提高罚款，并引入惩罚性损害赔偿”。他还补充表示，“将引入AI生成内容标识义务制度，并缩短纠正虚假广告所需的审议时间”。
政府出台对策，是因为随着AI技术日益精细化，真假难辨的AI假医生、假专家出镜广告正通过社交媒体迅速扩散。尤其集中于食品和医药品领域，引发对老年群体等消费者产生混乱和损害的担忧。
政府公布的AI生成内容标识制度，将分别向内容发布者、平台企业和用户赋予各自的义务。自明年1月起实施的《AI基本法》仅对OpenAI、Anthropic等AI生成内容的生产者赋予标识义务，难以对所有发布者进行监管，本次措施即为弥补这一不足。
在AI生成内容标识制度实施后，发布AI生成内容者必须标明相关照片、视频等是通过AI生成的。广播媒体通信委员会（简称“放媒通委”）相关负责人表示，“预计将以在上传帖子时增加并确认‘是否为AI生成内容’这一提问步骤的‘勾选框’形式来实现”。平台企业将被赋予管理义务，如向发布者告知标识方法并提示其标识义务等。平台用户被禁止删除或破坏AI生成内容标识。
包含AI生成内容标识义务制度的法案由共同民主党的议员 Jeon Yonggi、国民力量党的议员 Kim Sanghun、Park Junghun 等人作为代表提出。放媒通委相关负责人表示，“目标是在明年上半年完成《信息通信网络法》修订”，“至于是仅针对具有广告性质的AI生成内容进行规制，还是为防止深度伪造问题而扩大至所有AI生成内容，将取决于国会的讨论过程”。
快速阻断虚假广告……引入惩罚性损害赔偿制度
在AI虚假夸大广告的流通阶段，政府将加强协同合作，以便迅速采取阻断措施。如果平台企业不遵守广播媒体通信审议委员会的整改要求，放媒通委将下达整改命令，如仍不履行，则通过刑事制裁来确保强制力。目前仅适用于毒品类的与食品医药品安全处的快速处理系统，将扩大适用于食品、医药品、化妆品等领域。所谓快速处理系统，是指食品医药品安全处以电子方式向广播媒体通信审议委员会申请审议的机制。在此过程中，将通过引入书面电子审议，实现24小时内的快速审议。
在存在对国民财产和生命造成损害之虞的情况下，还将建立由相关主管部门转达，由放媒通委向平台企业发出紧急整改请求的制度。待明年下半年修改《信息通信网络法》后，这一制度即可实行。
平台行业的自律监管也将得到强化。政府计划以与Naver、Meta（Instagram）、TikTok等主要线上平台签署的自律协约为基础，扩大引入和检查利用AI深度伪造进行冒名广告的快速探测与拦截技术的部署与运行情况。
公平交易委员会将明确对未标明AI生成事实的广告进行违法性认定的标准。对于由AI生成的虚拟医生、教授推荐产品却未说明其为虚拟人物的广告，将被明确定性为不当标识广告，并将对相关法律进行修订，朝着在食品、医药品、化妆品领域全面禁止AI“专家推荐”类广告的方向推进。此外，未告知为虚拟人物的推荐广告，将被纳入与既有虚假、夸大广告相同的制裁对象。对于具有大众影响力的网红若故意传播虚假、操纵信息，将通过修改相关法律，使其最高承担相当于实际损失金额5倍的惩罚性损害赔偿责任。根据《标识广告法》，目前可对与非法广告相关的销售额处以最高2%的罚款，政府计划大幅提高这一罚款水平。
欧盟（EU）、美国、中国、西班牙等海外主要国家正推进对利用生成式AI技术生成的结果物实行强制标识义务。不过，主要限于以犯罪为目的，或与选举相关、旨在最大限度减少公众混乱的情形。在内容创作、艺术等特定专业领域，则有声音认为，有必要设置尊重表达自由的例外条款。
互联网企业协会相关负责人表示：“在法案讨论过程中，不应将用户破坏、篡改AI生成内容标识的责任归咎于平台运营企业”，“对于任何人一眼就能看出是AI视频的创作内容，应同步采取诸如暂缓监管等措施”。
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。
