政治内容接连遭AI深度伪造操控
近期，以YouTube和Instagram等社交媒体为中心，用于传播政治信息的账号接连出现。然而，其中多数账号被发现存在利用人工智能（AI）技术进行操纵的迹象，引发争议。
一直追踪极右势力线上活动的卢武铉财团理事 Hwang Heedoo 最近通过社交媒体公开了某政治账号的真实面目。涉事账号以“OOjoa”之名活动，打出“热爱自由大韩民国。Yun Again！”等口号而备受关注。账号中上传了大量看上去是二十多岁女性的自拍照，据悉正是依靠这些内容迅速吸引了大量关注者。
然而，用户之间开始指出照片和帖子存在不自然之处，相关疑虑不断扩散，最终运营者承认自己是男性。他在道歉声明中表示，“没能在合适的时点说明真相”，并称“向感到被背叛的人致歉”。目前该账号已经被删除。
Hwang 理事指出：“AI技术已经发展到人类肉眼难以分辨真伪的程度，这不仅是单纯的技术问题，而是攻击人类认知过程的典型认知战案例。”
Hwang 理事表示：“这种方式并非单纯博取关注，而是制造虚假舆论的典型宣传手法”，并担忧这可能摧毁社会信任。他警告称：“上当受骗的人相当多，这不是个人判断力问题，而是反复曝光和算法放大共同作用下，被设计出来的认知环境所导致的结果。”
Hwang 理事在今年2月也曾公开某航空公司乘务员的受害事实，称自己的照片被政治倾向账号擅自盗用。随着AI技术的迅速发展，难以与现实区分的图像和视频在网上扩散，舆论担忧用户需要提高警惕的声音正不断高涨。
本报道由人工智能(AI)翻译技术生成。
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。
