开发出基于AI的“线上自杀风险探测”技术

庆熙大学医院表示，精神健康医学科教授团队利用人工智能（AI）开发出一项可及早探测网络自杀有害内容的技术，并于25日对外公布。本次研究由庆熙大学医院教授团队与Sungkyunkwan University教授 Park Jinyoung、韩国自杀预防协会博士 Park Sungjun、New York University教授 Jo Kyunghyun共同完成。

庆熙大学医院教授 Baek Jongu 研究团队开发出一项可及早探测网络自杀有害内容的技术。画面为表现感到抑郁情绪者的插画。AI 生成图像

View original image

研究团队分析了4.3244万条社交媒体和网络社区帖子，构建由精神健康医学科专科医生和心理学家直接审核的基准数据，并以此为基础开发了人工智能探测系统。

该系统会根据风险程度，将与自杀相关的帖子自动分为非法、有害、潜在有害、无害、非自杀等5个等级。系统还被设计为可以探测隐语、比喻、缩略语等为规避审查而使用的表达方式，从而弥补以人力监测为主的既有方式的局限。

在性能评估中，应用GPT-4模型时，非法内容探测准确率为66.46%，有害内容探测准确率为77.09%，验证了其在实际中的应用可能性。

必读新闻

“月薪150万不如去美国年入5亿” 首尔大·KAIST人才纷纷收拾行囊 [科学家正在消失]①

• “一点都不羡慕中乐透一等奖”……智异山山麓涌现“价值2亿的大赚特赚”，全村炸锅
• “明天要去星巴克转转” 国民力量忠清北道党与巨济市长候选人被指附和贬损5·18 引发争议
• “中方AI模型难敌美国大科技巨头”……高盛作出上述预期
• “曾那么喜欢三星的员工怎么会变成这样”……三星电子工会委员长旧视频被重新关注

Baek教授表示：“基于人工智能的自杀有害内容探测系统将有助于营造安全的数字环境，并及早发现高危人群”，并称“期待其成为实现前瞻且具成本效益的政策应对以及构建国家自杀预防基础设施的基石”。研究结果已刊登在国际学术期刊《JMIR Medical Informatics》2月刊。

版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。