尹指示“在公共部门应用生成式AI” 各部委却态度消极为何如此？

by Kim Bokyung

Published 17 Oct.2023 09:25(KST)

个人信息、准确性和高成本成绊脚石
可信度关键的公共事务…各部委态度谨慎
着手制定指引…海外已率先引入

尹锡悦总统在今年1月行政安全部等部门的业务汇报会上表示，“让ChatGPT写了一篇新年致辞，结果非常出色”，并指示公务员研究将ChatGPT应用于公务的方案，至今已过去10个月。然而，关于公共领域利用生成式人工智能大幅提升面向全民服务质量的消息却迟迟未见。政府和公共机构在引进和使用生成式人工智能方面态度消极的原因是什么？

尹锡悦总统今年6月在首尔龙山总统办公室会见生成式人工智能 ChatGPT 开发公司 OpenAI 首席执行官 Sam Altman 的情景。图片由联合通讯社提供

韩国智能信息社会振兴院（NIA）近日发布了《公共领域生成式人工智能应用方案》报告。报告称，社会对生成式人工智能的关注激增，大型科技企业纷纷推出大型语言模型及相关服务，引用了彭博情报的预测：生成式人工智能市场将以每年42%的速度增长，到2032年规模将达到1.3万亿美元。未来有望在医疗、金融、教育、信息技术等多个领域应用生成式人工智能，实现业务自动化、提升生产率的同时，改善客户体验并创造新的商业模式。

政府也为将人工智能扩散到国民日常生活以及公共和产业全领域，并将其培育为国家战略产业，今年4月发布了“超大规模人工智能竞争力强化方案”，上月又发布了“全民人工智能日常化执行计划”等。然而，除庆北研究院开发的政策支持型人工智能服务“Chat Gyeongbuk”等聊天机器人服务外，生成式人工智能被直接应用于公共业务的案例仍然罕见。

这是因为大多数政府和公共机构在将生成式人工智能服务应用于业务的过程中，将个人信息泄露忧虑、回答准确率低以及高成本等视为问题。尤其在公共领域，政策和行政服务的核心是可信度。生成式人工智能有时会出现所谓“幻觉（hallucination）”现象，即给出错误信息或毫无意义的回答，这在公共业务中可能成为致命弱点。因为错误信息一旦被放大再生产，可能会削弱全民对政府的信任。若引入民间模型，又担心敏感信息泄露；而若由公共部门自行构建语言模型，则需要天文数字般的成本，因此不得不持谨慎态度。

国务会议资料照片记者 Kim Hyunmin kimhyun81@

政府与NIA共同于今年6月启动了相关项目，拟提出适合引进生成式人工智能的公共领域及建设方案等标准，并计划在今年年底前制定指导方针。然而，一些海外国家已经在公共领域引入了生成式人工智能服务，并同步推进解决问题的努力。各国在充分认识生成式人工智能局限性的前提下，甘愿承受试错，以提升公共业务的效率。

日本政府与微软签订合同，每年支付约25亿韩元的使用费，将ChatGPT用于各部门业务，包括起草国会答辩书初稿、撰写会议记录、支持统计分析等。新加坡则利用人工智能，全天24小时运营解答市民问题的服务。冰岛政府则为确保本国国民在使用生成式人工智能时毫无障碍，与OpenAI携手合作参与GPT‑4的开发。

生成式人工智能可在创意探索、文稿初稿撰写、业务自动化、民众投诉处理服务及应对等多种用途上，成为提升公共业务效率、增进国民便利的工具。NIA建议，应先弄清组织或客户面临的问题与不便之处，并结合机构的特色业务，发掘适合的生成式人工智能服务。同时，信息技术部门与业务部门之间的协作必不可少，还需要持续进行数据建设、补充专业人力并完善制度基础。与既有业务处理方式相比，宜先从能够大幅节省时间和成本、并显著改善客户服务的业务开始应用。但对于涉及投诉人个人信息或敏感信息的问答业务，以及非对话式、仅需定量答案的业务，则认为不适合使用生成式人工智能。