[读懂科学]直接“复制粘贴”ChatGPT 被当场抓包的科学家们

国际科学界正因研究人员在未事先告知的情况下，利用ChatGPT等生成式人工智能（AI）撰写学术论文这一学术不端行为而深受其害。

View original image

上月9日，国际学术期刊《Physica Scripta》刊登了一篇提出求解复杂数学方程新方法的论文，之后才迟迟察觉其使用了人工智能，并将其撤稿，这一案例具有代表性。该论文乍看之下颇为“逼真”，但一位专家在论文第三页偶然发现了“Regenerate response（重新生成回答）”这一字样，情况由此逆转。这个短语是向ChatGPT输入问题并请求答案时所点击按钮上的文字，推测是论文作者利用ChatGPT生成内容后进行复制粘贴时，疏忽没有删除。该专家在发现该字样后立即截屏保存，并发布在讨论已发表研究成果的网站PubPeer上，提出质疑。

随后，《Physica Scripta》的编辑团队展开调查，结果确认该论文作者确实利用ChatGPT违规撰写论文。尤其令人震惊的是，这篇论文在长达约两个月的投稿前审查过程中，竟完全未被识别出来。编辑团队目前已决定以作者在投稿时未披露使用ChatGPT为由撤回该论文。

更严重的是，这类案例被认为只是“冰山一角”。据国际学术期刊《Nature》报道，自今年4月以来，发现此次《Physica Scripta》问题论文的法国图卢兹大学计算机科学教授Guillaume Cabanac，已在10余篇论文中发现类似情况，并在PubPeer上发布举报。除“Regenerate response”字样外，还发现了多篇论文原封不动收录了“Please note that as an AI language model（请注意，作为一个人工智能语言模型……）”等人工智能生成的句子。

事实上，已经出版多种知名国际学术期刊的爱思唯尔（Elsevier）、施普林格·自然（Springer Nature）等出版社的编辑，目前在“事先告知”为前提的情况下，承认使用ChatGPT或大型语言模型（Large Language Model）的人工智能写作行为。然而问题在于，推测有相当一部分人并未事先披露，就利用人工智能撰写论文，却将其伪装成自己完成的作品。此外，由于由人工智能生成，论文内容往往不够准确，甚至出现方程计算错误或实验结果有误的情况。但由于学术期刊和同行评审人员数量不足，未能有效筛查出来的案例屡见不鲜。

学界对此深感忧虑。微生物学家兼独立研究顾问Elisabeth Bik在接受《Nature》采访时指出：“ChatGPT和大型语言模型等生成式人工智能工具的迅速普及，将为那些希望增加论文发表数量的人，以及向其提供假论文的‘论文工厂（Paper mills）’大大增强火力。”“未来这一问题可能会严重数百倍，而已经有大量我们尚未察觉的（通过不端方式写成的）论文正蜂拥而至，这一点极为令人担忧。”

必读新闻

三星放缓之际猛然追上…中国D램一年内转亏为盈

• “大多数民众并不想要的战争”……美国人为油价白白多花了60万亿韩元
• 龙仁公寓惊案：30多岁男子殴打七旬父亲后坠楼身亡
• 三星工会成员称“要痛快把韩国综指推到5000点”……Telegram发言惹争议
• “这种东西为什么要做？”蔓延韩国的诡异现象…外媒发出警示

“假论文专家”、前大学教授David Bimler也表示：“在未事先告知的情况下，由人工智能撰写并刊登在学术期刊上的论文所引发的问题，将会日益严重。”“能够（识别论文是否由人工智能撰写的）‘守门人’数量，已经无法追上（不断增长的假论文发表规模）。”

版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。