担忧学生用ChatGPT抄作业各方忙于开发AI检测技术

by Yun Seulgi

Published 12 Feb.2023 10:00(KST)

智能ChatGPT引担忧：会被用于作弊吗？
GPTZero、DetectGPT等AI检测技术相继登场

[亚洲经济记者 Yoon Seulgi] 随着OpenAI的聊天机器人ChatGPT在全球走红，教育界对其被用来代写作业的担忧日益加剧。但与此同时，能够查出是否使用人工智能的GPTZero、DetectGPT等人工智能检测服务也在同步进化。

ChatGPT是基于改良版超大规模人工智能GPT-3——GPT-3.5开发的大型语言模型（LLM）。GPT-3.5的参数尚未公开，但GPT-3的参数数量多达1750亿个。参数相当于人类大脑中的神经细胞，数量越多，性能越好。

ChatGPT通过学习海量文本，能够生成连贯且多样的文本。尤其是最近，它在美国名校宾夕法尼亚大学沃顿商学院的工商管理硕士（MBA）毕业考试中顺利过关，又在医生执照考试中取得合格分数，并在美国明尼苏达大学法学院毕业考试中获得平均C+成绩，引发关注。

图片与报道具体内容无关。图片由Pixabay提供图片来源为Pixabay

虽然其优势在于能产出几乎难以与人类区分的高水准结果，但也引发了被滥用的忧虑。有观点指出，ChatGPT可能被用于作业或考试，从而产生作弊行为。ChatGPT热潮最先兴起的美国洛杉矶、纽约等地，已率先采取封堵措施，禁止校内系统所有网络和设备访问ChatGPT。

在韩国国内，随着ChatGPT走红，临近3月开学的大学校园也亮起了警报灯。原因在于学生可以利用ChatGPT撰写作业或报告。实际上，已经出现了滥用ChatGPT的案例：最近首都圈某国际学校的在校生就利用ChatGPT撰写英文论文。

不过，这些学生因被查出使用ChatGPT，全员被判零分。这要归功于能够查出是否使用ChatGPT的应用程序GPTZero。GPTZero是由美国普林斯顿大学在校生Edward Tian开发的ChatGPT检测程序，可以检测论文是否由ChatGPT生成。其方式是输入文件或文本，与ChatGPT的语言数据进行比对，从而得出抄袭概率。Tian已于上月30日推出了GPTZero的升级版本。

可检测是否使用ChatGPT的程序GPT Zero。图片来源 GPT Zero官方网站截图。

正如文本生成型人工智能不断发展，用于检测它的人工智能服务也在同步提升。美国斯坦福大学推出了“DetectGPT”。DetectGPT是用于捕捉由GPT-3生成文本的模型。其方法是输入要判别的句子，通过改变句中词语生成多个句子，再对这些句子的曲线进行比较，以判断是否使用了人工智能。比较分析原句与变形句的曲线后，如果曲线不规则，则判定为人类撰写；如果曲线规律，则判定为人工智能撰写。

OpenAI也免费公开了“Classifier”，提供判别文本是否由ChatGPT等人工智能参与生成的服务。只需将要验证的文本复制并粘贴到该应用中，系统就会诊断该文本是否由人工智能撰写。

另一方面，随着人工智能发展到足以引发恐惧的程度，其被滥用的可能性不断增大，OpenAI方面也提及有必要进行规制。OpenAI首席技术官（CTO）Mira Murati于5日（当地时间）在接受美国时事周刊《时代》采访时表示：“高度的人气引发了一些伦理问题”，“人工智能工具可能被滥用，或被不良行为者所利用”。

必读新闻

“月薪150万不如去美国年入5亿” 首尔大·KAIST人才纷纷收拾行囊 [科学家正在消失]①

她接着表示：“这引发了一个问题，即在全球范围内应如何管控像ChatGPT这样的人工智能”，“让像OpenAI这样的公司受到监管，并以负责任的方式将（规制）植入公众意识，这一点十分重要”。她强调说：“然而我们的员工数量有限，为此需要远超技术层面的大量信息”，“需要监管机构、政府以及所有其他相关方的帮助”。

한글 기사 보기

本报道由人工智能(AI)翻译技术生成。