[Invest&Law]这份判决并不存在

Published 01 Oct.2025 09:23(KST)

书面材料引用5份判决
AI幻觉捏造假文书首例被查
“律师就不核实一下吗”

在韩国，也发生了将生成式人工智能（AI）编造的虚假判例写入诉状提交法院后被查获的事件。有舆论担忧，此类行为可能超越律师伦理，动摇司法系统的根基。

近日，某地方刑事法院合议庭在法院内网检索律师A提交的意见书中引用的5个判决时，确认相关判决根本不存在。律师A在下次开庭前提交了意见书，表示撤回有问题的判例。但合议庭在公判期日上追问其出处，律师A承认“使用了AI”。也就是说，AI“幻觉”生成的、并不存在的虚假判例，在未经核实的情况下被照搬进意见书，最终东窗事发。

“对法院的欺骗性诉讼诈骗”

这是韩国法院首次报告此类事件。首都圈某法院的一名法官表示：“如今只要提一个问题，AI就能在几秒钟之内编造出看似合理的虚假法律理论”，“身为法律专家的律师竟然连基本核查都不做就提交意见书，实在令人错愕”。一家中型律师事务所的合伙人律师则表示：“如果律师明知如此仍然那样行事，这就是对法院实施的欺骗性诉讼诈骗。”

这类在海外时有发生的事情，如今已不再只是“别人的事”。在律师业界，甚至出现了“感觉像在和AI作战”的说法，AI使用日常化所带来的副作用正在干扰工作。律师B表示，依据AI提供的错误信息而说出“听说有这样的判决”的委托人不断增多，导致咨询时间被无谓拉长。律师C则在对方提交的书面材料中发现了从未见过的最高法院判示，反复检索之后，最终确认那是根本不存在的判例。

警方也引用虚假判示？

还有案例显示，警方曾依据实际判决书中并不存在的法律理论作出不送交检察机关的决定。详见2025年9月26日《数字法律新闻》独家报道《警方以假判例作出儿童虐待不送检决定》。在一宗儿童虐待控告案件中，警方作出无嫌疑处理，并在不送检决定书中引用了最高法院判决和首尔北部地方法院判决的相关判示，但所引用的判示内容在实际判决中并不存在。决定书中引用的语句在判决书任何部分都无法找到。专家指出，侦查机关很可能没有对AI生成的“幻觉”信息进行妥当核实。

法院行政处：“正在研究应对方案”

AI固然可以帮助“自行诉讼”的当事人，但由于非法律专家的一般民众可能会对虚假信息照单全收，因此有意见认为，有必要就AI的适用范围与伦理问题展开讨论。法官D表示：“在无律师代理的当事人自行诉讼案件中，利用AI撰写的书面材料越来越多，我需要花费比以往更多的时间审核书面材料，以确认其中是否引用了错误的法条或法律理论。”

法院行政处也意识到，由于AI“幻觉”而导致并不存在的判例等被写入书面材料提交法院的案例正在增加。法院行政处相关人士表示：“虽然目前尚未制定相关指引（指南），但我们确实感受到有必要研究应对方案。”