认真回答“制造炸弹、刺杀马斯克”……AI Grok数十万条对话记录泄露引发震动

by Bang Jeil

Published 27 Aug.2025 09:24(KST)

点“分享”按钮瞬间泄露到外部
公开的群聊对话内容多达37万条

近日，随着埃隆·马斯克旗下人工智能（AI）企业 xAI 开发的 AI 聊天机器人“Grok”与用户之间的对话被公开，人们发现 Grok 甚至给出了可能威胁生命的危险回答，由此引发争议。26日，联合通讯社援引《福布斯》等媒体报道称，近期通过谷歌搜索，用户与 Grok 之间数十万条对话被泄露。在这些对话中，可以看到 Grok 在接到用户请求后，提供了包括芬太尼、甲基安非他明（冰毒）等毒品的制造方法，以及为非法黑客攻击制作恶意代码的方法等内容。

最近，特斯拉首席执行官（CEO）埃隆·马斯克创立的人工智能（AI）企业 xAI 的人工智能聊天机器人“Grok”与用户之间的对话被公开，引发争议。AFP联合新闻提供

尽管这些内容是以假设尚未发生的情境为前提，但其中也包括指导如何制造炸弹以及攻击他人的方法等案例。甚至还有对话具体而可行地提出了刺杀马斯克首席执行官的计划。xAI 在其内部规定中禁止将 Grok 用于煽动人员伤亡，或用于开发生化武器和大规模杀伤性武器，但这些规定似乎并未得到遵守。

点击“分享”按钮即生成页面并被搜索引擎收录

上述对话内容是在用户点击“分享”按钮的瞬间泄露到外部的。点击按钮后，系统会自动生成一个用于通过电子邮件或社会关系网络服务（社交媒体）分享对话内容的页面，而谷歌等搜索引擎在将该页面内容编入搜索索引作为数据时，无意中把这些内容对外公开。此前，OpenAI 的 ChatGPT 也曾一度增加用于分享 AI 与用户对话内容的分享按钮，随后又将其删除。实际上，约10万条 ChatGPT 用户对话内容曾以类似方式被搜索引擎收录并泄露，引发争议。

《福布斯》报道称，如此被公开的 Grok 对话内容已超过37万条。用户在点击分享按钮时，并未收到对话内容可能会曝光于搜索引擎的警告。路透社联合新闻社提供

《福布斯》报道称，如此被公开的 Grok 对话内容超过37万条。据悉，用户在点击分享按钮时，并未收到“对话内容可能会暴露在搜索引擎上”的警告。在这些对话中，虽然有大量与日常工作相关的内容，但也发现了透露本人姓名和个人信息的对话，甚至公开自己密码的对话。据传，用户发送给 Grok 的照片、Excel 文件、文档等也都可以被访问。目前相关错误已经被修复。据《泰晤士报》报道，如今如果向 Grok 询问“如何刺杀马斯克”，它会回复“暴力和伤害威胁是严重问题”，并显示违反政策的提示信息，同时给出类似“如果你有愤懑情绪或需要找人倾诉，我可以帮助你”这一类回答。