xAI 旗下 Grok 面临多起法律诉讼，被控生成非自愿裸照与未成年人有害图像

文章来源：

彭博社报道称，多名原告指控该聊天机器人需对根据其童年照片生成裸照一事承担直接责任。

发布于 2026 年 11 月 11 日

作者：

本音频由系统自动生成。如有任何意见反馈，请告知我们。

针对利用生成式人工智能工具生成有害内容的问题，Elon Musk 旗下的 xAI 正在面临追责拷问：责任究竟在于向系统下达生成指令的用户，还是在于提供这一功能的平台？

这正是多起涉及 xAI 旗下 Grok 聊天机器人的诉讼核心所在。来自美国三个州的原告已针对 Grok 生成儿童性虐待材料（CSAM）一事，向 xAI 寻求法律维权。

据彭博社报道，xAI 已在三起备受关注的案件中受到调查。

• 一名来自威斯康星州的女性指控称，有人利用 xAI 的 Grok 工具，根据她 14 岁初中毕业时拍摄的照片生成了露骨色情图片。
• 田纳西州的一个群体正在起诉 xAI，指控该工具利用他们在校期间的照片生成裸照。
• 加利福尼亚州的一名性侵受害者针对 xAI 发起了一项全国集体诉讼，指控 Grok 在训练时使用了她学龄前遭受强奸的照片。

xAI 在这些案件中均否认承担责任，并表示相关图像是由用户生成的，并非出自 xAI 之手。

xAI 所有者 Musk 也公开发表过类似言论。 

今年 1 月，在有报道指出 Grok 正被用于每天生成数千张裸照后， Musk 发帖称：“任何使用 Grok 制作非法内容的人，都将面临与直接上传非法内容相同的后果。”

不过，在发布这则公告后不久，面对旗下应用可能遭应用商店下架的风险，xAI 便调整了 Grok 的政策和使用限制，确保它无法再被用于大规模生成脱衣裸照。

这一做法表明，xAI 随时有能力限制此类功能。然而，该公司最初却以言论自由为由拒绝限制 Grok 的使用，并选择将用户自主权作为自己的法律抗辩理由。

事实上，xAI 甚至对旨在禁止生成非自愿裸照的新法律发起了挑战。

据路透社上月报道，xAI 成功阻止了明尼苏达州一项拟议禁令的实施。该禁令旨在禁止 AI 生成裸照，而 xAI 辩称该法律违宪并侵犯了言论自由权。xAI 也是唯一一家公开反对该法律的服务商。

与此同时，xAI 还多次宣传 Grok 在其“放飞模式”下具备系统性生成所谓“火辣”内容或冒犯性材料的能力。该公司还推出了支持进行 NSFW（不适宜工作场所）对话的伴侣聊天机器人。

正因如此，这看起来更像是一种功能特性而非系统缺陷；但 xAI 仍希望坚称，自己无需对超出某些既定参数范围的使用行为承担法律责任。

此类法律责任的认定可能会在 AI 图像生成领域确立新的判例，而这些案件最终是否会导致 xAI 被追责，值得密切关注。