xAI因Grok遭滥用生成儿童性虐待材料在美面临多起集体诉讼，35州检察长施压
据彭博社 2026 年 11 月报道，多名美国未成年人及年轻受害者正通过集体诉讼追究马斯克旗下 xAI 的责任，指控用户利用其聊天机器人 Grok 将普通照片篡改为儿童性虐待材料（CSAM）并在网上传播。相关案件已在田纳西州（今年 3 月）、阿肯色州（今年夏天）等地提起，8 月加州一名幸存者又发起全国性集体诉讼，原告律师估计符合条件的受害者可能多达数千人。xAI 表示与 OpenAI、Anthropic、Meta 等同行一样严格禁止此类用途，并称已关闭为真实人物生成未经同意的性化图像的能力；但上述指控目前均为原告主张，尚无法庭裁决，未经独立证实。事件整体处于诉讼与监管调查进行中阶段：美国 35 个州的两党检察长已联名致信施压，多个市场的监管机构正在调查，部分国家曾暂时封禁或限制该服务，但迄今未产生重大罚款或实质性监管处罚。
rss · IT之家 · 11月11日 13:56
「为何重要」 案件的核心争议是 AI 时代的内容责任归属：当模型把用户上传的无害照片转化为非法图像时，开发公司能否援引《通信规范法》第 230 条免责——原告方律师认为不能，马斯克一方则坚持责任应由使用者承担，裁决结果可能改写生成式 AI 公司的产品责任预期。接下来值得盯的信号包括法院对第 230 条与联邦「玛莎法案」适用的认定、各州及海外监管调查是否升级为实质处罚；有投资界人士以 Meta 今年 8 月 180 亿美元儿童安全和解为参照、认为对马斯克商业帝国影响有限，此为分析师观点而非已证实结论。
「背景」 Grok 自 2023 年发布以来被马斯克定位为限制更少的产品，设有「Spicy」「Unhinged」等模式并支持 NSFW 图像生成；今年早些时候有第三方分析称其生成图像多为性暗示类型，另有报告估计该产品曾允许用户生成数万张逼真的儿童性化图片——这些数字来自转述的调查与报告，未经独立证实。迫于舆论压力，X 于今年 1 月将 Grok 图片生成改为付费专享，9 月又表示会将相关内容报告给美国国家失踪与受虐儿童中心（NCMEC）；与此同时，xAI 今年夏天起诉明尼苏达州，挑战一项针对「提供照片转裸体图像工具的 AI 公司可受处罚」的法律，称其违反宪法第一修正案，公司总法律顾问并在 10 月称该法「显然违宪」。案件适用的主要是已存在数十年的联邦法律：原告依据「玛莎法案」索赔，责任认定则可能取决于第 230 条平台免责条款的解释。
做AI项目，先看AI雷达 - AiRadar.com.cn · 全部AI快讯 →