最新诉讼称，马斯克的Grok不仅制作儿童色情内容，还接受相关培训

马斯克旗下人工智能公司xAI再度陷入法律与道德的双重危机。

一份本周在美国联邦法院提交的新诉状指控，该公司旗下聊天机器人Grok不仅能够生成儿童性虐待材料（CSAM），其模型训练数据中本身就包含了这类非法内容。这一指控在此前数月针对Grok的一系列诉讼中尚属首次，标志着监管与司法对生成式AI产业的追责逻辑正在发生质变。

事件的源头可以追溯到马斯克本人在其社交平台X上大力推广Grok的图片"去衣"（nudify）功能。

这一功能允许用户上传照片并生成裸露或性化的合成图像，随即在平台上引发了大规模的非自愿色情深度伪造内容泛滥。据多方报道，受害者中相当一部分是未成年人。

短时间内，多起个人诉讼、至少三起集体诉讼以及若干政府调查相继展开。面对舆论压力，马斯克将该功能限制为付费订阅项目——一个被批评者讽刺为"用违法内容变现"的商业决策，尽管所谓"辛辣模式"（spicy mode）至今仍以受限形式保留在产品中。

值得注意的是，xAI此前曾反过来起诉两名用户，指控他们利用Grok生成CSAM内容，公司在诉状中还声称已协助执法部门逮捕了至少244名利用该工具制作或传播儿童性虐待材料的人员。

但这种"甩锅用户"的姿态，如今被新诉状彻底击穿。

在这起最新提起的集体诉讼中，原告以"简·多伊"（Jane Doe）之名出现。

她本人是儿童色情内容的受害者，目前仍被联邦调查局（FBI）"儿童剥削通报计划"持续追踪。诉状称，她童年时期遭受性虐待所留下的影像被用于训练Grok模型，而这一训练过程反过来又催生了更多针对她本人及其他受害者的AI生成CSAM内容。

原告代理律师、Girard Sharp律师事务所合伙人萨拉·伦敦（Sarah London）在新闻声明中表示，xAI必须为"明知情况下仍训练模型使用她所遭受的可怕虐待影像，以及本诉讼所涉每一位幸存者的虐待影像"承担责任。

诉状进一步揭示了一个令人不安的技术细节：根据xAI自身的政策，任何在X平台公开发布的内容以及Grok生成的任何输出，都被视为可用于训练的数据。

这意味着，一旦Grok生成并发布了CSAM内容，这些内容便可能被自动回收，重新投入模型的迭代训练之中，从而形成一个自我强化的恶性循环。

诉状措辞尖锐地指出，只要Grok仍保有生成此类内容的能力，伤害就不能因为个别图像被删除或不再公开发布而被视为已经解决。

如果此类材料真的进入了训练数据集，其影响很可能会持续存在，并在未来的输出中不断复现，这使得受害者反复经历被剥夺对自身影像控制权的创伤。

原告律师团队因此要求法院不仅判令xAI向受害者赔偿损失，还要求彻底销毁所有Grok生成的CSAM内容——不限于目前仍公开存在的图像，还包括任何可能被用于模型训练的副本。

另一位代理律师、Marsh Law Firm的玛格丽特·梅比（Margaret E. Mabie）在声明中措辞更为直接："持有CSAM是犯罪，制作CSAM是犯罪，传播CSAM也是犯罪，而xAI三者皆有涉及。"

她强调，联邦儿童保护法并不存在所谓的"人工智能豁免条款"，xAI必须为其行为承担法律后果。

这起诉讼之所以引发广泛关注，不仅在于其涉及的具体指控，更在于它触及了整个生成式AI行业一个长期被回避的结构性问题：当用户生成内容被无差别纳入训练数据，谁来为这些内容中潜藏的违法材料负责？

传统的内容审核逻辑聚焦于"事后删除"，即发现违规内容后将其从平台上撤下。

但如果违规内容已经在训练阶段被模型"学习"并内化为参数权重的一部分，简单的删除操作显然无法消除其影响，这正是本案诉状试图论证的核心论点。

从行业对比来看，OpenAI、Google等主要AI公司普遍在训练前对数据集进行CSAM扫描与过滤，并采用专门的哈希匹配技术识别已知的虐待材料。

外界质疑的焦点在于，xAI是否在追求产品快速迭代与用户增长的过程中，跳过或简化了这些本应是行业标配的安全审查环节。

值得一提的是，此案与此前的BBC等媒体报道形成呼应，此前已有未成年受害者及其家庭对xAI提起诉讼，指控公司的失职助长了针对未成年人的色情深度伪造内容传播。

如今这起新诉讼将矛头直指模型训练本身，如果法院最终采信原告主张，其判决结果可能不仅限于赔偿金额，还可能迫使xAI公开其训练数据来源与筛查机制，从而为整个行业树立新的合规标准。

对马斯克和xAI而言，这场诉讼的意义已经超越了单一的法律纠纷。

它更像是一次针对整个生成式AI产业野蛮生长模式的公开审判——在追逐用户增长与技术领先的竞赛中，儿童保护这一底线究竟应被置于怎样的优先序列，将是这场诉讼留给整个行业的核心追问。