xAI起诉滥用Grok违规用户，年停5万余账户严打儿童性虐待内容

北京时间2026年7月16日，据路透社报道，埃隆·马斯克旗下AI初创公司xAI对南卡罗来纳州男子特里·哈伍德提起诉讼，指控其滥用AI系统Grok制作儿童性虐待材料及未经同意的色情深度伪造内容。

哈伍德今年2月已因涉嫌性剥削未成年人被捕，xAI于当地时间周二向得克萨斯州联邦法院提交诉状，指控其违反平台服务条款。该案属于AI公司起诉用户涉嫌利用AI生成露骨内容的首批案例之一。

诉讼发起之际，xAI正因Grok的内容安全问题受到全球审视，外界指控该系统允许用户制作未经当事人同意的色情深度伪造内容，包括逼真的AI生成虚假视频。

xAI在诉状中表示，公司通过暂停或终止违规账户、向美国国家失踪与受虐儿童中心报告疑似儿童性虐待材料等方式执行平台规定，“事实上，原告已在2026年暂停52222个账户，并向美国国家失踪与受虐儿童中心提交73604份报告，促成至少244人被捕。”

xAI具体指控称，哈伍德将成年人和未成年人的普通照片上传至Grok，试图生成以这些人物为对象的色情深度伪造内容，同时制作了未经成年人同意的色情图像。xAI要求法院判令哈伍德支付金额未定的赔偿金，并永久禁止其使用Grok。

市场有风险，投资需谨慎。本文为AI基于第三方数据生成，仅供参考，不构成个人投资建议。

本文源自：市场资讯

作者：观察君