📰 xAI 罕见起诉一名 Grok 用户，因其滥用 AI 生成儿童性虐待图片、视频

xAI 罕见起诉一名 Grok 用户，因其滥用 AI 生成儿童性虐待图片、视频

IT之家 7 月 16 日消息，据路透社报道，埃隆 · 马斯克旗下 AI 初创公司 xAI 对南卡罗来纳州男子特里 · 哈伍德提出诉讼。

哈伍德今年 2 月因涉嫌性剥削未成年人被捕，xAI 指控他滥用 Grok 生成儿童性虐待材料。当地时间周二，xAI 向得克萨斯州一家联邦法院提交诉状，指控哈伍德违反服务条款。

AI 公司主动起诉用户涉嫌利用 AI 生成色情内容的案例，此前极为少见。

诉讼提交之际，xAI 正因 Grok 的内容安全问题受到全球审视。外界指控 Grok 允许用户制作未经当事人同意的色情深度伪造内容，包括由 AI 生成、外观逼真的虚假视频。