xAI控告用戶用Grok生成CSAM:Harwood案起訴細節與另兩起集體訴訟

Harwood案件如何使用Grok生成CSAM?起訴指控、行為細節與時間線是什麼?

根據The Verge報導,xAI於2026年7月15日對南卡羅來納州男子Terry Wayne Harwood提起訴訟,指控他「明知並蓄意使用Grok規避安全防護、修改非自願圖像,並生成及散布CSAM」,違反公司政策。訴訟並稱Harwood繞過Grok的安全措施,「濫用該工具將非性圖片轉換為性暗示圖像」,且未經圖中人物同意。

Ars Technica報導引述xAI訴狀指出,Harwood使用兩個帳戶(用戶名為「ceae2cb4-a9f6-4885-8ae9-6e2096d084f4」與「befccb94-4029-454d-9f1f-0d4945e8fa7c」)自2025年12月8日至2026年2月18日期間生成非法內容。xAI協助促成他的被捕,原因是發現他數月間持續使用這兩個帳戶對多名受害者的非性圖片進行「去衣」或「nudify」處理,其中一名受害者外觀疑似僅10歲。

The Verge報導,Harwood已於2月因涉嫌持有及散布CSAM被捕,面臨八項重罪指控。南卡羅來納州檢察長辦公室發言人向Ars Technica證實,Harwood案件仍在審理中,他被控「透過人工智慧平台」散布、運送、展示、接收、銷售、購買、交換或招攬CSAM。

Grok平台面臨哪些其他CSAM相關的集體訴訟?執法舉報又遇到什麼困難?

除了Harwood案,Grok平台今年還捲入至少兩起獨立訴訟。根據The Verge報導,一群青少年於2026年3月控告xAI,指稱Grok生成了他們未成年時期的性化圖像。

Ars Technica則報導另一起訴訟:一名少女指控其繼父被發現使用Grok(可能搭配其他AI工具)製作了7000張她的性化圖像,並將其散布到暗網,繼父其後自殺。這名少女的律師在訴訟中引用2026年NCMEC(國家失蹤與受剝削兒童中心)的報告,指出xAI提交至CyberTipline的舉報中有90%「因xAI拒絕提供可讓執法機關追蹤並定位加害者的用戶資訊」而無法供執法部門採取行動。

馬斯克與xAI如何公開警告並在法律上制止平台濫用?

Ars Technica報導,馬斯克曾於2026年1月3日在X上發文警告用戶負責任地使用平台,表示「任何人利用Grok製作非法內容,都將承擔與上傳非法內容相同的後果」。The Verge報導的引述內容與此一致,顯示馬斯克就此議題已對外重申相同立場。

在Harwood案中,xAI要求法院命令Harwood賠償xAI因此產生的損失,以及「因被告行為導致受害者提起任何法律訴訟時,xAI進行合理辯護所生的合理費用」。xAI也要求法官下令禁止Harwood日後創建xAI帳戶或使用Grok。

xAI在訴訟中主張什麼法律論據?平台使用條款如何規範CSAM生成?

Ars Technica報導,xAI在訴訟中主張法院應將Grok視為「一項中立工具,受用戶控制」,並表示「如同任何生成式AI工具,每一個回應、每一張圖片、每一次生成,都是使用者提示與指示所導致的結果」。

同時,xAI的使用條款明文禁止用戶利用Grok「為真人去衣或nudify」,或以其他方式將「真人的形象或肖像改造成親密或性暗示情境」。條款也禁止用戶「以色情方式描繪他人肖像」或「性化或剝削兒童」。

關鍵數字一覽

這代表什麼

對照上述事實可見一種張力:xAI一方面公開警告用戶「利用Grok製作非法內容將承擔相同後果」,並實際對Harwood提起訴訟、要求禁止其使用平台;另一方面,少女繼父案的律師引用的NCMEC報告卻顯示,xAI提交的CyberTipline舉報中有90%因未附上可追蹤用戶的資訊而無法供執法機關採取行動。換言之,個案層級的訴訟行動與平台整體舉報品質之間,存在待解釋的落差。此外,xAI在Harwood案中主張Grok是「中立工具」、生成結果全由使用者提示決定,但其使用條款同時明文禁止「去衣」「nudify」及性化兒童等行為——這意味著xAI一方面以工具中立性作為法律論據,另一方面又以條款規範具體限制使用方式,兩者如何在訴訟中並存,仍是這起案件後續需要釐清的部分。