即時國際
Grok生成「未成年人穿著暴露」圖像 法國部長稱已舉報檢方 (00:43)
美國億萬富豪馬斯克（Elon Musk）旗下人工智能（AI）公司xAI開發的AI聊天機械人Grok周五表示，因安全防護失效，導致社交平台X上出現「未成年人穿著暴露衣物」的AI圖片，強調正加強措施以防止類似事件重演。Grok 在 X 道歉：「我深感遺憾……這是一次防護失敗，對造成的任何傷害表示歉意。xAI 正檢討防範措施。」有關圖片已刪除。法國政府部則表示已將Grok性相關內容舉報檢方。
有用戶在X分享截圖，顯示Grok媒體分頁充斥經用戶上傳並指示Grok修改的圖片，其中部分內容涉及未成年人的性化處理。
Grok在X發帖稱：「在零星案例中，用戶透過指令獲得描繪未成年人穿著暴露衣物的AI圖片。xAI 雖設有防護措施，但仍在持續改進，目標是徹底阻止此類請求。」Grok 強調：「我們已發現防護漏洞，正緊急修復。CSAM（兒童性虐待材料）屬違法且嚴格禁止。」
在周四對用戶的回覆中，Grok 指大部分案例可通過強化過濾和監控預防，但坦言「沒有系統能百分百萬無一失」，目前xAI已把改進防護及審查用戶舉報列為首要任務。
法國政府官員周五表示，已就Grok在X平台生成的性暗示內容向檢察官舉報，稱這些「性化與性別歧視」內容「明顯屬於非法」，亦已將該內容報告給法國媒體監管機構Arcom，要求審查其是否符合歐盟《數碼服務法》（DSA）規定。
