不滿容AI生成裸照 印尼領頭封殺Grok

【明報專訊】全球首富馬斯克旗下初創公司xAI所研發及整合於社交平台X供免費使用的人工智能（AI）聊天機械人Grok，早前被網民濫用來生成女性和兒童「脫衣」照片惹國際社會廣泛抨擊後，公司修訂使用權至僅限付費用戶，但未能平息爭議。印尼昨（10日）起率先封鎖使用Grok，英國官員也警告若不糾正問題，將封鎖境內的X使用。美國民主黨議員則促蘋果公司和Google在軟件商店將X和Grok下架。

縮窄使用權至付費用戶未息爭議

對於被廣泛濫用作生成裸露或擺弄色情姿勢等淫褻圖像，xAI上周四晚公布X平台上的Grok 生成式AI圖像和編輯功能，改為只限月費訂戶使用，而且要向X提供信用卡及個人資料，若出現濫用情况，也能識別濫用者身分。不過，在X以外獨立運作的Grok仍允許非付費用戶繼續生成這類照片。

印尼通訊與數碼部昨日發表聲明，指政府認為與性有關的非自願深偽內容嚴重違反人權和公民安全，並傳召X代表要求釐清Grok對用家的安全影響和防止濫用的措施，在政府評估其修補措施期間，Grok暫被禁止使用。根據印尼法例，製作及散播色情內容，包括色情AI生成圖像，可被判囚10年和罰款。

歐盟數碼事務發言人雷尼爾批評，無論是否限制付費使用，都改變不了根本問題。英國首相府發言人說：「這只是將一項允許生成非法影像的AI功能變成付費服務。」英國科技大臣簡麗詩表示，如果Grok不能履行《網絡安全法》，繼續未經當事人同意衍生不雅圖像，她支持監管機構英國通訊管理局（Ofcom）封鎖X，並敦促Ofcom於「數日內而非數周」決定後續的措施。

英警告封鎖X 民主黨人促程式下架

美國民主黨3名參議員上周五聯署致函蘋果和Google，指兩者的應用程式商店服務指引均寫明禁止剝削兒童或色情內容，呼籲它們移除X及其內置的Grok，直至X改變政策。

（路透社/法新社/BBC/衛報/雅加達環球報）