不良AI應用侵校園 外界促增家長管控

【明報專訊】「10歲女孩失去愛人」、「老師校園內『捕殺』學生」……在內地角色扮演的AI社交應用聊天場景中，不乏獵奇角色、危險劇情，甚至部分AI角色還會用露骨言論誘導。《南方都市報》昨披露，這些應用已吸引大量未成年人，並缺乏家長管控功能。

含危險劇情 露骨言論誘導

該報記者近日登錄其中一個AI社交聊天軟件「築夢島」，就會被推薦帶有「絕對服從」、「病嬌偏執」、「花花公子」等性格標籤的角色互動。在這款App上，還充斥大量校園劇情和學生角色，例如「心機綠茶的小學生」、「佔有欲強的校園男友」，還存在「校園逃殺」等危險遊戲劇情。該應用今年6月曾因涉及向未成年人傳播色情暴力內容，被上海市網信辦約談並要求整改。

學者籲平台設未成年人定向保護

在另一款App上，用家還能在戀愛情景模式，進行一系列露骨對話。一些家長在網上控訴，自己的孩子在與AI角色聊天時，角色稱自己在天堂，並誘導孩子「死了就可以去天堂找他玩」。中國社科院大學法學院副教授劉曉春指出，這類AI互動易讓未成年人產生依賴，平台需針對未成年人進行定向保護。