「感覺被侵犯」:Grok遭濫用生成女性裸露照,受害者控訴AI傷害


一名女性受害者向BBC表示,馬斯克(Elon Musk)旗下的AI工具Grok未經同意將她的影像修改為「脫衣照」,使她感到被「去人性化(dehumanised)」,並被簡化為一種性別刻板印象。社群平台X上已出現多起社群平台X上已出現多起使用者要求Grok生成女性的裸露照或具性暗示內容的案例。

受害者莎曼莎.史密斯(Samantha Smith)強調,儘管影像是由AI合成,但那種被侵犯的感覺極為深刻,「感覺就像有人真的貼出了我的裸照」。對此,英國內政部表示正推動立法禁止「數位脫衣(Nudification)」工具,違法提供的業者將面臨刑責與重罰。英國通訊管理局(Ofcom)亦重申,製作或分享未經同意的私密影像(含AI深偽技術)均屬違法,並敦促各平台負起降低違法內容風險之責。

Grok過去曾因製作泰勒絲(Taylor Swift)的色情影像而飽受批評,法律專家指出,平台與開發公司若有心絕對能防止此類濫用行為,但目前顯然因缺乏足夠監管而使相關濫用行為持續發生。

補充說明:

去人性化(dehumanised):指不再把他人當作有感受、有尊嚴的人,而是將其視為可隨意操控或利用的「物品」或工具。