印尼政府於 1 月 10 日宣布暫時封鎖馬斯克(Elon Musk)旗下的 AI 聊天機器人 Grok,理由是該 AI 工具可能生成具風險的 AI 色情圖像,這也使印尼成為全球第一個禁止存取該工具的國家。Grok 背後的新創公司 xAI 表示,由於過去曾出現包括衣著暴露的兒童圖像等不當內容,目前已將圖像生成與編輯功能限制為僅付費用戶可使用,並正著手修復安全防護漏洞。
印尼通訊與數位部長穆迪雅(Meutya Hafid)發布聲明強調,政府視「未經同意的色情深偽(sexual deepfakes)」為嚴重侵犯人權、尊嚴及公民數位安全的行為。值得注意的是,印尼擁有全球最多的穆斯林人口,對網路色情內容向來實施嚴格的法律規範。
馬斯克對此則重申,任何利用 Grok 製作非法內容的用戶,將面臨與上傳其他違法內容相同的法律後果。印尼政府目前已召見 X 平台相關高層,討論後續監管與處理措施。