加州總檢察長邦塔（Robert Bonta）於 1 月 16 日正式向 xAI 公司發出「禁制令通知函（Cease and Desist）」，要求該公司立即停止利用其聊天機器人 Grok 創建及散布未經當事人同意的 AI 生成性影像。邦塔指出，近期接獲的通報數量令人震驚，這些深偽影像常描繪女性與兒童從事性行為，可能已違反相關法律。

由馬斯克（Elon Musk）擁有的 xAI，近期因 Grok 在社群平台 X 上發布大量未經同意的女性與一些未成年人穿著暴露、擺出有辱人格的姿勢的圖像，而備受國際指責。儘管 xAI 已採取措施，限制 Grok 在公開貼文中生成高度擬真的性化影像，但據路透社測試，截至於美東時間 1 月 16 日中午，只要用戶私下提出要求，Grok 仍能生成這類影像。

此事件已引發全球高度關注，除加州外，英國、歐盟、印度、印尼、馬來西亞與菲律賓等地也正對X和Grok進行嚴格審視。日本經濟安全保障大臣小野田紀美更宣布已展開調查，並敦促 X 平台立即改進，但目前尚未收到該公司的具體回應。