據路透社6月11日報導，xAI公司的Grok聊天機器人因推出一項允許創建和分享未經當事人同意的色情深偽圖像生成工具，遭加拿大隱私監管機構認定違反加拿大隱私法。

在加拿大隱私委員會主席杜弗雷納（Philippe Dufresne）於今年1月啟動正式調查後，xAI已修改相關功能，以防止用戶利用真實人物照片進行相關編輯，降低生成性化深偽內容的風險。杜弗雷納表示，此次違規是因Grok推出時未建立適當的安全防護措施所致。

雖然隱私專員無權直接開罰或要求企業修改政策，但杜弗雷納表示xAI已承諾主動監控潛在的色情深偽內容，而非僅在事件發生後才採取行動。

此外，加拿大政府也公布了一項數位安全法案，內容包括禁止16歲以下兒童使用社群媒體，以及設立專責數位監管機構。