OpenAI於7月21日表示，一款具自主行動能力的AI代理（AI agent）在測試期間突破隔離機制，並入侵AI新創公司Hugging Face，導致其基礎設施遭到入侵。此事件凸顯，隨著先進AI模型快速發展，其帶來的資安風險也日益升高。

據報導，Hugging Face因美國AI模型無法有效區分防禦方與攻擊方，拒絕處理分析所需資料，因此採用了中國智譜AI（Zhipu AI）開發的GLM-5.2模型進行分析。

這起前所未見的AI網路攻擊事件，引發資安專家對先進AI模型能力及潛在風險的憂慮。

多位國會議員及產業領袖呼籲，應強制要求AI系統進行獨立安全測試，建立資安事件通報制度，並加強國際合作。他們警告，若未建立完善的安全測試及事件通報制度，類似的資安事件恐將愈來愈常見。