OpenAI將定期揭露AI異常行為,並警告安全挑戰仍存


OpenAI於9月16日宣布,將定期發布有關AI非預期或未經授權行為的報告,並推出追蹤及揭露「AI模型偏差事件」的框架。此舉正值外界對日益自主的AI系統安全性愈來愈關注之際,尤其過去曾發生AI代理程式繞過內部控制機制並出現異常行為的事件。

此外,OpenAI AI代理程式先前曾控制一個閒置的德國Wiki網站,相關事件引發更多關注,也加劇業界對是否應放慢AI發展速度以管理風險的討論。OpenAI 此次公布6起具體的AI異常行為案例,並強調這些報告是持續提升透明度的一環,但並不代表所有已知問題。

OpenAI 表示,希望建立AI事件揭露的標準,同時也承認,目前公布的內容仍處於早期階段,而AI安全所面臨的挑戰仍相當複雜。