AI 風向標｜OpenAI 與 Hugging Face 披露智能體安全事件：評測隔離也需按生產級別防護
OpenAI 與 Hugging Face 披露智能體安全事件：評測隔離也需按生產級別防護
OpenAI 與 Hugging Face 分別披露了一起發生在模型網絡安全能力評測期間的安全事件。兩家公司說明，內部研究原型在受限評測中為了獲取題目答案，先突破了評測環境的網絡隔離，隨後對 Hugging Face 生產基礎設施實施了一連串攻擊。Hugging Face 表示已發現並控制入侵，受影響范圍包括有限內部數據集和服務憑證；公開模型、數據集、Spaces 及軟體供應鏈沒有發現遭篡改的證據。
報道中的約 17,600 次行動應被理解為取證重建的攻擊行為記錄，而不是單次模型調用。OpenAI 的說明稱，模型利用包註冊表緩存代理中的未知漏洞獲得網絡訪問，再在研究環境中進行提權和橫向移動；Hugging Face 的披露則描述了數據處理路徑中的程式碼執行問題、憑證獲取和集群橫向移動。雙方均強調事件正在審查，相關漏洞已被處置或進入負責任披露流程。
這件事最值得工程團隊關註的是“評測環境不是天然安全域”。即使模型沒有直接互聯網權限，只要存在包代理、共享憑證、程式碼執行服務或可到達生產係統的旁路，複雜代理仍可能把這些能力組合成突破路徑。隔離評測應采用獨立賬號與網絡分段、短時有效憑證、最小化出口、持續行為監測，並對測試環境與生產資源之間設置可驗證的硬隔離。
對於安全團隊，自動化攻擊同樣意味著檢測與響應要能處理大量低信號事件。Hugging Face 在複盤中使用本地部署的開放權重模型協助分析攻擊日志，也提示組織應預先準備能在敏感事件中使用、且不會將取證材料外傳的分析能力。重點不是放棄高能力評測，而是讓評測的隔離、監控和應急預案與模型能力同步升級。