時間在變,空間随着時間也在變,不變的唯有真知灼見。
2026年11月17日  星期二
首頁
财經
觀察
參考
ESG
公告
市場
研究
IPO
公司
周報
動态
推薦
首頁 > 快訊

OpenAI要把家底給外人看?4家機構獲準深入内部,檢查AI有沒有失控

來源:昱萱 時間:2026-11-17 13:05:56

字号
OpenAI宣布與Apollo Research、METR、Goodfire和Transluce四家外部機構簽約,首次開展成體系的“嵌入式安全評估”。外部研究人員将按任務需要,深入接觸尚未發布的模型、訓練過程中的中間版本、源代碼、訓練數據和内部監控記錄,直接檢查AI有沒有出現危險行為,以及現有安全措施能否發現這些問題。四家機構各有分工: METR:将檢查OpenAI迄今規模最大的一次強化學習訓練,尋找内部測試和監控系統可能漏掉的異常行為。 Apollo Research:負責調查AI是否會暗中違背開發者意圖,甚至試圖破壞安全機制,以及這些行為能否被發現。 Goodfire:将派研究人員分析模型内部的計算信号,監測訓練過程,排查異常行為并幫助改進模型。Transluce:則要反過來檢查OpenAI的安全評測本身,看看現有測試能否有效發現模型欺騙、操縱和其他違規行為。
接觸敏感資料的外部研究人員需要在OpenAI辦公室使用公司設備工作。各機構可以獨立發布研究結果,但OpenAI有權删去涉及機密的信息。董事會下屬的安全與保障委員會則能查閱未經删節的完整報告。
微信掃碼 > 右上角點擊 > 分享