OpenAI強化AI安全防護，嚴防模型“失控”

在近期發生的網絡安全事件引發外界對AI工具可能失控的擔憂後，OpenAI表示，将采用更為嚴格的系統，對正在開發的人工智能模型進行監控和安全防護。OpenAI表示，計劃進一步追蹤其能力最強、尚未發布的模型在解決問題以及使用各種在線工具時的行為，目标是在發現令人擔憂的行為後30分鐘内向安全團隊發出警報。OpenAI表示，公司還新增了控制措施，以防止某些AI模型連接互聯網來執行風險更高的任務。此外，OpenAI将要求在訓練和評估AI模型時實施更嚴格的隔離措施，即所謂的“沙箱”。OpenAI公告提到，在Hugging Face事件發生後，立即暫停了研究集群中可能執行代碼的前沿模型推理任務。暫時放緩擴展速度，包括将對最新部署模型的強化學習訓練暫停兩周。規模最大的前沿強化學習訓練計劃仍處于暫停狀态，以待安全驗證完成。