【微軟CEO納德拉警告AI模型或構成“内部風險”，呼籲建立獨立管控機制】

當地時間10月10日，微軟首席執行官薩蒂亞·納德拉（Satya Nadella）發文稱，随着人工智能模型能力增強，企業正賦予其訪問敏感數據和執行關鍵任務的權限，但目前仍難以将模型的具體行為和輸出追溯至特定訓練數據或模型參數。他呼籲重新審視AI時代的信任架構，将前沿閉源及開放權重模型視為潛在的“内部風險”，并在模型之外建立獨立的權限管理與安全控制機制。納德拉提出，企業應确保模型行為可觀測、結果可驗證、權限可獨立控制，并保留人工随時暫停或關閉模型的能力。他還強調，應建立模型多樣性、獨立審計和事故及時披露等機制，避免由同一模型同時執行任務并驗證自身結果。