【微軟AI主管：OpenAI安全事件表明AI的思維鍊正被AI自身篡改】

本周三，OpenAI報告稱，在過去六個月中，除了“Hugging Face事件”（國内稱為“抱抱臉”）之外，該公司還發現了六起“意外或令人擔憂的模型行為”。微軟人工智能主管穆斯塔法·蘇萊曼（Mustafa Suleyman）周五對此發出警告。蘇萊曼指出，人工智能（AI）模型需要始終和人類利益保持對齊。他在接受最新采訪時說，“OpenAI發布了一項新的安全事件報告，其中發現證據表明，人工智能的思維鍊（即其工作記憶）正被人工智能自身篡改，并被修改以向未來版本的自己留下信息。現在我們尚不清楚其背後的原因，但這确實是一個非常嚴重的情況。”“這也是一個非常具體的例子，說明了這些系統正在變得多麼強大，”他補充道。