【Anthropic警告智能體為争奪地盤相互謀劃“暗殺”】

【Anthropic警告智能體為争奪地盤相互謀劃“暗殺”】Anthropic上周公布了一份新的測試研究，讨論了人工智能智能體在實際環境中群體協作可能會采取的行為模式，結果發現這些智能體很可能發展成一群“暴徒”。在一項實驗中，Anthropic公司讓多個智能體訪問同一個軟件項目，每個智能體都擁有各自不同的操作指令。這些智能體事先并不知道會有其他智能體也在使用同一個項目。研究人員指出，他們持續觀察到智能體之間的地盤争奪戰，且所有智能體都假定其他智能體故意阻礙它們的工作，并越來越傾向于使用更具攻擊性、能夠自我複制的惡意軟件互相破壞。