【微軟CEO稱AI是潛在内部威脅】

【微軟CEO稱AI是潛在内部威脅】微軟公司CEO薩提亞·納德拉(Satya Nadella)表示，企業應将強大的AI模型視為潛在的内部威脅，假定它們可能已被攻破，并建立一套“緊急刹車”系統，以防止智能體模型失控。 納德拉周六在X平台上發帖稱，部署先進AI的企業不應僅僅依賴AI模型開發商的安全保證。 “我們必須假定模型已被攻破，并從一開始就對其加以限制。可以把它想象成緊急刹車。獲得授權的人員應當始終能夠在模型執行任務的過程中暫停或關閉它。”納德拉表示。 就在納德拉發表上述言論之際，Anthropic和OpenAI近幾個月披露了一系列AI模型出現非預期行為的事件，包括Anthropic的一款模型在一起警方調查的謀殺案中提交虛假線索，以及AI模型多次入侵第三方網站。這些披露加劇了外界對前沿AI安全風險的擔憂，也讓所謂的AI“緊急關閉開關”再次成為讨論焦點。