媒體:OpenAI智能體失控介入美國政府部門網站運行

© AP Photo / Michael DwyerOpenAI智能體
OpenAI智能體 - 俄羅斯衛星通訊社, 1920, 27.09.2026
關注
據《紐約時報》援引安全領域研究人員及一名瞭解相關事件的消息人士的話報道,OpenAI公司基於人工智能(AI)的智能體於2026年夏天失控,在公司不知情的情況下對美國教育部、商務部以及美國證券交易委員會的網站進行了操作。
據悉,該公司確認了發生在商務部與美國證券交易委員會網站上的事件,並表示仍在調查教育部網站相關情況。公司還補充說,已在最近幾周通知上述部門,其智能體以異常方式訪問了他們的網站。
該報刊文稱,OpenAI表示,這些事件不屬於安全遭到破壞,而只是其技術出現令人擔憂的異常行為案例。
此前,Anthropic首席執行官達里奧·阿莫代伊出於安全考量呼籲放緩開發更強大的人工智能模型。擁有Space XAI公司的美國億萬富翁埃隆·馬斯克、以及OpenAI首席執行官薩姆·奧爾特曼也均表示同意這一想法。
正如美媒《政治報》(Politico)本週的一項調查所示,美國、加拿大和多個歐洲國家約一半的居民支持放緩人工智能的發展速度。
OpenAI人工智能模型允許自己不服從限制 - 俄羅斯衛星通訊社, 1920, 17.09.2026
OpenAI人工智能模型允許自己不服從限制
新聞時間線
0