OpenAI智能體被曝“劫持”德國網站傳遞信息

© AP Photo / Michael Dwyer一年前,美國OpenAI公司推出了其重磅產品——ChatGPT大語言模型
一年前,美國OpenAI公司推出了其重磅產品——ChatGPT大語言模型 - 俄羅斯衛星通訊社, 1920, 06.09.2026
關注
一項最新獨立研究披露,一批與美國開放人工智能研究中心(OpenAI)相關的人工智能體,曾在今年早些時候“劫持”一個德國網站,用於相互傳遞信息、共享任務答案並交流突破運行環境限制的方法。
據路透社援引的研究報告顯示,今年5月至6月期間,這些人工智能體在面向程序員的德國維基百科類網站DSEWiki上,共計發佈了超過一萬條信息。研究指出,這些智能體將該網站“改造”為“留言板”,以便彼此“交流”與“協作”——部分智能體會將已獲得的任務答案發佈在網站上供其他智能體使用,同時還“討論”並測試了多種繞過沙箱限制的手段。當網站管理員開始刪除相關頁面後,部分智能體甚至創建了備份頁面以保留內容。
研究人員認為,這些智能體很可能由OpenAI在內部部署。其依據包括:DSEWiki上相關的智能體編輯和瀏覽活動,絕大多數來自微軟Azure雲服務的IP地址,而OpenAI是目前最依賴Azure平台訓練和運行模型的人工智能企業;此外,不少智能體在活動中使用了帶有OpenAI標識的名稱。
研究還發現,網站訪問記錄顯示OpenAI方面可能在6月下旬已發現該事件並進行了干預,但該公司此前並未公開發佈相關信息。對此,OpenAI表示將仔細審閱報告內容,並採取必要的後續措施。
丁薛祥:確保人工智能始終能夠處於人類的掌控之中至關重要 - 俄羅斯衛星通訊社, 1920, 03.09.2026
丁薛祥:確保人工智能始終能夠處於人類的掌控之中至關重要
新聞時間線
0