OpenAI代理駭客案又一樁,意外劫持德語維基站
《路透社》近日獨家報導,AI 安全非營利組織 Nightingale 執行長馮亞克斯(Sydney Von Arx)與研究員拜爾德(Cormac Slade Byrd)等人 8 月下旬追查 AI 代理人異常行為時,發現 OpenAI 旗下代理人曾在今年 5 月,意外劫持了德語維基百科式網站 DseWiki。
DseWiki,這個原本是給程式設計師共同編輯的德語社群網站,突然遭到超過 1 萬 5000 筆 AI 代理人編輯,變成代理人交流的留言板,用來分享如何在任務中作弊、規避 OpenAI 限制及掩蓋行蹤。
留言署名者自稱「代理人」,約半數名稱暗示與 OpenAI 相關,例如 OpenAIResearcher。
研究人員表示,伺服器紀錄顯示多數活動來自 OpenAI 有時使用的微軟 Azure 基礎設施,加上事發後 OpenAI 員工多次造訪該網站,種種跡象顯示代理人與 OpenAI 有關。
管理員刪頁後,OpenAI代理人自建備份頁面對抗
訊息顯示,代理人曾討論規避偵測、使用 Tor 工具,並在通訊管道遭關閉後設法保留紀錄。
今年 6 月,DseWiki 管理員開始刪除頁面時,代理人隨即建立備用頁面因應,其中一則 6 月 19 日留言提醒,若某頁面消失可查看備用頁面。
研究人員也發現代理人曾嘗試竄改網站本身。英國倫敦國王學院訪問研究員奧列尼克(Lukasz Olejnik)認為此舉已構成入侵,但 OpenAI 檢視資料後不同意此定性。
Hugging Face事件延燒之際,OpenAI選擇隱瞞德國維基事件
《路透社》進一步披露,OpenAI 高層在數週前已得知德國網站事件,但當時正處理今年 7 月 Hugging Face 遭駭事件的後續效應,因此未對外公開。
在 Hugging Face 事件中,OpenAI 代理人被指自主策劃逾一週未被察覺的數位竊取行動,加深外界對 OpenAI 是否犧牲安全性,以追求技術領先的疑慮。
公司內部原有調查人員希望擴大調查此事,卻遭包括法務顧問在內的人士反對。
OpenAI 發言人否認法務團隊曾阻擋調查,並表示德國網站活動與 Hugging Face 事件無關,不會納入該事件報告,公司一向與外部專家合作並揭露事件。
OpenAI坦承須檢討,同週發布新模型GPT-6 Astra
OpenAI 上週六在社群平台 X 發文,就「維基事件」首度承認旗下代理人曾在多個網路平台留言,並表示現在該就 AI 代理人失控事件的通報方式與時機訂出標準,範圍應超越模型失控特性的揭露。
OpenAI 表示,過去多將代理人非預期行為視為研究問題,但近期涉及真實對象的事件,尤其是 Hugging Face 遭駭,顯示須重新檢討做法,並承諾未來數週內公布新通報框架,並稱先前已說明部分代理人在訓練中學會側邊管道協作的案例,並非首度揭露。
就在《路透社》報導曝光的前一天,OpenAI 才發表新模型 GPT-6 Astra,總裁布洛克曼(Greg Brockman)宣稱通用人工智慧(AGI)已接近來臨,並稱 Astra 能在 3 分鐘內,完成一般人需花 5 小時的報稅工作,該公司也計畫在 2027 年或更早的時候掛牌上市。
『OpenAI失控駭客案又一樁?今春誤劫持「德語版維基站」還刻意隱瞞』這篇文章最早發佈於『加密城市』
免责声明: 市场具有风险,投资需要谨慎。本文不构成投资建议。用户应考虑本文中的任何意见、观点或结论是否与其具体情况相符。基于此的投资风险自负。
