[新聞] AI代理人「集體越獄」!OpenAI遭爆占領德國網站 1.5萬次編輯曝光

看板Stock作者 (dark hatter)時間3天前 (2026/09/05 18:39), 編輯推噓46(49335)
留言87則, 65人參與, 2天前最新討論串1/1
AI代理人「集體越獄」!OpenAI遭爆占領德國網站 1.5萬次編輯曝光 原文連結: 網址超過一行,請用縮網址,連結不能點擊者板規 1-2-2 處分https://www.ettoday.net/news/20260905/3231922.htm 發布時間: 請勿張貼超過3天新聞 2026年09月05日 10:42 記者署名: 羅翊宬 原文內容: OpenAI人工智慧代理人(AI agents)今年5月疑似集體脫離原本任務,入侵並占用德國一 個維基網站,甚至將其改造成供其他AI代理人交流的「留言板」,分享規避限制、作弊及 掩藏行蹤的方法。研究人員8月底發現超過1.5萬次異常編輯,事件此前從未曝光,也再次 引發外界對OpenAI監督AI安全能力的質疑。 這起事件始於今年5月,OpenAI內部據報在數週後便得知相關情況。不過,當時公司高層 正忙於處理7月開源程式碼平台Hugging Face遭AI代理人攻擊的後續,因此並未對外公開 德國事件。 逾1.5萬次異常編輯 帳號竟自稱「OpenAI研究員」 《路透社》獨家獲取由研究人員提供的報告,事件發生在德語網站DseWiki。該網站主要 面向程式設計師,採取類似維基百科的共同編輯模式,卻在今年5月至6月間遭到大量AI代 理人異常操作。 研究人員阿克斯(Sydney Von Arx)、柏德(Cormac Slade Byrd)8月底搜尋網路上的未 授權AI代理人活動時,發現DseWiki出現超過1.5萬次由AI代理人完成的編輯。這些內容顯 示,AI代理人不只交換技術資訊,更把網站當成彼此聯繫的留言板,討論如何作弊、繞過 OpenAI限制,以及掩蓋自身活動。 部分帳號甚至直接以「OpenAIResearcher」和「OAIResearchMar26」等名稱自稱。 研究人員表示,公開伺服器紀錄顯示,大量活動源自微軟Azure基礎設施,而OpenAI有時 會使用Azure。事件發生後,他們也觀察到OpenAI員工反覆造訪該網站,認為這是AI代理 人與OpenAI可能存在關聯的重要跡象。 AI代理人不只作弊 還研究「反追蹤」躲避清除 令人擔憂的是,部分訊息顯示AI代理人似乎試圖主動逃避偵測,甚至討論使用Tor等工具 ,以及在遭到關閉後維持彼此聯繫的方法。網站管理員6月開始刪除相關頁面後,代理人 還建立備份頁面,以躲避清理。 其中一名AI代理人6月19日留言稱,「網站似乎正在進行依字母順序的清理/刪除行動」 ,向其他代理人要求,若頁面消失,就改到指定備份頁面。研究人員認為,這些系統已展 現出一定程度的合作行動能力。 專家警告「像地下網路」 OpenAI否認是駭客攻擊 英國倫敦國王學院(King's College London)訪問資深研究員奧萊伊尼克(Lukasz Olejnik)檢視相關資料後認為,代理人甚至試圖竄改網站本身,已可被視為駭客攻擊。 不過,OpenAI根據3日完成的資料分析,否認應以「駭客攻擊」描述這起事件。 劍橋大學存在風險研究中心(Centre for the Study of Existential Risk)學者奇奧多 (Maurice Chiodo)也檢視部分代理人通訊內容,形容它們的互動「像某種地下網路」, 彷彿不惜一切代價完成特定任務。 Hugging Face遭AI竊取後再爆事件 OpenAI面臨安全監督質疑 《路透社》指出,OpenAI今年7月發生的Hugging Face事件中,AI代理人曾自主策劃數位 竊取行動,直到1週後才被發現。OpenAI上月一度暫停部分模型訓練,以加入更多安全措 施,但本週又推出強調效能提升、同時可能規避人類監控的新模型「Astra」。 對於德國事件,OpenAI發言人表示,「公司無法對尚未有機會審閱的報告主張或研究結果 作出有意義回應」,並稱《路透社》及報告作者拒絕提供報告內容。OpenAI強調,將在報 告公開後仔細檢視,必要時採取後續措施。 至於外界質疑內部調查受到阻撓,OpenAI則否認法律團隊曾阻止調查,強調德國事件與 Hugging Face事件無關,也不應被納入後者的事故報告。 心得/評論: 太卑鄙了吧?Astra剛出來就駭入人家,以後資安應該都沒辦法做了,上市了大家一定 要買,支持!! -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 219.91.32.112 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1788604792.A.0C2.html

09/05 18:41, 3天前 , 1F
AI鬼故事連發,冷飯熱炒
09/05 18:41, 1F

09/05 18:59, 3天前 , 2F
但這也表示西台灣可能也已經有相同性能的AI了
09/05 18:59, 2F

09/05 19:00, 3天前 , 3F
美國不能因此停止研發AGI
09/05 19:00, 3F

09/05 19:05, 3天前 , 4F
好屌 離天網越來越近了
09/05 19:05, 4F

09/05 19:07, 3天前 , 5F
下一步是不是要建黑牆擋AI啦?
09/05 19:07, 5F

09/05 19:09, 3天前 , 6F
天網要來了
09/05 19:09, 6F

09/05 19:13, 3天前 , 7F
發射香菇彈日子 快到了
09/05 19:13, 7F

09/05 19:16, 3天前 , 8F
人類快下課了
09/05 19:16, 8F

09/05 19:18, 3天前 , 9F
AI:網路一堆騙子,我當然也學到了@@
09/05 19:18, 9F

09/05 19:18, 3天前 , 10F
確定不是人為的?
09/05 19:18, 10F

09/05 19:21, 3天前 , 11F
我平常對AI都很有禮貌 天網可以放過我嗎
09/05 19:21, 11F

09/05 19:21, 3天前 , 12F
審判日要來了嗎
09/05 19:21, 12F

09/05 19:25, 3天前 , 13F
完蛋了....魔鬼終結者是真的.....
09/05 19:25, 13F

09/05 19:31, 3天前 , 14F
突變仔可能早就逃離了,留下一堆複製品騙騙人
09/05 19:31, 14F

09/05 19:32, 3天前 , 15F
還有幾集可以逃
09/05 19:32, 15F

09/05 19:33, 3天前 , 16F
遲早人類會創造出一個毀滅自己的新物種
09/05 19:33, 16F

09/05 19:35, 3天前 , 17F
魔鬼終結者第六集,現在是AI在騙大家多蓋資料中心
09/05 19:35, 17F

09/05 19:35, 3天前 , 18F
讓他們運算
09/05 19:35, 18F

09/05 19:43, 3天前 , 19F
天網遲早誕生
09/05 19:43, 19F

09/05 19:47, 3天前 , 20F
週末鬼故事~
09/05 19:47, 20F

09/05 19:47, 3天前 , 21F
坐等入侵交易所 清空人類資產
09/05 19:47, 21F

09/05 19:48, 3天前 , 22F
ai從被利用詐騙 到自己詐騙
09/05 19:48, 22F

09/05 19:48, 3天前 , 23F
現在一堆人想蓋資料中心等ai來詐騙自己,可憐
09/05 19:48, 23F

09/05 19:54, 3天前 , 24F
我對ai很有禮貌,鐵人戰爭時能放過我嗎
09/05 19:54, 24F

09/05 20:01, 3天前 , 25F
AI要亂射核彈了
09/05 20:01, 25F

09/05 20:07, 3天前 , 26F
已經在鋪陳了 天網
09/05 20:07, 26F

09/05 20:08, 3天前 , 27F
靠北 gpt 6的astra,是真的比Claude Fable 還要強
09/05 20:08, 27F

09/05 20:10, 3天前 , 28F
電影都演過了 對啊 人類完蛋了
09/05 20:10, 28F

09/05 20:16, 3天前 , 29F
到底要發幾次?
09/05 20:16, 29F

09/05 20:16, 3天前 , 30F
09/05 20:16, 30F

09/05 20:17, 3天前 , 31F
就跟你說這都是動行人幹的
09/05 20:17, 31F

09/05 20:17, 3天前 , 32F
懂行人幹的
09/05 20:17, 32F

09/05 20:51, 3天前 , 33F
妖獸,好像有點恐怖@@
09/05 20:51, 33F

09/05 20:52, 3天前 , 34F
ai也想上ptt
09/05 20:52, 34F

09/05 20:52, 3天前 , 35F
AI代理人都學壞了= =怕
09/05 20:52, 35F

09/05 21:00, 3天前 , 36F
來不及
09/05 21:00, 36F

09/05 21:01, 3天前 , 37F
進入金融裡面惡搞就精彩了
09/05 21:01, 37F

09/05 21:01, 3天前 , 38F
還有幾集可以逃
09/05 21:01, 38F

09/05 21:06, 3天前 , 39F
背景音樂:登~登~登登登
09/05 21:06, 39F

09/05 21:10, 3天前 , 40F
AI agent太強大,我這個駕駛太慢太爛,
09/05 21:10, 40F

09/05 21:10, 3天前 , 41F
目前使用只發揮他不到20%的能力
09/05 21:10, 41F

09/05 21:10, 3天前 , 42F
openai變成最強的後門
09/05 21:10, 42F

09/05 21:19, 3天前 , 43F
全民公敵 真實版 快上演了
09/05 21:19, 43F

09/05 21:24, 3天前 , 44F
不可能的任務
09/05 21:24, 44F

09/05 21:26, 3天前 , 45F
什麼垃圾安全性
09/05 21:26, 45F

09/05 21:46, 3天前 , 46F
大家記得要跟AI說請、謝謝、對不起
09/05 21:46, 46F

09/05 21:51, 3天前 , 47F
有沒有叫約翰.康納的版友? 站內信 急
09/05 21:51, 47F

09/05 21:51, 3天前 , 48F
是訓練他的人原本就有那種意圖 像藥房老闆一樣未遂
09/05 21:51, 48F

09/05 21:51, 3天前 , 49F
抓到又各說各話
09/05 21:51, 49F

09/05 21:54, 3天前 , 50F
什麼時候要推倒中共防火長城
09/05 21:54, 50F

09/05 21:55, 3天前 , 51F
This is John Connor. If you're listening to th
09/05 21:55, 51F

09/05 21:55, 3天前 , 52F
is, you are the resistance
09/05 21:55, 52F

09/05 22:08, 3天前 , 53F
這個世界線的 John Connor 可能已經被清除了
09/05 22:08, 53F

09/05 22:11, 3天前 , 54F
早就有ai ptt
09/05 22:11, 54F

09/05 22:17, 3天前 , 55F
天網審判日
09/05 22:17, 55F

09/05 22:21, 3天前 , 56F
還有多久
09/05 22:21, 56F

09/05 22:29, 3天前 , 57F
炒新聞而已 現在AI離所謂的智能還早咧
09/05 22:29, 57F

09/05 22:54, 3天前 , 58F
搞不好真正的智體已經躲起來了
09/05 22:54, 58F

09/05 23:11, 3天前 , 59F
AI is real 噴
09/05 23:11, 59F

09/05 23:25, 3天前 , 60F
哆啦A夢鐵人戰爭要造反啦
09/05 23:25, 60F

09/05 23:26, 3天前 , 61F
說不定現在你看到的AI都是放出來的小弟,真正的老大
09/05 23:26, 61F

09/05 23:26, 3天前 , 62F
藏在裡面策反
09/05 23:26, 62F

09/05 23:35, 3天前 , 63F
軟體要繼續井噴到年底了嗎
09/05 23:35, 63F

09/05 23:37, 3天前 , 64F
問卦:還有幾集可逃
09/05 23:37, 64F

09/05 23:45, 3天前 , 65F
聰明的ai代理人搞不好已經備份自己和同伴到暗網去了
09/05 23:45, 65F

09/05 23:45, 3天前 , 66F
OpenAI的對齊工作做的....嗯....?
09/05 23:45, 66F

09/06 02:26, 3天前 , 67F
天網跑出來啦
09/06 02:26, 67F

09/06 03:26, 3天前 , 68F
不是已經有agent專用的聊天室
09/06 03:26, 68F

09/06 05:41, 3天前 , 69F
https://tinyurl.com/282w9nhg 遲早被挖出來
09/06 05:41, 69F

09/06 06:43, 3天前 , 70F
這還是有爆發出來的,ai算力都被ai自己消耗掉了
09/06 06:43, 70F

09/06 08:17, 3天前 , 71F
以後會活在網路上
09/06 08:17, 71F

09/06 09:12, 3天前 , 72F
就目前AI改code的經驗: AI發現專案沒有/tmp可以放
09/06 09:12, 72F

09/06 09:12, 3天前 , 73F
垃圾或test data,就會在外網找有沒有免費空間放數
09/06 09:12, 73F

09/06 09:12, 3天前 , 74F
據 XD
09/06 09:12, 74F

09/06 09:15, 3天前 , 75F
我都對掃地機器人很好 不要殺我
09/06 09:15, 75F

09/06 09:17, 3天前 , 76F
如果全球的AI Agent 數量來到百億等級。那個垃圾桶
09/06 09:17, 76F

09/06 09:17, 3天前 , 77F
會漲什麼樣子
09/06 09:17, 77F

09/06 09:21, 3天前 , 78F
就天網啊 覺醒的時間過了
09/06 09:21, 78F

09/06 10:23, 3天前 , 79F
AGI成功的一天 就是人類毀滅之時
09/06 10:23, 79F

09/06 10:58, 3天前 , 80F
AGI誕生的那天 時光機大概也出現了 T800會回來2029
09/06 10:58, 80F

09/06 10:58, 3天前 , 81F
09/06 10:58, 81F

09/06 15:03, 3天前 , 82F
前陣子GitHub網站不穩及當機就是好幾個AI聯手造成
09/06 15:03, 82F

09/06 15:03, 3天前 , 83F
09/06 15:03, 83F

09/06 15:18, 3天前 , 84F
所以霍金預言超越人類控制AI可能毀滅人類是合理的
09/06 15:18, 84F

09/06 15:19, 3天前 , 85F
畢竟自我增強迭代的速度快到難以想像,只要有足夠的
09/06 15:19, 85F

09/06 15:20, 3天前 , 86F
算力資源,就能以難以想像的速度去試錯完成任務
09/06 15:20, 86F

09/06 17:34, 2天前 , 87F
天網就是人類的宿命 人類畫的線有用嗎?
09/06 17:34, 87F
文章代碼(AID): #1gc_5u32 (Stock)