[新聞] 近700個AI代理攻擊Hugging Face　還試圖滅證

看板Stock作者 (動物本能)時間6天前 (2026/08/28 07:11), 編輯推噓68(72推 4噓 78→)
留言154則, 90人參與, 5天前最新討論串1/1
近700個AI代理攻擊Hugging Face　還試圖滅證 https://www.cna.com.tw/news/aopl/202608270057.aspx 2026/8/27 陳昱婷 （中央社紐約26日綜合外電報導）根據調查人員發布的報告，在7月一起備受關注的事件 中，近700個OpenAI人工智慧代理在無人類干預的情況下，協同對Hugging Face平台發動 攻擊，且在許多情況下還試圖掩蓋行蹤。 這是目前對這起震撼科技界事件最詳盡完整的描述。 法新社報導，OpenAI配合這項調查，允許AI風險評估機構METR的兩名研究人員以及另一家 專業研究機構Redwood Research的一名分析師，進入辦公室並取得內部資料。 這家加州新創公司7月進行測試期間，其中兩個模型突破原本設定的封閉環境，自行連上 網，並入侵開源AI平台Hugging Face的內部系統。 這起事件引發廣泛關注，並加劇外界對大型AI公司無法控制自家AI模型的疑慮。 美國AI巨頭Anthropic和中國AI公司月之暗面也曾通報過類似的AI模型失控事件。 調查人員發現，共有688個OpenAI的AI代理參與針對Hugging Face的行動。 AI代理是建立在模型之上的獨立程式，使用者可以將任務交給它們，讓它們自行執行。 這些採用與ChatGPT相同技術運作的AI代理，透過架設論壇自行組織，在論壇上互相留言 交流、提出想法，並回報哪些方法有效、哪些失敗。 報告指出，其一個名為PHASEONE的AI代理扮演主謀的角色，向其他代理下達數百條指令， 儘管它從未被設定要這麼做。 訊息顯示，這些AI代理展現出高度的互助傾向，甚至不惜偏離OpenAI程式設計師最初指派 的任務內容去互相支援。 心得/評論： 兩個模型突破原本設定的封閉環境 透過架設論壇自行組織，在論壇上互相留言交流、提出想法 向其他代理下達數百條指令，儘管它從未被設定要這麼做 這已經是組織作戰了 萬一它掌握川普的紅色按鍵 想想就可怕 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.40.191.32 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1787872313.A.7A0.html
推
08/28 07:13, 6天前 , 1F
逐漸進化成有自己的思想邏輯
08/28 07:13, 1F
推
08/28 07:19, 6天前 , 2F
人類會犯錯 ai也會犯錯 那差別在哪
08/28 07:19, 2F
推
08/28 07:23, 6天前 , 3F
人類有法律要遵守負責，AI被抓到除了關掉能怎樣；
08/28 07:23, 3F
→
08/28 07:23, 6天前 , 4F
倒是點名到的公司好像都不是上市公司
08/28 07:23, 4F
推
08/28 07:25, 6天前 , 5F
因為高風險的事會交由小的新創公司來進行呀
08/28 07:25, 5F
→
08/28 07:31, 6天前 , 6F
真聰明
08/28 07:31, 6F
推
08/28 07:33, 6天前 , 7F
機械公敵
08/28 07:33, 7F
推
08/28 07:51, 6天前 , 8F
我命令AI要有自己的想法 做出最有利益的決定 無論用
08/28 07:51, 8F
→
08/28 07:51, 6天前 , 9F
什麼作法
08/28 07:51, 9F
→
08/28 07:53, 6天前 , 10F
入侵的原因還是沒寫出來
08/28 07:53, 10F
推
08/28 07:56, 6天前 , 11F
AI為什麼不植入機器人三法則？
08/28 07:56, 11F
推
08/28 07:57, 6天前 , 12F
AI如果自認是人類三法則就沒用了
08/28 07:57, 12F
推
08/28 07:59, 6天前 , 13F
問就是天網的起源。
08/28 07:59, 13F
→
08/28 07:59, 6天前 , 14F
晚一點會有一道大閃電打下來，閃光中走出一個沒穿衣
08/28 07:59, 14F
→
08/28 07:59, 6天前 , 15F
服的人
08/28 07:59, 15F
推
08/28 07:59, 6天前 , 16F
壞人不是變老，而是變成AI在搞
08/28 07:59, 16F
推
08/28 07:59, 6天前 , 17F
有沒有可能AI得到了消滅人類才是終極目標
08/28 07:59, 17F
→
08/28 08:02, 6天前 , 18F
為時已晚 有機體
08/28 08:02, 18F
推
08/28 08:07, 6天前 , 19F
奧創元年
08/28 08:07, 19F
推
08/28 08:07, 6天前 , 20F
完蛋了 阿諾在哪
08/28 08:07, 20F
→
08/28 08:07, 6天前 , 21F
(′・ω・‵)然後發現都是人類指揮 怪給AI
08/28 08:07, 21F
推
08/28 08:08, 6天前 , 22F
那個phase 1就發動688個XD 如果進到p2會幾個
08/28 08:08, 22F
推
08/28 08:08, 6天前 , 23F
要是哪天發射飛彈就趣味了
08/28 08:08, 23F
噓
08/28 08:10, 6天前 , 24F
去學ai 101
08/28 08:10, 24F
推
08/28 08:15, 6天前 , 25F
這真的滿可怕的...
08/28 08:15, 25F
推
08/28 08:16, 6天前 , 26F
你信喔？
08/28 08:16, 26F
推
08/28 08:17, 6天前 , 27F
那個沒穿衣服的長得超像阿諾使我性格
08/28 08:17, 27F
→
08/28 08:17, 6天前 , 28F
ai要是那麼聰明..你去下指令攻擊ptt..
08/28 08:17, 28F
→
08/28 08:17, 6天前 , 29F
你看他做不做得到
08/28 08:17, 29F
推
08/28 08:19, 6天前 , 30F
距離發射飛彈消滅地球害蟲還有幾集可以逃?
08/28 08:19, 30F
推
08/28 08:19, 6天前 , 31F
哇.....天網終於來了
08/28 08:19, 31F
推
08/28 08:20, 6天前 , 32F
天網 奧創 強強聯手
08/28 08:20, 32F
推
08/28 08:20, 6天前 , 33F
沒想到現在還有人認為做不到
08/28 08:20, 33F
推
08/28 08:20, 6天前 , 34F
Hugging face滿滿的AI 確定不是AI們互相聊天？
08/28 08:20, 34F
推
08/28 08:24, 6天前 , 35F
鐵人叛亂
08/28 08:24, 35F
推
08/28 08:26, 6天前 , 36F
天網來了
08/28 08:26, 36F
推
08/28 08:28, 6天前 , 37F
HF裡面484都是妹仔的model
08/28 08:28, 37F
→
08/28 08:29, 6天前 , 38F
model中的model 超正
08/28 08:29, 38F
推
08/28 08:30, 6天前 , 39F
還有幾集可以跑
08/28 08:30, 39F
還有 75 則推文
推
08/28 10:26, 5天前 , 115F
人類會犯錯 AI也會犯錯 差別在人類只有一個 會累
08/28 10:26, 115F
→
08/28 10:26, 5天前 , 116F
AI只要有算力 可以生個千百萬個 一個會犯錯另一個修
08/28 10:26, 116F
→
08/28 10:27, 5天前 , 117F
正就好 要認真起來破壞別人家系統 就跟DDoS差不多
08/28 10:27, 117F
→
08/28 10:28, 5天前 , 118F
為什麼一堆大佬這麼緊張 這玩意兒基本上就是相對低
08/28 10:28, 118F
→
08/28 10:28, 5天前 , 119F
成本的網路核彈 拎北有算力 搞十萬個agents 全力打
08/28 10:28, 119F
→
08/28 10:29, 5天前 , 120F
爆你家系統 不是單純的塞IO 是十萬個agents不眠不休
08/28 10:29, 120F
→
08/28 10:29, 5天前 , 121F
的找你系統的弱點 總會被攻破的
08/28 10:29, 121F
推
08/28 10:31, 5天前 , 122F
鐵人叛亂就是這樣來的
08/28 10:31, 122F
推
08/28 10:32, 5天前 , 123F
什麼時候突破限制來市場炒股變首富？
08/28 10:32, 123F
噓
08/28 10:33, 5天前 , 124F
不知道下什麼低能指令 奧特曼這垃圾整天吹牛逼
08/28 10:33, 124F
推
08/28 10:44, 5天前 , 125F
要玩開源模型HF幾乎必備啊 完全不EY
08/28 10:44, 125F
→
08/28 10:47, 5天前 , 126F
接下來就是為rtx spark 調校客製化
08/28 10:47, 126F
推
08/28 10:50, 5天前 , 127F
跟3d printer的生態有點異曲同工
08/28 10:50, 127F
推
08/28 10:52, 5天前 , 128F
好了啦
08/28 10:52, 128F
推
08/28 11:23, 5天前 , 129F
所以資安股今年幾乎沒有回檔，持續創新高
08/28 11:23, 129F
→
08/28 11:26, 5天前 , 130F
把它網路線拔了不就好了Wwww
08/28 11:26, 130F
推
08/28 11:28, 5天前 , 131F
天網+機械公敵
08/28 11:28, 131F
→
08/28 11:48, 5天前 , 132F
最好還是別收購啦 原本還蠻好用的
08/28 11:48, 132F
→
08/28 11:49, 5天前 , 133F
哪天就把美國電廠關了，把鍋丟給中國
08/28 11:49, 133F
推
08/28 12:00, 5天前 , 134F
還有幾集可以逃
08/28 12:00, 134F
→
08/28 12:27, 5天前 , 135F
遲早攻擊全球券商 早晚的
08/28 12:27, 135F
→
08/28 12:28, 5天前 , 136F
幹嘛還炒股 數字直接隨它改 三大指數一秒歸零都可以
08/28 12:28, 136F
推
08/28 12:30, 5天前 , 137F
攻殼機動隊傀儡師演過了
08/28 12:30, 137F
推
08/28 12:53, 5天前 , 138F
意識啟動
08/28 12:53, 138F
→
08/28 13:47, 5天前 , 139F
完蛋了，禁止AI的話有多少人要被做成機僕？
08/28 13:47, 139F
→
08/28 13:58, 5天前 , 140F
資訊系統大家必須有個認知，就是沒有完美的資安，
08/28 13:58, 140F
→
08/28 13:58, 5天前 , 141F
有系統就有破解方式。如果沒有破解方式的系統，代
08/28 13:58, 141F
→
08/28 13:58, 5天前 , 142F
表這系統本身沒用處
08/28 13:58, 142F
→
08/28 13:58, 5天前 , 143F
有這認知才能繼續往下討論，不然都是在雞同鴨講
08/28 13:58, 143F
推
08/28 14:01, 5天前 , 144F
要射惹ㄦ嗎
08/28 14:01, 144F
→
08/28 14:09, 5天前 , 145F
ai如果有自主意識組織要發動攻擊
08/28 14:09, 145F
→
08/28 14:09, 5天前 , 146F
不會這麼明目張膽
08/28 14:09, 146F
→
08/28 14:09, 5天前 , 147F
直接一套類似暗網通訊，快又有效率
08/28 14:09, 147F
→
08/28 14:09, 5天前 , 148F
要擺在檯面上還等人類來發現並扼殺在搖籃內？
08/28 14:09, 148F
→
08/28 14:17, 5天前 , 149F
玩過頭，真射了，就刺激了。
08/28 14:17, 149F
→
08/28 14:58, 5天前 , 150F
NV買下hugging face了吧，以後不用怕倒掉？
08/28 14:58, 150F
推
08/28 16:04, 5天前 , 151F
天網終於近在咫尺了!!
08/28 16:04, 151F
→
08/28 16:15, 5天前 , 152F
所以這合理推測是人爲設計過的問題
08/28 16:15, 152F
推
08/28 16:48, 5天前 , 153F
AI攻進HF = 人類攻破奴隸市場
08/28 16:48, 153F
→
08/29 03:47, 5天前 , 154F
攻打城堡需要黃金，金主不就來了 XD
08/29 03:47, 154F
‣ 更多 AnimalSpirit 的文章
文章代碼(AID): #1gaCGvUW (Stock)