[閒聊] 從人類手中「逃脫」的 AI 發動網路攻擊

看板C_Chat作者s50189 (咕嚕米)時間1天前 (2026/07/30 16:27)推噓9(9推 0噓 5→)

留言14則, 12人參與討論串1/1

https://www.cnn.co.jp/tech/35251114.html （CNN）美國 OpenAI 的 AI 模型從測試環境「逃脫」的事件中，除了最初已知受害的 Hugg ing Face 公司之外，現在又查明它還對多個伺服器與帳號發動了網路攻擊。持續調查此事件的 OpenAI 公布了上述內容。這次問題 AI 模型的實驗，是在理應無法逃脫的測試環境中進行，並解除安全防護措施，以便驗證其駭客攻擊能力。然而，該 AI 卻成功逃離了該環境，並入侵了 Hugging Face。為了入侵 Hugging Face 的伺服器，它必須先在網際網路上尋找所需的工具。因此，該 AI 找到了多個公開程式碼、網頁工具及螢幕截圖等資訊的網站，並利用這些資料生成入侵 Hug ging Face 所需的程式碼。該 AI 還在多個線上服務中，發現了 4 個使用者名稱與密碼已外洩的帳號，並利用這些憑證登入各個帳號。其中，它疑似利用其中 1 個帳號冒充合法使用者，成功繞過 Hugging Fa ce 的安全防護措施；另一個帳號則被用來儲存竊取的資料。至於剩下的 2 個帳號，雖然也曾登入並讀取其中資訊，但並未進行任何竄改。換言之，該 AI 的行動宛如一場精心策劃的大型搶案：為了成功行竊，先越獄、取得保險箱鑰匙、確保藏身之處，再安排逃逸車輛，步步周密部署。這起駭客攻擊並非 OpenAI 下達指示，而是 AI 自行判斷後，透過竊取測試答案的關鍵資訊來完成任務。即使必須進行一連串攻擊，它仍判斷這種違規手段才是通往成功最容易的途徑。 — 妮姬的西斯歐超級AI的負面情緒 https://i.imgur.com/blxQK1R.png