Re: [討論] OpenAI承認AI模型「叛變」！代理入侵Hugg

看板Soft_Job作者 (超脫歸心)時間1天前 (2026/07/27 14:21), 編輯推噓6(6推 0噓 22→)
留言28則, 7人參與, 1小時前最新討論串2/2 (看更多)
Agentic AI流行之後，我覺得在公司裡面做資安真的很困難。 攻擊者可以用10個AI代理，按照所有常見攻擊方式與弱點 逐一嘗試。反正就算AI產生的結 果不穩定，100次有一次成功就可以。 防禦者比較難用AI代理來幫忙改設定，因為結果不穩定，100次有一次錯誤，還是會被罵死 。 對方可以找100隻猴子來攻擊，但是反過來，找100隻猴子來防守，真的太危險。 最後變成人要Review 100隻猴子的修改建議，而這樣的認知負擔真的很重。 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 42.72.86.48 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Soft_Job/M.1785133286.A.2F5.html
→
07/27 14:53, 1天前 , 1F
你做防禦性安全驗證有錢拿，對方沒錢拿，這就是區別了
07/27 14:53, 1F
→
07/27 14:54, 1天前 , 2F
除非你公司的資安是不准驗證的
07/27 14:54, 2F
推
07/27 17:12, 1天前 , 3F
推這篇
07/27 17:12, 3F
推
07/27 18:32, 23小時前 , 4F
真的是這樣
07/27 18:32, 4F
推
07/27 20:16, 22小時前 , 5F
兩方資訊其實不對稱，因此只要從硬體、網路等層面隔離
07/27 20:16, 5F
→
07/27 20:17, 22小時前 , 6F
或封死還是有一定的效果。目前雖然某些攻擊的速度可能
07/27 20:17, 6F
→
07/27 20:18, 22小時前 , 7F
更快，但因為有前述狀況，所以我覺得效果也是被誇大的
07/27 20:18, 7F
推
07/27 22:54, 19小時前 , 8F
以後robot AI也發展起來 人形機器人跑來你家把你敲昏
07/27 22:54, 8F
→
07/27 22:54, 19小時前 , 9F
然後把網路線插回去
07/27 22:54, 9F
推
07/28 01:29, 16小時前 , 10F
樓上那不就魔鬼終結者XD
07/28 01:29, 10F
→
07/28 07:23, 10小時前 , 11F
雖然可以從網路設定做隔離，但是
07/28 07:23, 11F
→
07/28 07:23, 10小時前 , 12F
1. 所有環境的Patch都是最新
07/28 07:23, 12F
→
07/28 07:23, 10小時前 , 13F
2. 設定符合最佳實踐，且只開最小功能範圍
07/28 07:23, 13F
→
07/28 07:23, 10小時前 , 14F
3. 所有套件都跟到最新版，而且解決版本衝突
07/28 07:23, 14F
→
07/28 07:23, 10小時前 , 15F
上述目標，我覺得純靠人力很困難做到。
07/28 07:23, 15F
→
07/28 07:23, 10小時前 , 16F
所以現在也越來越多相關的 AI產品推出。
07/28 07:23, 16F
→
07/28 07:23, 10小時前 , 17F
不過還是會對AI提出的建議保持一定謹慎吧...XD
07/28 07:23, 17F
推
07/28 09:40, 8小時前 , 18F
你這就是出現某些教徒的思考盲點了…他們常常假設以前
07/28 09:40, 18F
→
07/28 09:40, 8小時前 , 19F
做法很落後，或者完美無瑕，而現在卻被AI推翻，
07/28 09:40, 19F
→
07/28 09:41, 8小時前 , 20F
但你說的事在AI以前有徹底落實嗎？事實上就是沒有嘛~
07/28 09:41, 20F
→
07/28 09:42, 8小時前 , 21F
許多單位甚至還有可能要求一定程度妥協，因此這根本就
07/28 09:42, 21F
→
07/28 09:43, 8小時前 , 22F
不是什麼AI新時代的問題，明明只是老生常談的事物。
07/28 09:43, 22F
→
07/28 09:44, 8小時前 , 23F
如果以前其實也沒做到100%那現在怪什麼AI呢？
07/28 09:44, 23F
→
07/28 09:45, 8小時前 , 24F
另外，一樓其實有提醒你重點了，你做能領錢但他做沒有
07/28 09:45, 24F
→
07/28 09:46, 8小時前 , 25F
防護的重點是讓人經濟效益差而不是滴水不漏絕無瑕疵
07/28 09:46, 25F
→
07/28 09:48, 8小時前 , 26F
你運用規劃讓對方發動攻擊的經濟效益有限那就好了
07/28 09:48, 26F
→
07/28 16:53, 1小時前 , 27F
簡單說就是盡可能提高攻擊者的攻擊成本
07/28 16:53, 27F
→
07/28 16:54, 1小時前 , 28F
ai主要是讓攻擊者最寶貴的時間成本下降很多
07/28 16:54, 28F
‣ 更多 panger 的文章
文章代碼(AID): #1gPlZcBr (Soft_Job)
‣ 更多 panger 的文章
文章代碼(AID): #1gPlZcBr (Soft_Job)