[問卦] 大語言模型不能限制是不是很危險？
如題
喜歡科幻作品的人
應該都知道機器人三定律
但llm本質上他們根本不能堅持任何限制
譬如現在有各種各樣的nsfw限制
但可以在模型內輕鬆被人類繞過
可以被蒸餾出不含限制的版本
最後閉源模型商只能在輸出、輸入中
加入傳統的審查限制
所以有時候可以看到ai本來輸出了一大堆
然後馬上被警告文字取代
但本質上現在的llm根本無法堅守規則
自然也無法像人類想像的
把機器人三代定律埋進最底層
而且這是結構上的缺陷
不管發展的多深都無法改變的問題
然後人類正在全力開發這東西
這樣是不是很危險？
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 118.233.4.142 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1782117908.A.2AD.html
→
06/22 16:46,
1月前
, 1F
06/22 16:46, 1F
→
06/22 16:46,
1月前
, 2F
06/22 16:46, 2F
推
06/22 17:04,
1月前
, 3F
06/22 17:04, 3F
推
06/22 17:10,
1月前
, 4F
06/22 17:10, 4F