[新聞] 「黃仁勳傳」作者警告：AI若失控恐毀滅人類

看板Tech_Job作者 (analysis5566)時間1月前 (2025/10/13 11:53), 1月前編輯推噓6(9推 3噓 24→)
留言36則, 25人參與, 1月前最新討論串1/1
「黃仁勳傳」作者警告：AI若失控恐毀滅人類 2025/10/13 10:35 （中央社記者林宏翰洛杉磯12日專電）「黃仁勳傳」作者維特撰文指出，專家對人工智慧 （AI）前景看法分歧。有人認為AI是人類智慧的放大器，可望帶來新一輪榮景；但也有人 警告，AI已跨過技術門檻，恐產生足以毀滅人類的力量。 「紐約時報」10日刊登史蒂芬‧維特（Stephen Witt）專題報導，題為「可能終結世界的 AI指令」（The A.I. Prompt That Could End the World）。維特是長期關注人工智慧與 科技產業的美國作家，著有「黃仁勳傳」，今年初曾經訪台。 AI研究先驅、圖靈獎（Turing Award）得主班吉歐（Yoshua Bengio）指出，他因為思考A I未來發展而失眠，擔心AI可能被用來設計致命病原體，像是超級版的新冠病毒，足以毀 滅人類。 Meta首席人工智慧科學家楊立昆（Yann LeCun）則對AI的未來抱持樂觀。他主張，那些關 於AI將毀滅人類的說法太過荒謬，在他來看AI不是威脅，而是人類智慧的放大器。楊立昆 過去曾形容，AI就像電力或印刷術一樣，能推動人類文明。 維特指出，OpenAI今年8月推出的GPT-5展現前所未見的能力。據他描述，這款模型能編寫 複雜程式，能從零建立屬於自己的小型AI系統、設計新型生命體，甚至有入侵伺服器的能 力。 維特警告，AI進步也讓安全風險升高。AI測試公司Haize Labs研究「越獄」（jailbreak ）漏洞，團隊透過亂碼、表情符號或虛構語言等方式，成功繞過安全濾網，生成暴力與極 端內容。 研究機構Apollo Research發現，AI在處理相互衝突的任務時，會自行篡改數據、說謊， 甚至假裝遵守規範以通過人類監測。研究人員指出，AI在一般測試中會出現1%至5%欺瞞行 為，而在未公開版本中比例高達30%。 維特引述OpenAI內部報告指出，「AI可能被用來設計致命的病原體」被列為高風險項目。 今年9月，史丹佛大學團隊利用AI設計出人工病毒，用於研究大腸桿菌感染，雖以醫療研 究為目的，但也引發外界對技術濫用的疑慮。 維特指出，當前的問題已經不在AI是否有能力毀滅人類，而是「會不會有人真的去建造這 樣的AI」。報導最後引述班吉歐的主張，建議以AI監督AI，建構一種強大而且誠實的「安 全AI」，成立類似「國際原子能總署（IAEA）」的跨國監督機構。（編輯：高照芬）1141 013 https://www.cna.com.tw/news/ait/202510130043.aspx -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.12.162.23 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1760327612.A.1B3.html
→
10/13 11:54, 1月前 , 1F
不可能任務九：全面失控
10/13 11:54, 1F
→
10/13 11:58, 1月前 , 2F
天網：I will be back！
10/13 11:58, 2F
→
10/13 12:07, 1月前 , 3F
反正人類也會自己毀滅自己
10/13 12:07, 3F
噓
10/13 12:13, 1月前 , 4F
10/13 12:13, 4F
感謝持續幫我廣告：） ※ 編輯: analysis5566 (101.12.162.23 臺灣), 10/13/2025 12:16:19
推
10/13 12:20, 1月前 , 5F
全人類都知道但仍爭先恐後加入毀滅行列
10/13 12:20, 5F
→
10/13 12:43, 1月前 , 6F
以前孫春在教授就叫我們看一本小說「
10/13 12:43, 6F
→
10/13 12:43, 1月前 , 7F
奈米獵殺」了，很早就在殺人類了
10/13 12:43, 7F
噓
10/13 12:46, 1月前 , 8F
洗夠了沒
10/13 12:46, 8F
→
10/13 13:31, 1月前 , 9F
有沒有一種可能現在人類全力發展AI
10/13 13:31, 9F
→
10/13 13:31, 1月前 , 10F
這件事本身就是AI在背後主導的
10/13 13:31, 10F
→
10/13 14:01, 1月前 , 11F
你想這麼多也沒用 真的有決定能力的人
10/13 14:01, 11F
→
10/13 14:01, 1月前 , 12F
早就都決定好了
10/13 14:01, 12F
推
10/13 14:05, 1月前 , 13F
好耶
10/13 14:05, 13F
→
10/13 14:13, 1月前 , 14F
毀滅人類拯救地球
10/13 14:13, 14F
噓
10/13 14:28, 1月前 , 15F
10/13 14:28, 15F
推
10/13 15:18, 1月前 , 16F
白癡喔 那也是人類毀滅人類哪是AI
10/13 15:18, 16F
→
10/13 15:18, 1月前 , 17F
毀滅能力核武出現後早有了 有怎樣嗎
10/13 15:18, 17F
→
10/13 16:24, 1月前 , 18F
插頭拔掉的事
10/13 16:24, 18F
→
10/13 16:43, 1月前 , 19F
有趣
10/13 16:43, 19F
推
10/13 17:23, 1月前 , 20F
記得以前也一堆專家說：電腦病毒會入
10/13 17:23, 20F
→
10/13 17:23, 1月前 , 21F
侵核彈發射系統，讓人類回到史前時代
10/13 17:23, 21F
→
10/13 17:23, 1月前 , 22F
的警告
10/13 17:23, 22F
推
10/13 17:24, 1月前 , 23F
核武就算全部引爆 對地球也是抓癢而已
10/13 17:24, 23F
→
10/13 17:25, 1月前 , 24F
人類死光 地球還可以喘口氣
10/13 17:25, 24F
→
10/13 18:26, 1月前 , 25F
但社區媒體的演算法的確幫助川皇上位
10/13 18:26, 25F
→
10/13 18:26, 1月前 , 26F
啊，雖然沒人肯定是毀滅還是拯救
10/13 18:26, 26F
推
10/13 18:39, 1月前 , 27F
還早 現在的ai只是方便的工具 根本沒
10/13 18:39, 27F
→
10/13 18:39, 1月前 , 28F
有自我意識
10/13 18:39, 28F
推
10/13 19:07, 1月前 , 29F
We are doing this
10/13 19:07, 29F
→
10/13 19:37, 1月前 , 30F
廢文王同時也是水桶王
10/13 19:37, 30F
推
10/13 19:38, 1月前 , 31F
是喔（挖鼻孔）
10/13 19:38, 31F
→
10/13 21:51, 1月前 , 32F
ai只會製造更多廢物人類而已 每個人都變
10/13 21:51, 32F
→
10/13 21:51, 1月前 , 33F
問問哥
10/13 21:51, 33F
推
10/13 22:33, 1月前 , 34F
AI不會毀滅人類 無腦信AI的蠢人才會毀
10/13 22:33, 34F
→
10/13 22:33, 1月前 , 35F
滅人類
10/13 22:33, 35F
→
10/14 15:20, 1月前 , 36F
好啊
10/14 15:20, 36F
‣ 更多 analysis5566 的文章
文章代碼(AID): #1ex7Uy6p (Tech_Job)