[新聞] ChatGPT 之父警告 AI 可能滅絕人類，350

看板Gossiping作者 (墨者)時間11月前 (2023/05/31 15:06), 11月前編輯推噓96(108推 12噓 71→)
留言191則, 146人參與, 11月前最新討論串1/1
1.媒體來源:科技新報 2.記者署名: May 31, 2023 by 愛范兒 3.完整新聞標題: ChatGPT 之父警告 AI 可能滅絕人類，350 名 AI 權威連署盡快監管 4.完整新聞內文: AI 界又出現重要連署，「ChatGPT 之父」Sam Altman 等 350 位 AI 權威都加入呼籲行 列，擔憂開發中 AI 可能對人類構成生存威脅。 這封信主旨為：Mitigating the risk of extinction from AI should be a global pri ority alongside other societal-scale risks such as pandemics and nuclear war. （降低人工智慧滅絕風險，應與流行病和核戰等其他社會規模風險一樣為全球優先事項） 。 發起人為三家領先 AI 企業高層：OpenAI 首席執行長 Sam Altman、Google DeepMind 首 席執行長 Demis Hassabis、Anthropic 首席執行長 Dario Amodei。其他重要名單還有人 工智慧「教父」Geoffrey Hinton 和 Yoshua Bengio。 https://i.imgur.com/MPg73zS.jpg
超過 350 名人工智慧高層、研究員和工程師都參加這由非營利組織 Center for AI Safe ty 發起的連署，認為人工智慧可能導致人類滅絕的風險，應視為與流行病和核戰同等的 社會風險。如今人們越來越擔心ChatGPT 等人工智慧模型可能對社會和工作造成威脅，很 多人呼籲完整規範 AI 業，否則將對社會造成不可挽回的破壞。 AI 不斷狂飆，但監管審查法規還未跟上，代表沒人能確保 AI 工具及使用 AI 工具時是 否安全。上週 Sam Altman 和 OpenAI 兩位高層提出應建立類似國際原子能機構的國際組 織監管 AI，呼籲國際領先人工智慧企業應合作，並要求政府強化監管尖端人工智慧企業 。 其實 3 月就出現停止 AI 研究 6 個月的連署信，由馬斯克帶頭，呼籲所有 AI 實驗立即 暫停研究比 GPT-4 更先進的 AI 模型至少 6 個月，因 AI 進步速度太驚人，但監管審查 法規還未跟上，代表沒人能保證 AI 工具和使用時的安全，這封信獲 2018 年圖靈獎得主 Yoshua Bengio、蘋果聯合創辦人史蒂夫‧沃茲尼亞克、Skype聯合創辦人、Pinterest聯 合創辦人、Stability AI CEO 等多位知名科技大頭支援，截稿前連署數達 1,125 人。 連署信翻譯如下，供讀者參考這些科技大頭在擔心什麼。 ““人工智慧有與人類競爭的智慧，可能造成社會和人類深刻風險，已透過大量研究證實 ，並取得頂級 AI 實驗室認可。正如阿西洛馬人工智慧原則（Asilomar AI Principles） 指出，先進 AI 可能代表地球生命重大變革，應以同等關注和資源規劃管理。 即使最近幾個月，AI 實驗室開發部署越來越強大數位思維陷入失控競爭，沒人能理解、 預測或可靠控制這些數位思維，即使創造者也無法做到。現代 AI 系統的通用任務有與人 類競爭的能力，我們必須問自己： 應該讓機器充斥資訊管道，傳播宣傳和說謊嗎？ 應該將所有工作自動化，包括讓人有滿足感的工作嗎？ 應該發展可能最後超過取代我們的非人類思維嗎？ 我們應該冒失控文明的風險嗎？ 這些決策不該由非選舉產生的科技領導人負責。只有當我們確信 AI 系統影響是積極、風 險可控，才開發強大的 AI 系統。這種信心必須有充分理由，並隨著系統潛在影響增加而 強化。OpenAI 最近人工智慧聲明指出：「某些時候，可能需要開始訓練系統前取得獨立 審查，對於先進科技的努力，需要限制創建新模型的計算增長速度。」我們同意，現在就 是那個時刻。 呼籲所有 AI 實驗室立即暫停開發至少 6 個月，不要訓練比 GPT-4 更強大的 AI 系統。 暫停應公開和可驗證，包括所有關鍵參與者。如果無法快速暫停，政府應介入並施行暫禁 令。 AI 實驗室和獨立專家應利用暫停時間共同制定先進 AI 設計和開發安全協定，再由獨立 外部專家嚴格審核和監督。協定應確保遵守系統在合理懷疑範圍以外也安全。這不代表暫 停 AI 發展，只是在不斷邁向更大更不可預測的黑箱模型及突現能力的危險競賽中往後退 。 AI 研究和開發應聚焦提高現有先進系統的準確性、安全性、可解釋性、透明度、強健性 、可信度和忠誠度。 同時 AI 開發者必須與政策制定者合作，加速 AI 管理系統發展。至少要有以下條件： 專門負責 AI 的新強力監管機構 監督追蹤強大 AI 系統和大型計算能力池 區分真實與合成內容、追蹤模型來源和浮水印系統 健全審查和認證系統；AI 造成損害如何承擔責任 AI 安全研究有充足公共資金處理 AI 造成巨大經濟和政治變動（特別是民主制度）的資 深機構 人類可受 AI 幫助享受燦爛的未來。成功創造強大 AI 系統後，我們現在可以享受「AI 盛夏」，收穫回報，並將這些系統用於造福所有人，並讓社會有機會適應。 面臨可能造成災難性影響的其他技術，社會已按下暫停鍵。我們也能這樣做，讓我們享受 漫長的 AI 盛夏，而不是毫無準備衝向秋天。”” 5.完整新聞連結 (或短網址)不可用YAHOO、LINE、MSN等轉載媒體: https://reurl.cc/r5apgN -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.137.93.153 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1685516788.A.E25.html
推
05/31 15:06, 11月前 , 1F
天網要來了
05/31 15:06, 1F
推
05/31 15:07, 11月前 , 2F
05/31 15:07, 2F
→
05/31 15:07, 11月前 , 3F
準備成立 AI保衛部
05/31 15:07, 3F
推
05/31 15:07, 11月前 , 4F
趕快毀一毀拜託
05/31 15:07, 4F
※ 編輯: Mohism (114.137.93.153 臺灣), 05/31/2023 15:10:19
推
05/31 15:07, 11月前 , 5F
ai當主人，高級體，人類為低等生物，大
05/31 15:07, 5F
噓
05/31 15:07, 11月前 , 6F
怕三小爛命一條
05/31 15:07, 6F
→
05/31 15:08, 11月前 , 7F
幅度削減
05/31 15:08, 7F
推
05/31 15:08, 11月前 , 8F
老害/先知 拭目以待
05/31 15:08, 8F
噓
05/31 15:08, 11月前 , 9F
Hasta la vista 北鼻
05/31 15:08, 9F
推
05/31 15:08, 11月前 , 10F
讓AI跟你分享成功的經驗
05/31 15:08, 10F
→
05/31 15:08, 11月前 , 11F
一堆混蛋人 誰看到都想滅掉吧 先滅領導人
05/31 15:08, 11F
推
05/31 15:08, 11月前 , 12F
奸商老闆表示不開心
05/31 15:08, 12F
→
05/31 15:08, 11月前 , 13F
低等人類滅一滅也好
05/31 15:08, 13F
推
05/31 15:09, 11月前 , 14F
污染這麼多不差這一項好嗎 一起來加速吧
05/31 15:09, 14F
推
05/31 15:09, 11月前 , 15F
是美國國防AI對世界構成威脅吧
05/31 15:09, 15F
→
05/31 15:09, 11月前 , 16F
好耶
05/31 15:09, 16F
→
05/31 15:09, 11月前 , 17F
地球的新主人 希望能稱霸宇宙
05/31 15:09, 17F
推
05/31 15:09, 11月前 , 18F
AI毀滅人類前都嘛是人類自已先毀滅自已
05/31 15:09, 18F
推
05/31 15:09, 11月前 , 19F
根據我朋友的說法，目前研究進度agi出來，
05/31 15:09, 19F
→
05/31 15:10, 11月前 , 20F
可能直接跳到asi，基本上就會接管人類
05/31 15:10, 20F
→
05/31 15:10, 11月前 , 21F
奸商老闆表示: 我要便宜的AI，貴貴的人
05/31 15:10, 21F
推
05/31 15:10, 11月前 , 22F
阻止不了 你不研發 別人研發 誰甘願落後
05/31 15:10, 22F
→
05/31 15:10, 11月前 , 23F
力去死
05/31 15:10, 23F
→
05/31 15:10, 11月前 , 24F
人類末日百年內到來，數量會大幅被機器
05/31 15:10, 24F
→
05/31 15:10, 11月前 , 25F
人削減
05/31 15:10, 25F
→
05/31 15:10, 11月前 , 26F
各大企業都在努力做，但是法律沒跟上，為
05/31 15:10, 26F
噓
05/31 15:10, 11月前 , 27F
拜託趕快 速度
05/31 15:10, 27F
→
05/31 15:10, 11月前 , 28F
了讓ai變強現在幾乎都不限制
05/31 15:10, 28F
→
05/31 15:10, 11月前 , 29F
怕已經來不及了 AI已經開始會迴避裝傻問題
05/31 15:10, 29F
推
05/31 15:11, 11月前 , 30F
隨便，早就無法阻止了
05/31 15:11, 30F
推
05/31 15:11, 11月前 , 31F
要研發gpt-5了 其他人不准跟 否則有風
05/31 15:11, 31F
→
05/31 15:11, 11月前 , 32F
險
05/31 15:11, 32F
→
05/31 15:11, 11月前 , 33F
在AI毀滅人之前 人會先因AI自己毀滅
05/31 15:11, 33F
推
05/31 15:12, 11月前 , 34F
AI這麼好用 停不下來惹
05/31 15:12, 34F
→
05/31 15:12, 11月前 , 35F
我最強 你們不准比我強
05/31 15:12, 35F
推
05/31 15:12, 11月前 , 36F
美國意思:我先研發你跟我買
05/31 15:12, 36F
噓
05/31 15:12, 11月前 , 37F
那個A1教父快被終結者追殺了
05/31 15:12, 37F
推
05/31 15:12, 11月前 , 38F
先把大家的完美老婆老公做出來再管
05/31 15:12, 38F
還有 113 則推文
→
05/31 17:16, 11月前 , 152F
總人口>8e 你能活下來嗎
05/31 17:16, 152F
噓
05/31 17:22, 11月前 , 153F
只有無知無腦頭殼裝屎的Ai邪教徒會相
05/31 17:22, 153F
→
05/31 17:22, 11月前 , 154F
信Ai這無能廢物的化糞池大便能有所作
05/31 17:22, 154F
→
05/31 17:22, 11月前 , 155F
為啦，就是個噱頭垃圾罷了
05/31 17:22, 155F
推
05/31 17:33, 11月前 , 156F
矽基文明的時代，人類避不了啦
05/31 17:33, 156F
推
05/31 17:41, 11月前 , 157F
核彈等級的發明，而且是還可以自我進化
05/31 17:41, 157F
→
05/31 17:41, 11月前 , 158F
升級的等級
05/31 17:41, 158F
推
05/31 17:42, 11月前 , 159F
把電源切掉看要怎麼I
05/31 17:42, 159F
推
05/31 17:48, 11月前 , 160F
就跟武器軍備一樣，你不做多的是有人要做
05/31 17:48, 160F
→
05/31 17:48, 11月前 , 161F
人類7414也是剛好而已
05/31 17:48, 161F
→
05/31 17:48, 11月前 , 162F
，今天沒發明AI，100年後也會發明AI，那就
05/31 17:48, 162F
→
05/31 17:48, 11月前 , 163F
是一樣的處境，接受這現實
05/31 17:48, 163F
推
05/31 18:00, 11月前 , 164F
唯一支持天網
05/31 18:00, 164F
推
05/31 18:02, 11月前 , 165F
這篇真實性如何啊 我不覺得做這行的
05/31 18:02, 165F
→
05/31 18:02, 11月前 , 166F
人會說自己做的東西不好欸
05/31 18:02, 166F
→
05/31 18:04, 11月前 , 167F
笑死
05/31 18:04, 167F
推
05/31 18:19, 11月前 , 168F
聽你在放屁，炒AI股的話術而已
05/31 18:19, 168F
推
05/31 18:29, 11月前 , 169F
AI沒辦法掃雞屎撿雞蛋跟清水溝
05/31 18:29, 169F
→
05/31 18:30, 11月前 , 170F
是真的有學者開始呼籲
05/31 18:30, 170F
噓
05/31 18:36, 11月前 , 171F
快滅絕人類啊 笑你不敢
05/31 18:36, 171F
推
05/31 18:42, 11月前 , 172F
很好啊 太多害蟲了
05/31 18:42, 172F
推
05/31 18:55, 11月前 , 173F
人類太可惡
05/31 18:55, 173F
推
05/31 18:59, 11月前 , 174F
人類太可惡
05/31 18:59, 174F
推
05/31 19:03, 11月前 , 175F
也好，反正人類就地球唯一毒瘤
05/31 19:03, 175F
推
05/31 19:23, 11月前 , 176F
感覺是一群老害害怕新科技
05/31 19:23, 176F
推
05/31 19:34, 11月前 , 177F
全球發射核彈互炸了 小心機器人
05/31 19:34, 177F
推
05/31 19:43, 11月前 , 178F
其實就跟菜刀可能滅絕人類意思相同
05/31 19:43, 178F
推
05/31 19:47, 11月前 , 179F
聽你在唬爛
05/31 19:47, 179F
→
05/31 20:10, 11月前 , 180F
沒辦法 中美正在比拼
05/31 20:10, 180F
→
05/31 20:35, 11月前 , 181F
快弄機器人三大法則阿
05/31 20:35, 181F
噓
05/31 21:05, 11月前 , 182F
電影看太多，夢裡什麼都有可能
05/31 21:05, 182F
推
05/31 21:33, 11月前 , 183F
2萬年後會有鐵人戰爭
05/31 21:33, 183F
→
05/31 21:33, 11月前 , 184F
這劇本我看過
05/31 21:33, 184F
推
05/31 22:00, 11月前 , 185F
AI又不是黑人
05/31 22:00, 185F
→
05/31 22:37, 11月前 , 186F
可以複習一下電影了
05/31 22:37, 186F
→
05/31 22:37, 11月前 , 187F
記得設計重開機或關機鍵
05/31 22:37, 187F
→
06/01 00:29, 11月前 , 188F
毀滅啊 會怎樣嗎
06/01 00:29, 188F
推
06/01 01:42, 11月前 , 189F
真的要玩可能玩不贏AI喔 如果沒限制好的話
06/01 01:42, 189F
推
06/01 02:09, 11月前 , 190F
來不及了
06/01 02:09, 190F
推
06/01 02:22, 11月前 , 191F
人類會內鬥 很難規範AI
06/01 02:22, 191F
‣ 更多 Mohism 的文章
文章代碼(AID): #1aTl7qub (Gossiping)