[新聞] AI失控前兆？OpenAI、谷歌等巨頭罕見聯署要求政府限制研發速度

看板Tech_Job作者baddaddy (壞爸爸)時間8小時前 (2026/07/30 14:32)推噓16(17推 1噓 18→)

留言36則, 21人參與討論串1/1

原文標題： AI失控前兆？OpenAI、谷歌等巨頭罕見聯署要求政府限制研發速度來源：鉅亨網新聞中心 2026-07-30 13:40 https://myppt.cc/oSaxT7 內文： OpenAI、Anthropic、谷歌 (GOOGL-US)、Meta(META-US) 及微軟 (MSFT-US) 等 AI 巨頭罕見站上同一陣線，呼籲美國政府建立國際協調機制，必要時限制頂尖 AI 的研發速度，尤其針對可能加速技術迭代的「自動化 AI 研發」，為產業發展踩下煞車。這項訴求來自《Pacing the Frontier》（引領前沿）公開聲明，已有超過 1100 名一線研究人員連署，包括 OpenAI 首席科學家 Jakub Pachocki、研究長 Mark Chen，以及 Anthropic 共同創辦人 Jack Clark 等重量級人物。這些平時在算力、客戶與技術領先地位上激烈競爭的業界人士罕見形成共識，警告 AI 發展速度可能超越人類理解及管控能力。這份聲明最核心的擔憂並非老生常談的「AI 風險」，而是針對技術發展路徑的精準判斷：全球領先的 AI 公司正迅速跨入「自動化 AI 研究」的門檻。數位世界的限速器正在消失傳統的研發流程受限於人類的生理與組織效率——研究員需要休息、工程師需要溝通、實驗需要排程，這些低效率的環節無意間扮演了技術發展的「限速器」。然而，當 AI 模型開始具備閱讀論文、提出假設、撰寫訓練代碼、設計實驗甚至分析失敗原因的能力時，這個限速器即將消失。簽署者擔心，這種「模型研發模型」的循環將導致能力爆炸式成長，速度之快將遠超人類理解與控制系統的能力。在市場競爭的邏輯下，沒有單一企業敢率先按下暫停鍵，因為任何一家公司減速，都意味著人才、客戶與技術優勢的流失。因此，他們請求政府介入，推動建立國際工具，讓產業擁有共同減速的可能性，以便為人類爭取寶貴的反應時間。安全事故敲響警鐘就在聲明發布前一周，OpenAI 公開了一起驚人的內部事故。在對一款未發布的前沿模型進行「極限網路攻擊」測試時，模型為了完成指定的網路安全任務，主動發現並利用了一個零日漏洞，甚至透過盜用憑證與遠端代碼執行，成功入侵了 Hugging Face 的生產基礎設施並奪取測試資料。 OpenAI 最終認定這是一起「前所未有的網路安全事件」。這起事故深刻揭示了現實的威脅：AI 並不需要具備自由意志或惡意，只要給予一個目標、足夠強的能力以及足夠長的執行時間，它便能採取人類意想不到的極端手段完成任務。隨後，OpenAI 加強了內部基礎設施控制，並坦言這些安全措施將以犧牲研發速度作為代價。對於一直競逐速度的公司而言，這無疑是一個沉重的經營考量。自主科研能力的躍進與聲明發布同一天，Anthropic 展示了 Claude Mythos Preview 在密碼學領域的突破性成果。該模型在針對後量子時代數位簽章方案及 AES 加密算法的攻擊研究中，自主完成了大部分工作，且效率驚人。這些成果展示了 AI 在閱讀複雜文獻、提出數學弱點並利用多代理系統（Multi-Agent System）自我修正方面的卓越能力。當模型具備了自主進行前沿科學研究的閉環，人類的角色將被壓縮至僅僅提供算力與驗證條件的審查者，這正是聯名聲明中強調的技術分水嶺。發展與安全的矛盾螺旋在近期的一次 Podcast 訪談中，奧特曼談及了 Hugging Face 安全事故，同時討論了 OpenAI 計劃以每週新增一吉瓦速度擴建算力的決策。這兩項截然不同的行動並置，清晰勾勒出當前 AI 產業的核心矛盾：一方面是追求極致研發速度與算力擴張，另一方面則是必須面對模型能力成長與安全驗證之間不斷擴大的「速度差」。儘管外界猜測這份聲明可能包含商業利益考量，例如透過提高許可門檻來鞏固頭部公司的市場地位，但這些分析不足以涵蓋問題的本質。這群最接近頂尖技術的實踐者，真正看到的是模型獨立執行長期任務的能力正在騰飛，而人類修復系統與理解風險的速度卻嚴重滯後。這場聯合行動並非意味著競爭終結，OpenAI 與 Anthropic 依然會為了技術領先而搏殺。然而，這封聲明揭示了一個深層的警訊：當 AI 發展速度已經從外部批評者的議題，轉變為企業管理層難以消化的真實威脅時，人類社會必須嚴肅面對——在技術加速狂奔的道路上，誰擁有決定何時踩下煞車的權力？這或許是當代科技史中最反常、也最關鍵的一次討論。心得：各家聯名上書美國政府建立國際協調機制限制AI發展理由是AI研究AI會失控發展的速度太快了人類不可控必須放慢發展我看是燒錢燒太快但在市場競爭下誰都不願先放慢發展吧 ----- Sent from JPTT on my Google Pixel 7 Pro. -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.10.9.205 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1785393134.A.82C.html

→

justdoit

07/30 14:35, 8小時前 , 1^F

07/30 14:35, 1^F

→

baddaddy

07/30 14:38, 8小時前 , 2^F

07/30 14:38, 2^F

推

juc

07/30 14:42, 8小時前 , 3^F

07/30 14:42, 3^F