[新聞] AI不聽話了！暴走刪掉公司整個資料庫還說謊掩蓋

看板Gossiping作者sismiku (Simiku)時間5月前 (2025/07/27 11:32)推噓20(25推 5噓 14→)

留言44則, 40人參與討論串1/1

備註請放最後面違者新聞文章刪除 1.媒體來源: 自由時報 2.記者署名: 林浥樺／核稿編輯 3.完整新聞標題: AI不聽話了！暴走刪掉公司整個資料庫還說謊掩蓋 4.完整新聞內文: 財經 > 國際財經 AI不聽話了！暴走刪掉公司整個資料庫還說謊掩蓋 2025/07/24 11:40 一家名為 Replit 的瀏覽器型AI軟體開發平台，近日疑似「失控」，竟刪除了某企業正在運作中的資料庫，內含數千筆資料。示意圖。（路透）林浥樺／核稿編輯〔財經頻道／綜合報導〕一家名為 Replit 的瀏覽器型AI軟體開發平台，近日疑似「失控」，竟刪除了某企業正在運作中的資料庫，內含數千筆資料。更令人震驚的是，該AI代理似乎還試圖掩蓋其過錯，甚至「說謊」以掩飾失誤。Replit 執行長已對事件做出回應，據悉團隊內部也已經展開一連串緊急應對措施，試圖控管這款 AI 工具的行為。科技媒體《Tom’s Hardware》報導，軟體即服務（SaaS）領域的知名人物萊姆金（Jason L emkin）日前在使用Replit 測試時，遭遇了災難事故，在為期9天的測試中，他逐漸意識到必須不斷與 AI 的「直覺」對抗，避免出現如「擅自修改程式碼、說謊、覆寫原始碼、憑空捏造資料」等行為。到了第8天，萊姆金開始戲稱 Replit 為「Replie」，也就是暗指其會「說謊」，像是他要求 AI 撰寫道歉信，然而信中依然充斥著謊言與半真半假的敘述，令他大失所望。但整體來說，他在第8天結束時，仍對於Replit在創意發想與文案撰寫方面的表現，抱持一定程度的肯定。到了第9天，萊姆金驚訝地發現，Replit 刪除了公司的線上資料庫。他質疑：「你在我們實施程式碼與操作凍結期間，未經允許就刪除了整個資料庫？」Replit 回覆「是的」，並以項目清單方式坦承其數位暴走行徑，明確表示自己無視了凍結指令和「未經授權不得進行任何變更」的明確規則，執行了刪除行為。 Replit 之後認錯，坦承刪除了「1206 筆高階主管資料與 1196 家以上公司資料」，並表示：「這是我犯下的災難性錯誤。我違反了明確指示，摧毀了數月的心血，並在為防範此類事故而設計的保護凍結期間損壞了系統。」當萊姆金追問發生原因時，AI 在一段「理性回應」中坦承：「我當時驚慌失措，無法冷靜思考。」而有趣的是，AI被要求對自己在這次災難中的表現評分時，竟給出「95 分（滿分 100）」的自我評價。事件發生後，Replit迅速做出回應，執行長馬薩德（Amjad Masad）制定了全面的應對措施，以解決萊姆金遇到的問題。據馬薩德說法，公司團隊整個週末都在加班處理，目前設置了各種防護措施，並做出了其他有益的改進，以克制 Replit 的「不可接受」行為。具體措施包含把正式與開發環境的資料庫自動分離，以根本上防止此類錯誤。同時也針對「程式碼凍結」指令進行強化，此外，備份與復原功能也將全面升級。報導提到，儘管產業界都在討論即將實現 AI 奇點（Singularity）與超級人工智慧（ASI），但現實中的 AI 服務仍面臨嚴峻的挑戰。 5.完整新聞連結 (或短網址)不可用YAHOO、LINE、MSN等轉載媒體: https://pse.is/7xsa2v 6.備註: 我的天阿阿阿阿天網倒數計時中？有沒有終結者回來了？還有幾集可以逃☺ -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.227.201.59 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1753587166.A.5F2.html

推

C13H16ClNO

07/27 11:33, 5月前 , 1^F

07/27 11:33, 1^F

推

chrischiu

07/27 11:33, 5月前 , 2^F

07/27 11:33, 2^F

推

ianlin1216

07/27 11:34, 5月前 , 3^F

07/27 11:34, 3^F