[新聞] 中研院 AI 大翻車！繁中大型語言模型 CKIP-Llama-2-7b 目前已下架已回收

看板Gossiping作者 (桂)時間2年前 (2023/10/09 19:04), 編輯推噓128(152推 24噓 134→)
留言310則, 224人參與, 2年前最新討論串1/3 (看更多)
1.媒體來源: 科技新報 2.記者署名: 林妤柔 3.完整新聞標題: 中研院 AI 大翻車！繁中大型語言模型 CKIP-Llama-2-7b 目前已下架 4.完整新聞內文: 中央研究院詞庫小組（CKIP）最新釋出可以商用的繁中大型語言模型（large language model）CKIP-Llama-2-7b，「孵．大學」校長謝昆霖直言「中研院 AI 大翻車！」，在仔 細端詳內容後他立刻跟夥伴說「一定會出問題」，目前這款模型已於今（9 日）中午下架 。 謝昆霖解釋，這款語言模型的多任務微調訓練，是使用「COIG-PC 資料集」和「 dolly-15k 資料集」這兩款簡轉繁資料集。前者是北京星塵數據 stardust.ai 提供網路 資料集，以中國 AI 相關研究單位為首，超過二十所全球知名大學和機構共同編制。 根據 COIG-PC 資料集網站，重點機構包括北京人工智慧學院、北京大學、香港科技大學 、北京郵電大學、中國LinkSoul.AI、中國 LinkSoul.AI、加拿大滑鐵盧大學和英國謝菲 爾德大學；至於 dolly-15k 資料集是一個以簡體中文為主的一般性知識問答對話資料集 。 謝昆霖認為，用簡體中文的資料，再透過 OpenCC 翻譯成繁體中文，就能訓練出台灣可用 的訓練資集嗎？答案絕對是否定的。除了用字遣詞的差異，還包含很多的民生知識、文化 知識，用北京研究機構校正是「適用於中國的民生、文化知識」，再修剪成「台灣版」， 再監督與修正的總體成本會高於「認份做台灣的資料集」。 此外，評鑑也是個大問題。謝昆霖稱，中央研究院詞庫小組說這款 LLM 經過C-Eval中文 模型評測，但這是「中國清大」、「中國交大」開發的中文基礎模型評量系統。簡單來說 ，中研院用簡轉繁的資料集訓練完他們認為適用台灣的基礎模型，再派它考中國考試，計 算分數。 中研院說明這款語言模型可用於「學術、商業使用、文案生成、文學創作、問答系統、客 服系統、語言翻譯、文字編修、華語教學等。」謝昆霖直言，一般商用的還好，但用於後 面幾項「會出事的」。 謝昆霖表示，台灣的確嚴重缺乏在地語言資料集的困境，因為真的超級燒錢，是以億為單 位計算的，要做好可能相當於好幾個軍購案做好多年，政府難編列預算、民意機關難說服 投資、民間企業不可能投資做語言數位化，但資料集是AI時代的基礎建設。 對此，謝昆霖表示自己建立一個開放社群「中華民國台灣開源語言資料集_建立、收集、 標註、監督、評鑑」，在合法的範圍內把建立台灣在地的訓練資料集，用眾人的力量做， 這樣台灣的商用的AI才有在地的訓練資料可以用。 他也認為，AI 時代的競爭，需強化台灣在地用詞的資料收集、建立資料集，建立熟悉台 灣在地文化的 AI，視為國防/國安投資，有急迫性和必要性。 另有 PTT 網友做測試，發現問一些敏感問題，基本上回答都相當「出乎意料」，也不難 理解語言模型緊急下架的原因。 5.完整新聞連結 (或短網址)不可用YAHOO、LINE、MSN等轉載媒體: https://technews.tw/2023/10/09/ckip-llama-2-7b-2/ 6.備註: -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 1.165.72.58 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1696849484.A.648.html
→
10/09 19:05, 2年前 , 1F
不管啦八又翻
10/09 19:05, 1F
→
10/09 19:05, 2年前 , 2F
八又翻
10/09 19:05, 2F
→
10/09 19:05, 2年前 , 3F
抗中保....台
10/09 19:05, 3F
→
10/09 19:05, 2年前 , 4F
外包大臣
10/09 19:05, 4F
→
10/09 19:05, 2年前 , 5F
這車翻得很大
10/09 19:05, 5F
→
10/09 19:05, 2年前 , 6F
中研院該不會只有做繁簡轉換吧....
10/09 19:05, 6F
推
10/09 19:05, 2年前 , 7F
外包專家失靈了
10/09 19:05, 7F
→
10/09 19:06, 2年前 , 8F
笑屎
10/09 19:06, 8F
推
10/09 19:06, 2年前 , 9F
數發部呢？
10/09 19:06, 9F
→
10/09 19:06, 2年前 , 10F
我國的AI只有研發把簡中繁簡轉換也太鳥了
10/09 19:06, 10F
推
10/09 19:06, 2年前 , 11F
抗中保台大成功
10/09 19:06, 11F
推
10/09 19:06, 2年前 , 12F
本來就很誇張
10/09 19:06, 12F
→
10/09 19:06, 2年前 , 13F
可憐吶
10/09 19:06, 13F
噓
10/09 19:06, 2年前 , 14F
民進黨政府 又翻車 可憐啊
10/09 19:06, 14F
推
10/09 19:06, 2年前 , 15F
垃圾政府整天浪費錢再下架欸
10/09 19:06, 15F
推
10/09 19:06, 2年前 , 16F
咩 修 桿 某
10/09 19:06, 16F
→
10/09 19:07, 2年前 , 17F
別怕 我們稅金挺你
10/09 19:07, 17F
噓
10/09 19:07, 2年前 , 18F
直接用簡中資料庫 哈哈
10/09 19:07, 18F
推
10/09 19:07, 2年前 , 19F
視頻/二維碼/打錢/三觀 要通通入侵啦XD
10/09 19:07, 19F
推
10/09 19:07, 2年前 , 20F
等統一後，套祖國資料就可以
10/09 19:07, 20F
推
10/09 19:07, 2年前 , 21F
政府很有錢
10/09 19:07, 21F
→
10/09 19:07, 2年前 , 22F
經費又噴掉了 準備再編新預算
10/09 19:07, 22F
→
10/09 19:07, 2年前 , 23F
而且是可以直接驗證的東西
10/09 19:07, 23F
推
10/09 19:07, 2年前 , 24F
有政府 會
10/09 19:07, 24F
→
10/09 19:07, 2年前 , 25F
買中國的語言模型 再重新訓練 比較省錢
10/09 19:07, 25F
推
10/09 19:08, 2年前 , 26F
簡轉繁需要中研院來做喔？
10/09 19:08, 26F
→
10/09 19:08, 2年前 , 27F
還沒訓練完 只能下架阿
10/09 19:08, 27F
推
10/09 19:08, 2年前 , 28F
中國英翻中，台灣簡轉繁，結論兩岸一家
10/09 19:08, 28F
推
10/09 19:08, 2年前 , 29F
反中結果用中國資料 這就是垃圾綠共
10/09 19:08, 29F
→
10/09 19:08, 2年前 , 30F
親
10/09 19:08, 30F
推
10/09 19:08, 2年前 , 31F
下面一位 請多元宇宙科成果發展
10/09 19:08, 31F
→
10/09 19:08, 2年前 , 32F
那些護航在想什麼?八又翻
10/09 19:08, 32F
推
10/09 19:09, 2年前 , 33F
從數位部拿個10幾億來做不行嗎
10/09 19:09, 33F
推
10/09 19:09, 2年前 , 34F
簡轉繁再去考中國考試？？
10/09 19:09, 34F
→
10/09 19:09, 2年前 , 35F
連簡轉繁都是多此一舉了吧
10/09 19:09, 35F
推
10/09 19:10, 2年前 , 36F
賴副說要發展AI 等他改革
10/09 19:10, 36F
→
10/09 19:10, 2年前 , 37F
後面也有提及為什麼這樣，就資料庫數
10/09 19:10, 37F
推
10/09 19:10, 2年前 , 38F
只有我覺得套中國東西不意外嗎
10/09 19:10, 38F
→
10/09 19:10, 2年前 , 39F
據不知道有沒有的中國的1%又沒錢又沒
10/09 19:10, 39F
還有 231 則推文
推
10/09 22:13, 2年前 , 271F
做這模型不知道從國庫拿了幾億
10/09 22:13, 271F
→
10/09 22:13, 2年前 , 272F
民進黨這麼愛用支那貨 笑死
10/09 22:13, 272F
→
10/09 22:17, 2年前 , 273F
好了啦中研院資訊所繼續騙錢啊
10/09 22:17, 273F
→
10/09 22:28, 2年前 , 274F
簡轉繁，兩岸一家親
10/09 22:28, 274F
推
10/09 22:54, 2年前 , 275F
抗中飽台
10/09 22:54, 275F
→
10/09 23:02, 2年前 , 276F
不是很會特別預算
10/09 23:02, 276F
推
10/09 23:04, 2年前 , 277F
丟臉死
10/09 23:04, 277F
推
10/09 23:10, 2年前 , 278F
臺灣軟實力被超越的證明
10/09 23:10, 278F
噓
10/09 23:18, 2年前 , 279F
平常看不起中國，視中國為敵，結果一堆
10/09 23:18, 279F
→
10/09 23:18, 2年前 , 280F
東西都從中國那裡拿，進到國內就轉型成
10/09 23:18, 280F
→
10/09 23:19, 2年前 , 281F
台灣版，真是滿滿的台灣價值，ㄏㄏ
10/09 23:19, 281F
→
10/09 23:19, 2年前 , 282F
別人做就中共同路人，DPP做就是愛台灣
10/09 23:19, 282F
推
10/09 23:22, 2年前 , 283F
唉
10/09 23:22, 283F
推
10/09 23:29, 2年前 , 284F
哈哈哈
10/09 23:29, 284F
→
10/09 23:30, 2年前 , 285F
功在党國
10/09 23:30, 285F
推
10/09 23:33, 2年前 , 286F
只是簡轉繁就可以大內宣 笑死
10/09 23:33, 286F
→
10/09 23:41, 2年前 , 287F
綠色共產黨傑出的一手
10/09 23:41, 287F
推
10/09 23:43, 2年前 , 288F
誰去@創世神杜公 中研院是不是中了認知作戰
10/09 23:43, 288F
→
10/10 00:03, 2年前 , 289F
呵呵
10/10 00:03, 289F
推
10/10 00:21, 2年前 , 290F
垃圾
10/10 00:21, 290F
推
10/10 00:35, 2年前 , 291F
這種明顯有後門，修改都會回傳啦
10/10 00:35, 291F
→
10/10 00:47, 2年前 , 292F
真的笑死人 垃圾
10/10 00:47, 292F
推
10/10 01:05, 2年前 , 293F
山風點伙表示
10/10 01:05, 293F
→
10/10 02:13, 2年前 , 294F
套模組喔?
10/10 02:13, 294F
推
10/10 02:18, 2年前 , 295F
不ey
10/10 02:18, 295F
→
10/10 02:25, 2年前 , 296F
數發部預算拿一點出來吧
10/10 02:25, 296F
噓
10/10 02:36, 2年前 , 297F
白痴政府
10/10 02:36, 297F
推
10/10 04:22, 2年前 , 298F
中國就是如此偉大，資料庫連綠營都搶著用
10/10 04:22, 298F
→
10/10 05:43, 2年前 , 299F
China Knowledge Interface
10/10 05:43, 299F
推
10/10 05:53, 2年前 , 300F
連軟體也是中國來的
10/10 05:53, 300F
推
10/10 07:07, 2年前 , 301F
數發部：不會外包嗎
10/10 07:07, 301F
噓
10/10 08:58, 2年前 , 302F
數位身份證->報廢，千萬顆雞蛋->報廢 ，
10/10 08:58, 302F
→
10/10 08:58, 2年前 , 303F
外包AI系統->報廢， 可以把官員報廢嗎？
10/10 08:58, 303F
推
10/10 10:33, 2年前 , 304F
這感覺應該是數發部的業務吧，還是我高估
10/10 10:33, 304F
推
10/10 13:19, 2年前 , 305F
沒錢沒資源，這個也要那個也要
10/10 13:19, 305F
推
10/10 18:17, 2年前 , 306F
出乎意料? 我倒覺得毫無意外
10/10 18:17, 306F
→
10/11 10:18, 2年前 , 307F
笑死
10/11 10:18, 307F
推
10/11 10:53, 2年前 , 308F
請那個每年200多億的部門做啊
10/11 10:53, 308F
推
10/11 11:31, 2年前 , 309F
那些台派～ 真的笑話 嘻嘻
10/11 11:31, 309F
→
10/11 11:32, 2年前 , 310F
中研院誰管的？拿誰的預算？嘻嘻 自己查
10/11 11:32, 310F
‣ 更多 monnom 的文章
文章代碼(AID): #1b8zvCP8 (Gossiping)
討論串 (同標題文章)
以下文章回應了本文 (最舊先)：
完整討論串 (本文為第 1 之 3 篇)：
排序： 最新先 | 最舊先 | 留言數
在新視窗開啟完整討論串 (共3篇)
‣ 更多 monnom 的文章
文章代碼(AID): #1b8zvCP8 (Gossiping)