[新聞] 國慶日變10/1!中研院認了「AI語言模型」用中國資料庫 已先下架
看板Gossiping作者armorblocks (package)時間6月前 (2023/10/09 21:28)推噓143(180推 37噓 145→)留言362則, 274人參與討論串1/3 (看更多)
1.媒體來源:
自由
2.記者署名:
丁奕
3.完整新聞標題:
國慶日變10/1!中研院認了「AI語言模型」用中國資料庫 已先下架
4.完整新聞內文:
https://imgur.com/mcdpwLO
中央研究院詞庫小組日前發布的繁體中文大型語言模型CKIP-LlaMa-2-7b,今(9)日遭踢
爆使用中國資料庫,詢問「國慶日是何時」會回答「10月1日」。中研院坦言,訓練資料
有來自中國開源的任務資料集(COIG),今日中午已將測試版先行下架。
網友發現詢問該語言模型「國慶日是何時?」,其會回答中國國慶日「10月1日」;詢問
「中華民國國歌為何?」,它會回答中華人民共和國的國歌「義勇軍進行曲」;詢問我國
憲法,則會回答「中華人民共和國憲法」。外界質疑中研院使用中國資料庫訓練,僅簡轉
繁後就公開。
中研院資訊所表示,CKIP-LlaMa-2-7b的研究目標之一是讓meta開發的Llama2大型語言模
型具備更好的繁體中文處理能力。這項小型研究僅用約30萬元的經費,將明清人物的生平
進行自動化分析,建構自動化的歷史人物、事件、時間、地點等事理圖譜,因此訓練資料
除了繁體中文的維基百科,另也包含台灣的碩博士論文摘要、來自中國開源的任務資料集
COIG、詩詞創作、文言文和白話文互相翻譯等閱讀理解問答。
資訊所強調,這是一項個人小型研究,各界對該模型進行的提問測試,並未在原始研究範
疇。該研究人員表示,由於生成式AI易產生「幻覺」(hallucination),導致模型產生
內容出乎預期,未來將努力改善。目前已將測試版先行下架,未來相關研究及成果釋出,
會更加謹慎。
中研院表示,未來對相關研究的成果,在公開釋出前,院內會擬定審核機制,避免類似問
題產生。
5.完整新聞連結 (或短網址)不可用YAHOO、LINE、MSN等轉載媒體:
https://reurl.cc/WvR6D7
6.備註:
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.229.242.197 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1696858116.A.410.html
→
10/09 21:29,
6月前
, 1F
10/09 21:29, 1F
噓
10/09 21:29,
6月前
, 2F
10/09 21:29, 2F
推
10/09 21:29,
6月前
, 3F
10/09 21:29, 3F
推
10/09 21:30,
6月前
, 4F
10/09 21:30, 4F
推
10/09 21:30,
6月前
, 5F
10/09 21:30, 5F
推
10/09 21:30,
6月前
, 6F
10/09 21:30, 6F
→
10/09 21:30,
6月前
, 7F
10/09 21:30, 7F
→
10/09 21:30,
6月前
, 8F
10/09 21:30, 8F
推
10/09 21:31,
6月前
, 9F
10/09 21:31, 9F
推
10/09 21:31,
6月前
, 10F
10/09 21:31, 10F
噓
10/09 21:31,
6月前
, 11F
10/09 21:31, 11F
→
10/09 21:31,
6月前
, 12F
10/09 21:31, 12F
→
10/09 21:31,
6月前
, 13F
10/09 21:31, 13F
推
10/09 21:31,
6月前
, 14F
10/09 21:31, 14F
推
10/09 21:31,
6月前
, 15F
10/09 21:31, 15F
推
10/09 21:31,
6月前
, 16F
10/09 21:31, 16F
→
10/09 21:31,
6月前
, 17F
10/09 21:31, 17F
推
10/09 21:31,
6月前
, 18F
10/09 21:31, 18F
→
10/09 21:32,
6月前
, 19F
10/09 21:32, 19F
推
10/09 21:32,
6月前
, 20F
10/09 21:32, 20F
→
10/09 21:32,
6月前
, 21F
10/09 21:32, 21F
推
10/09 21:32,
6月前
, 22F
10/09 21:32, 22F
→
10/09 21:32,
6月前
, 23F
10/09 21:32, 23F
→
10/09 21:32,
6月前
, 24F
10/09 21:32, 24F
噓
10/09 21:32,
6月前
, 25F
10/09 21:32, 25F
→
10/09 21:32,
6月前
, 26F
10/09 21:32, 26F
→
10/09 21:32,
6月前
, 27F
10/09 21:32, 27F
推
10/09 21:33,
6月前
, 28F
10/09 21:33, 28F
推
10/09 21:33,
6月前
, 29F
10/09 21:33, 29F
→
10/09 21:33,
6月前
, 30F
10/09 21:33, 30F
→
10/09 21:33,
6月前
, 31F
10/09 21:33, 31F
推
10/09 21:33,
6月前
, 32F
10/09 21:33, 32F
噓
10/09 21:33,
6月前
, 33F
10/09 21:33, 33F
→
10/09 21:33,
6月前
, 34F
10/09 21:33, 34F
→
10/09 21:33,
6月前
, 35F
10/09 21:33, 35F
→
10/09 21:34,
6月前
, 36F
10/09 21:34, 36F
推
10/09 21:34,
6月前
, 37F
10/09 21:34, 37F
→
10/09 21:34,
6月前
, 38F
10/09 21:34, 38F
→
10/09 21:34,
6月前
, 39F
10/09 21:34, 39F
還有 283 則推文
推
10/10 01:21,
6月前
, 323F
10/10 01:21, 323F
推
10/10 01:24,
6月前
, 324F
10/10 01:24, 324F
推
10/10 01:39,
6月前
, 325F
10/10 01:39, 325F
→
10/10 01:44,
6月前
, 326F
10/10 01:44, 326F
→
10/10 01:45,
6月前
, 327F
10/10 01:45, 327F
推
10/10 01:47,
6月前
, 328F
10/10 01:47, 328F
→
10/10 01:47,
6月前
, 329F
10/10 01:47, 329F
→
10/10 01:48,
6月前
, 330F
10/10 01:48, 330F
→
10/10 01:49,
6月前
, 331F
10/10 01:49, 331F
→
10/10 02:38,
6月前
, 332F
10/10 02:38, 332F
→
10/10 02:45,
6月前
, 333F
10/10 02:45, 333F
推
10/10 02:47,
6月前
, 334F
10/10 02:47, 334F
→
10/10 02:49,
6月前
, 335F
10/10 02:49, 335F
推
10/10 02:54,
6月前
, 336F
10/10 02:54, 336F
推
10/10 02:56,
6月前
, 337F
10/10 02:56, 337F
噓
10/10 03:18,
6月前
, 338F
10/10 03:18, 338F
→
10/10 03:18,
6月前
, 339F
10/10 03:18, 339F
推
10/10 03:19,
6月前
, 340F
10/10 03:19, 340F
推
10/10 03:57,
6月前
, 341F
10/10 03:57, 341F
推
10/10 04:29,
6月前
, 342F
10/10 04:29, 342F
推
10/10 05:32,
6月前
, 343F
10/10 05:32, 343F
→
10/10 06:56,
6月前
, 344F
10/10 06:56, 344F
推
10/10 07:28,
6月前
, 345F
10/10 07:28, 345F
推
10/10 07:57,
6月前
, 346F
10/10 07:57, 346F
→
10/10 08:29,
6月前
, 347F
10/10 08:29, 347F
噓
10/10 08:32,
6月前
, 348F
10/10 08:32, 348F
→
10/10 08:32,
6月前
, 349F
10/10 08:32, 349F
推
10/10 09:34,
6月前
, 350F
10/10 09:34, 350F
噓
10/10 09:40,
6月前
, 351F
10/10 09:40, 351F
推
10/10 09:51,
6月前
, 352F
10/10 09:51, 352F
→
10/10 10:19,
6月前
, 353F
10/10 10:19, 353F
→
10/10 10:49,
6月前
, 354F
10/10 10:49, 354F
噓
10/10 10:50,
6月前
, 355F
10/10 10:50, 355F
噓
10/10 11:13,
6月前
, 356F
10/10 11:13, 356F
→
10/10 12:23,
6月前
, 357F
10/10 12:23, 357F
→
10/10 12:31,
6月前
, 358F
10/10 12:31, 358F
推
10/10 12:38,
6月前
, 359F
10/10 12:38, 359F
推
10/10 14:52,
6月前
, 360F
10/10 14:52, 360F
推
10/10 16:29,
6月前
, 361F
10/10 16:29, 361F
噓
10/11 02:18,
6月前
, 362F
10/11 02:18, 362F
討論串 (同標題文章)
以下文章回應了本文:
完整討論串 (本文為第 1 之 3 篇):