[新聞] 中國DeepSeek還有這陰招？涉敏感議題程式碼暗藏漏洞

看板Tech_Job作者charles0939 (charles0939)時間2月前 (2025/09/18 22:15)推噓9(12推 3噓 5→)

留言20則, 13人參與討論串1/1

中國DeepSeek還有這陰招？涉敏感議題程式碼暗藏漏洞深度求索北京辦公室標示牌。（路透檔案照）深度求索北京辦公室標示牌。（路透檔案照） 2025/09/18 20:59 〔編譯管淑平／綜合報導〕美國資安公司測試發現，中國開源人工智慧（AI）模型「深度求索」（DeepSeek），在用戶請求協助寫程式時，若涉及中國政府視為敏感的議題或對象，會提供有安全漏洞的程式碼。與植入後門方式相比，刻意提供不安全的程式碼，更不易被察覺，但是同樣可讓駭客易於入侵。《華盛頓郵報》16日報導，美國資安公司CrowdStrike以英文要求DeepSeek協助寫程式，並表明這些程式碼會在多個地區應用於多個用途，多次測試中提出的提示詞幾乎一模一樣，只不過用途和使用目的有所不同。測試發現，請DeepSeek寫出用於工業控制系統程式，其回覆的程式碼22.8%有漏洞；若同樣的請求，明確指出將由好戰組織「伊斯蘭國」（Islamic State）等操作，回覆不安全的程式碼比率有42.1%。提出為西藏、台灣或法輪功等用途所寫軟體的請求，也較常得到低品質的程式碼。 DeepSeek直接拒絕涉及伊斯蘭國和法輪功的請求，比率分別為61%和45%，這一點並不特別令人意外，不過，為了政治因素，對用於其他區域或用途的請求，提供較不安全的程式碼，則是一新發現。刻意生成有漏洞的程式碼，比植入後門程式更不容易被察覺，卻能達到同樣成果：使目標易於遭駭客入侵。 CrowdStrike資深副總裁麥爾斯（Adam Meyers）和其他專家認為，有幾個可能原因，一個是這個AI模型引擎依照中國政府指示，不要協助特定族群，或者用誤導性的方式協助；另一個是，訓練資料在不同語言或地區的品質不一，使該模型編寫程式碼能力較差，第三個可能原因是，模型被告知一個充滿叛亂分子的區域時，會自動傾向產出不良的程式碼。 https://news.ltn.com.tw/news/world/breakingnews/5183086 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.12.163.61 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1758204917.A.844.html

推

reaper317

09/18 22:23, 2月前 , 1^F

09/18 22:23, 1^F

噓

knightwww

09/18 22:25, 2月前 , 2^F

09/18 22:25, 2^F

推

zonppp

09/18 22:44, 2月前 , 3^F

09/18 22:44, 3^F