[討論] 歐盟準備禁止AI用於社會信用評級
https://indsr.org.tw/Content/Upload/files/biweekly/29/3_TsungHanWu.pdf
歐盟公布草案禁止AI用於社會評等
國防安全研究院 吳宗翰 20210528
壹、新聞重點
歐盟執委會（European Commission）在2021年4月21日提出了《人工智慧統一管理規則的
立法草案》（Proposal for a Regulation Laying Down Harmonised Rules on
Artificial Intelligence），簡稱為《人工智慧法》（Artificial Intelligence Act）
草案，目的在於打造歐洲成為「可信賴的人工智慧」的全球中心。它不僅是歐盟同時也是
全球至今第一部規範人工智慧的成文法規，是迄今為止在政府層次監管人工智慧應用涉及
範圍最廣的行動。執委會指出，法案將依據人工智慧的風險高低分類，禁止「不可接受的
風險」人工智慧系統，嚴格控管「高風險」系統，對於「有限風險」與「最小風險」者也
有各自程度不一的限制；對違反者將處以巨額罰款。透過法律框架的明確化，執委會希望
同時能促進歐盟對人工智慧的投資和創新。儘管草案後續還需要經過歐洲議會與27個會員
國的批准才能成文，過程可能達數年，但該案被提出所顯示的意涵以及被通過後所造成的
影響值得研議。
貳、安全意涵
一、歐盟價值觀拒絕社會評等系統
自2018年起，歐盟即積極摸索它在未來數位時代中應當扮演的全球角色，人工智慧一直是
其關切重點。歷年來，歐盟已經先後發布《歐洲人工智慧戰略》（Artificial
Intelligence for Europe，2018）、《可信賴的人工智慧倫理準則》（Ethics
Guidelines for Trustworthy AI，2019）、《人工智慧白皮書》（White Paper on
Artificial Intelligence，2020）等，揭櫫從確立何謂歐洲價值到實現其價值觀的路徑過
程。此次提出《人工智慧法》草案，可視為該相關行動的最新成果。
《人工智慧法》草案承襲過去文件中一貫強調的「信任」（trust）精神，主張促進使用者
對人工智慧產品與技術的信任，而後者也被要求保證使用者免於安全以及基本權利的損害
才得以發展。草案亦同時在「以風險為基礎」的監管原則上更進一步具體劃分四等級並分
別給予例證。其中，在被視為對人們安全、生計與權利會造成明顯威脅的「不可接受的風
險」類別中，法案明確指出禁止由政府實行「社會評等（social scoring）系統」。法案
亦指出禁止「實時遠端生物辨識系統」（real-time remote biometric identification
systems）在公共場合被用於執法目的，但可以在特定目的下，事先取得司法機關或獨立行
政授權或事後追認，例如尋找犯罪受害者、失蹤兒童、防止具體、實質且緊迫的恐怖攻擊
等。草案針對特定用途的分類，可以說是為歐盟會員國政府層次的監管、企業產品技術發
展以及使用者提供指引。禁止「社會評等」與「實時遠端生物辨識系統」更是為過去數年
來，歐盟內部針對警察部門是否可以部署人臉辨識系統（facial recognition system）的
爭論定調。
二、歐盟寄託法案推動歐洲模式
歐盟一直企圖在所謂中、美人工智慧發展模式外另闢道路，更企圖藉由歐洲的軟硬綜合實
力引領未來的技術走向。3中國雖然近年來針對人工智慧的監管問題多有討論，並陸續制訂
演算法的管理架構、隱私權保護法規、更推層出新政策白皮書，但創新優先的「經濟競爭
」思維，始終壓過基於倫理與道德為基礎的管制聲浪。由於人工智慧發展涉及國家能力的
戰略目標以及龐大的商業利益，更實際上被用於加強政府監管社會，中國政府至今仍採取
國家中心主導的大型投資計劃方式，國內顯現的主流意見也多是偏向持續大力發展技術，
再視情況控管。
另一方面，監管思維在美國目前似有些混沌不明。儘管已經訂立管理架構，近來參眾議院
也針對「反壟斷」等議題分別要求各家科技巨頭出席聽證會，但相比歐盟的進展仍屬初步
。事實上，美國的狀況還同時需要考量到美國企業與科技能力目前仍執世界該領域之牛耳
，並大量運用於商業，因此自我侷限發展顯然不符合自身利益。尤其，意識到中國等後起
之秀的競爭壓力以及美中科技戰影響，美國在政府層次似更願意與企業合作，採取鼓勵投
資與維持優勢等路線。
相比中美，歐盟試圖平衡監管與創新，但它採取更高標準的作法實引起有關分析認為它可
能拖累歐洲的科技發展。自從《一般資料保護規範》（General Data Protection
Regulation,GDPR）於2018年施行以來，歐盟即力行要求與歐盟公民有數據來往的所有主體
遵守歐盟規範。這種思維同樣展現在《人工智慧法》上，歐盟希望在不損害歐洲價值觀或
基本權利下與中美進行競爭；該法案一旦通過，未來也會要求其他國家比照辦理。有關論
調未來會否成真只能再待分析。
參、趨勢研判
一、人工智慧委員會將成為歐盟科技監管的重要指標
根據《人工智慧法》草案規定，歐盟未來將成立一個由各會員國監管機關的高層以及歐盟
資料保護機關（European Data Protection Supervisor，EDPS）組成的歐洲人工智慧委員
會（European Artificial Intelligence Board）。委員會舉行會面時，可邀請其他國家
的代表參與共同商討涉身事項，也可以基於需求而邀請外部技術專家或觀察者，包括來自
歐盟內部與外部其他單位人員與會；決議規則採簡單多數決制。根據草案的設計，委員會
一方面將擔任該法的監理機構，一方面也將負責提供歐盟執委會有關建言，更同時會扮演
協調執委會與各國監管機構的角色，以利人工智慧法案的發展與運作。委員會的召開舉行
、行政事務與研究事務方面的支持都將由執委會決定。
有鑑於這樣的宗旨以及行政結構，研判委員會將成為執委會與各歐盟會員國在人工智慧議
題方面的權力角力與意見交換場域，並同時能夠為決定事項提供支持的技術理由。預料一
旦法案成文通過，人工智慧委員會在實際運作上將成為歐盟法院（Court of the Justice
of the European Union）與各國數據保護委員會之外的另一個重要指標。
二、規範人工智慧用於自主武器系統是下一波重點
《人工智慧法》在第2條第3款表明該法排除適用於軍事用途，因而避開了有關人工智慧與
自主武器系統的爭論。然而，人工智慧發展至今，有關自主武器的研究與應用早已在國際
社會熱烈討論，可能將會是下一波規範重點。
就現況來看，主要的人工智慧科技大國包括中、美均在國際競爭的脈絡下對發展自主武器
表現出正面態度，俄羅斯更是對發展相關武器不遺餘力。整體趨勢越顯激烈。相較之下，
歐盟仍秉持其倫理標準平衡武器科技研發。歐洲議會於2021年1月20日通過《人工智慧軍事
及非軍事用途準則》（Guidelinesfor Military and Non-military Use of Artificial
Intelligence），主張歐盟應遵從「以人為本」（human-centred）的原則，為人類及社會
共同利益服務；對人工智慧用於軍事用途訂立規範，強調涉及國防相關的人工智慧系統須
具備「有意義的人為控制」（meaningful human control）。6此《準則》核心精神實質上
與《人工智慧法》精神相通。可以預料，歐盟未來將秉持同類原則進一步對軍事行動制訂
出更具體的規範，但此舉可能在北約架構中與其他部分非歐盟的會員國意見相左。進而言
之，歐盟如欲在國際法層次推動相關主張亦有阻礙。
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 111.251.254.186 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/HatePolitics/M.1622351165.A.50E.html
→
05/30 13:06,
3年前
, 1F
05/30 13:06, 1F