[新聞] 歐盟：AI道德指南，具備三條件及七要件

看板Tech_Job作者zxcvxx (zxcvxx)時間6年前 (2019/04/24 09:15)推噓10(10推 0噓 5→)

留言15則, 14人參與討論串1/1

歐盟：AI道德指南，具備三條件及七要件 http://bit.ly/2XF5vX7 歐盟(EU)繼2018年12月首次草案（透過公開資訊收集超過500項意見）發布以後，AI高級專家小組於2019年4月8日發表了可信賴的AI道德指南(ETHICS GUIDELINES FOR TRUSTWORTHY AI)。根據規範內容，可信賴的AI應具備以下條件：（1）依法：須尊重所有適用法令及法條 (lawful - respecting all applicable laws and regulations) （2）合乎正道：須尊重普世道德及價值 (ethical - respecting ethical principles and values) （3）堅固耐用：技術發展同時仍應考量社會環境 (robust - both from a technical perspective while taking into account its social environment) 該指南條列出了未來AI系統應該滿足的7項關鍵要件，並提供詳細評估表以協助驗證：人類自主性（Human agency）及監督：AI系統應幫助人類做出明智的決定及培養基本權利；與此同時，也必須提供適當的監督機制，人們不應該被AI系統操縱或強迫，人類要有能力干預或監督軟體所做的每一個決策。AI不應該踐踏人類的自主性。技術穩健性及安全性：AI系統應具彈性及安全性，AI必須是安全的，確保意外狀況發生時還有備案，並同時保持準確、可靠且數據可重現（reproducible）。這是唯一能確保將意外降到最低並預防發生的方法。隱私權及數據治理：除確保全方位的尊重隱私權及數據保護，還必須確認有適當的數據治理機制，並將數據的質量及完整性皆納入考量，同時確保數據訪問的合法性。透明度：數據、系統及AI營運模式應透明化，追溯機制可幫助達成以上要求。另外，AI系統之利益相關者應該要能解釋AI系統及其所下之決定。人類一定要意識到，與他們互動的是AI系統，並且必須清楚告知AI的能力及限制。多元性、無差別待遇及公正性：不公正之偏見行為可能導致多種負面影響，如邊緣化弱勢團體及更多歧視行為，務必要避免。為促進多元性，AI系統應可接受所有人來使用，不因其是否殘疾而受限，並在整個產品生命週期中都應將其相關利益關係者納入。社會及環境福祉：AI系統應使全人類受益，包含未來世代。必須確保其永續性及環境友善，此外，應該將環境議題也納入考量，包含其他物種以及其他物種的社會及社會影響都應審慎思考。責任歸屬：應建立機制以確保AI系統及其結果的權責及責任歸屬問題。特別是在重要應用中，具可稽核性使我們能夠評估演算法、數據和設計過程在其中起的關鍵作用。此外，也應確保足夠的無障礙補救措施。後續將先建一套試點的操作流程預計將建立一套試點操作流程，以便收集（操作時的關鍵要素）評估列表上的實際回饋，並能夠藉此進行改善。所有利害關係人都可以參與，預計於2019年夏季推出試點操作流程。還會設立了一個論壇，促進可信賴AI實施的最佳做法之間的意見交流。在試點階段收到反饋意見後，AI高級專家小組將在2020年初審閱關鍵要素的評估清單，並根據這項審查，委員會將評估結果並提出下一後續步驟。有關該指南文件的相關信息以及審查評估清單的後續步驟，可參閱歐盟網站。 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 203.145.192.245 ※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1556068531.A.F22.html

推

EnosKP

04/24 09:56, 6年前 , 1^F

04/24 09:56, 1^F

推

tanby

04/24 10:15, 6年前 , 2^F

04/24 10:15, 2^F

→

deray

04/24 10:29, 6年前 , 3^F

04/24 10:29, 3^F