[新聞] Google推出機器學習公平性量測工具以評估模型偏見
ithome
Google推出機器學習公平性量測工具以評估模型偏見
文/李建興 | 2019-12-15發表
Google發布了Fairness Indicators工具,可針對二元和多類別分類(Classification)
進行運算與視覺化,幫助機器學習開發團隊,評估與修正模型所存在的偏差。
產業界與學術界大量地使用機器學習技術解決問題,但是機器學習演算法和資料集,可能
同時反映且強化了偏差。Google提到,偏差有可能出現在機器學習工作管線的任何部分,
從資料集到模型的表示,甚至是將結果呈現給終端使用者的方式都不例外。
而為了檢測機器學習存在的偏差,針對單一用戶或是用戶群的評估非常重要,Google強調
,因為總體指標可以掩蓋某些群組不良的狀況,這些群組包括敏感的特徵群體,像是種族
、性別、國籍、收入、性傾向、能力和宗教信仰。
Google的人工智慧原則其中一項,是要避免造成或是加強不公平的偏見,他們也持續在這
領域耕耘,現在並於TensorFlow World大會發布了Fairness Indicators工具。Fairness
Indicators可運算並視覺化像是誤報率等常用的分類模型公平性指標,還能計算信賴區間
,以多個閾值進行評估。在使用者介面上,使用者可以切換基準群組並調查不同指標的效
能,也可為自己的使用案例,增加自定義的視覺化指標。
Fairness Indicators可以用來產生透明性報告指標,以幫助開發人員更負責地調校模型
,Google表示,公平性的顧慮與評估會因為案例而不同,因此Fairness Indicators工具
還包含了一個互動式研究案例,提供Jigsaw毒性資料產生的意外偏差,說明使用
Fairness Indicators檢測和修補機器學習模型偏差的方法。
Google提到,光靠指標與測量並無法讓機器學習模型實現完全的公平,這些方法僅是辨識
與解決偏差的其中一環。
https://www.ithome.com.tw/news/134834
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 61.231.251.226 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1576407712.A.F6F.html
噓
12/15 19:01,
4年前
, 1F
12/15 19:01, 1F
推
12/15 19:01,
4年前
, 2F
12/15 19:01, 2F
推
12/15 19:01,
4年前
, 3F
12/15 19:01, 3F
推
12/15 19:01,
4年前
, 4F
12/15 19:01, 4F
推
12/15 19:01,
4年前
, 5F
12/15 19:01, 5F
推
12/15 19:02,
4年前
, 6F
12/15 19:02, 6F
推
12/15 19:02,
4年前
, 7F
12/15 19:02, 7F
推
12/15 19:02,
4年前
, 8F
12/15 19:02, 8F
→
12/15 19:02,
4年前
, 9F
12/15 19:02, 9F
推
12/15 19:02,
4年前
, 10F
12/15 19:02, 10F
→
12/15 19:02,
4年前
, 11F
12/15 19:02, 11F
推
12/15 19:02,
4年前
, 12F
12/15 19:02, 12F
推
12/15 19:02,
4年前
, 13F
12/15 19:02, 13F
→
12/15 19:02,
4年前
, 14F
12/15 19:02, 14F
推
12/15 19:02,
4年前
, 15F
12/15 19:02, 15F
推
12/15 19:02,
4年前
, 16F
12/15 19:02, 16F
推
12/15 19:02,
4年前
, 17F
12/15 19:02, 17F
推
12/15 19:02,
4年前
, 18F
12/15 19:02, 18F
推
12/15 19:02,
4年前
, 19F
12/15 19:02, 19F
推
12/15 19:02,
4年前
, 20F
12/15 19:02, 20F
推
12/15 19:02,
4年前
, 21F
12/15 19:02, 21F
推
12/15 19:02,
4年前
, 22F
12/15 19:02, 22F
→
12/15 19:02,
4年前
, 23F
12/15 19:02, 23F
推
12/15 19:02,
4年前
, 24F
12/15 19:02, 24F
→
12/15 19:02,
4年前
, 25F
12/15 19:02, 25F
推
12/15 19:02,
4年前
, 26F
12/15 19:02, 26F
→
12/15 19:02,
4年前
, 27F
12/15 19:02, 27F
推
12/15 19:02,
4年前
, 28F
12/15 19:02, 28F
推
12/15 19:02,
4年前
, 29F
12/15 19:02, 29F
→
12/15 19:02,
4年前
, 30F
12/15 19:02, 30F
推
12/15 19:02,
4年前
, 31F
12/15 19:02, 31F
推
12/15 19:02,
4年前
, 32F
12/15 19:02, 32F
推
12/15 19:03,
4年前
, 33F
12/15 19:03, 33F
推
12/15 19:03,
4年前
, 34F
12/15 19:03, 34F
推
12/15 19:03,
4年前
, 35F
12/15 19:03, 35F
推
12/15 19:03,
4年前
, 36F
12/15 19:03, 36F
推
12/15 19:03,
4年前
, 37F
12/15 19:03, 37F
推
12/15 19:03,
4年前
, 38F
12/15 19:03, 38F
推
12/15 19:03,
4年前
, 39F
12/15 19:03, 39F
還有 80 則推文
→
12/15 19:43,
4年前
, 120F
12/15 19:43, 120F
推
12/15 19:45,
4年前
, 121F
12/15 19:45, 121F
→
12/15 19:46,
4年前
, 122F
12/15 19:46, 122F
→
12/15 19:47,
4年前
, 123F
12/15 19:47, 123F
推
12/15 19:47,
4年前
, 124F
12/15 19:47, 124F
推
12/15 19:47,
4年前
, 125F
12/15 19:47, 125F
推
12/15 19:50,
4年前
, 126F
12/15 19:50, 126F
推
12/15 19:51,
4年前
, 127F
12/15 19:51, 127F
推
12/15 19:52,
4年前
, 128F
12/15 19:52, 128F
推
12/15 19:53,
4年前
, 129F
12/15 19:53, 129F
→
12/15 19:54,
4年前
, 130F
12/15 19:54, 130F
→
12/15 19:54,
4年前
, 131F
12/15 19:54, 131F
推
12/15 19:56,
4年前
, 132F
12/15 19:56, 132F
推
12/15 19:57,
4年前
, 133F
12/15 19:57, 133F
推
12/15 19:57,
4年前
, 134F
12/15 19:57, 134F
推
12/15 20:02,
4年前
, 135F
12/15 20:02, 135F
推
12/15 20:07,
4年前
, 136F
12/15 20:07, 136F
推
12/15 20:07,
4年前
, 137F
12/15 20:07, 137F
推
12/15 20:15,
4年前
, 138F
12/15 20:15, 138F
推
12/15 20:32,
4年前
, 139F
12/15 20:32, 139F
推
12/15 20:33,
4年前
, 140F
12/15 20:33, 140F
推
12/15 20:35,
4年前
, 141F
12/15 20:35, 141F
推
12/15 20:36,
4年前
, 142F
12/15 20:36, 142F
推
12/15 20:38,
4年前
, 143F
12/15 20:38, 143F
推
12/15 20:47,
4年前
, 144F
12/15 20:47, 144F
推
12/15 20:48,
4年前
, 145F
12/15 20:48, 145F
推
12/15 20:49,
4年前
, 146F
12/15 20:49, 146F
推
12/15 20:59,
4年前
, 147F
12/15 20:59, 147F
推
12/15 21:15,
4年前
, 148F
12/15 21:15, 148F
噓
12/15 21:28,
4年前
, 149F
12/15 21:28, 149F
推
12/15 21:34,
4年前
, 150F
12/15 21:34, 150F
推
12/15 22:02,
4年前
, 151F
12/15 22:02, 151F
推
12/15 23:16,
4年前
, 152F
12/15 23:16, 152F
推
12/15 23:17,
4年前
, 153F
12/15 23:17, 153F
推
12/16 01:07,
4年前
, 154F
12/16 01:07, 154F
推
12/16 01:38,
4年前
, 155F
12/16 01:38, 155F
推
12/16 10:19,
4年前
, 156F
12/16 10:19, 156F
推
12/16 10:53,
4年前
, 157F
12/16 10:53, 157F
推
12/16 12:36,
4年前
, 158F
12/16 12:36, 158F
推
12/16 12:47,
4年前
, 159F
12/16 12:47, 159F