2018-10-15 | 作者:科技新報/Unwire Pro

亞馬遜發現招聘用人工智慧系統歧視女性,決定棄用

人工智慧其運作方式是根據輸入數據來學習,因此未必能免除偏見。亞馬遜(Amazon)招聘用的人工智慧系統因投入的數據來自 10 年來的聘用紀錄且男性居多,就宣布棄用對女性有歧視問題的招聘用人工智慧系統。

人工智慧系統雖然方便,但運作方式是根據輸入數據來學習,因此一直有研究指出這些系統未必能免除偏見。最近亞馬遜(Amazon)就宣布棄用對女性有歧視問題的招聘用人工智慧系統。

Amazon 的機器學習團隊自 2014 年以來,就在開發用來審核應徵者履歷表的自動化系統,讓尋找合適人選更簡單。有這樣的系統對已相當自動化的 Amazon 而言並不令人意外。這個系統可為應徵者自動打分數,從一星到五星,就像 Amazon 平台商品,讓人事部快速篩選不合適的人。據消息人士透露,Amazon 原先的目標是要利用人工智慧系統把招聘過程盡量自動化,放入 100 個履歷表後,就自動提供 5 個最合適的人選聘用。

不過這個系統 2015 年被發現分析軟體開發者和其他技術職位的應徵者時,會出現性別偏見。造成這問題的原因,是 Amazon 投入的數據來自 10 年來的聘用紀錄,由於大部分獲聘的都是男性,造成系統直接反映此情況,即履歷表出現「女性」一詞會扣分。雖然 Amazon 嘗試改變系統以減少偏見,但無法確保問題不再出現。

結果去年 Amazon 就棄用這個實驗性系統。Amazon 指,這個系統從來不是決定招聘與否的主要準則。這次事件也證明,要完全去除人工智慧系統對性別和種族的偏見,可能比想像中複雜。

原文連結:Amazon scraps secret AI recruiting tool that showed bias against women

 

資料來源:Unwire Pro科技新報
圖片來源:Hitesh Choudhary


延伸閱讀:
黃晴雯入選首屆亞洲頂尖永續超級女性
亞伯首屆AI x CSR 人文智慧兢賽 永訊智庫奪冠
性平處:「科技性別化創新」理念獲認同

留言專區

請先登入會員


Top