亞馬遜公司的機器學習專家發(fā)現(xiàn)了一個大問題：他們的新招聘引擎不太喜歡女性。

據(jù)路透社援引五位知情人士的消息稱，從2014年開始，這支團隊一直在開發(fā)審核求職者簡歷的計算機程序，希望實現(xiàn)人才搜索的機械化。

一直以來，亞馬遜在電商市場稱霸的關鍵便是倉庫或定價決策的自動化。公司的試驗性招聘工具會利用人工智能技術為求職者打分(一星到五星不等)——一些人表示，這就像是購物者在亞馬遜上給產品評分。

一位知情人士說道，“他們真的希望有這樣一種引擎，那就是我扔給你100份簡歷，你能區(qū)分出排名前五的求職者，然后我們就雇傭這部分人。”

但到2015年，公司意識到它的新系統(tǒng)并不能基于“性別中立”的原則來為軟件開發(fā)者崗位或是其他技術崗位的求職者進行評級。

這也許是因為亞馬遜的計算機模型在接受訓練時，觀察的是十年來投遞給公司的簡歷并要從中發(fā)現(xiàn)固有模式。大多數(shù)簡歷都是男性投遞的，這也反映了科技行業(yè)男性主導的現(xiàn)象。

事實上，亞馬遜的系統(tǒng)是自己學會優(yōu)選男性求職者的。據(jù)知情人士透露，該系統(tǒng)會給予包含“女性”這個詞的簡歷以低星評級。它還會給兩所女子大學的畢業(yè)生進行降分評級。知情人士并未透露兩所學校的名字。

亞馬遜修改了這些程序，使其對于特定的術語可以秉持中立的原則。但是，這依然無法保證機器不會想出其他的方式、以歧視性的態(tài)度對一些求職者進行分類。

最終，這家西雅圖公司因為高層管理人員對該項目失去了信心，在去年初解散了該團隊。知情人士表示，在之前招聘新員工時，亞馬遜的招聘人員會查看該工具提供的建議，但絕對不會單單依賴這些排名作出決策。

亞馬遜拒絕對于該招聘引擎或面臨的挑戰(zhàn)作出評論，但是公司表示自己一直致力于保證公司的員工多樣性和平等。

公司的此次實驗也為機器學習的限制提供了一項案例研究。對于越來越多想要實現(xiàn)招聘流程部分自動化的企業(yè)來說，例如希爾頓全球控股公司和高盛集團公司，

這也是一次經驗和教訓。

根據(jù)人才軟件公司CareerBuilder 2017年進行的一項調查，55%的美國人力資源經理表示人工智能將在未來五年時間內成為他們日常工作中采用的工具。

雇主一直以來想要利用科技擴大招聘網、減少對于招聘人員主觀看法的依賴。但是一些計算機科學家，包括在卡內基梅隆大學教授機器學習的Nihar Shah，他們均表示這件事依然路漫漫其修遠兮。

“如何確保算法的公平、如何確保算法的可理解性以及可解釋性——這還需要很長一段時間來實現(xiàn)。”他這樣說道。

男性話語

亞馬遜開始實驗之時，正是這家全球最大在線零售商發(fā)展的關鍵時機。由于低成本計算力的激增，機器學習在科技行業(yè)內吸引了大家越來越多的關注。而亞馬遜的人力資源部門也開始瘋狂招聘員工：根據(jù)提交給監(jiān)管機構的文件顯示，從2015年6月開始，公司的全球員工總數(shù)已經增加了兩倍多，人數(shù)為57.57萬人。

因此，公司在亞馬遜愛丁堡的工程中心建立了一個團隊，團隊人數(shù)大約在十幾人左右。據(jù)知情人士透露，他們的目標就是開發(fā)人工智能技術，使其快速抓取網頁信息、發(fā)現(xiàn)值得招聘的求職者。

團隊開發(fā)了500個專注于特定工作職能及位置的計算機模型。他們會訓練每個模型去識別過去求職者簡歷中出現(xiàn)的5萬個術語。算法會學習給IT求職者中常見的技能進行重要級排序，比如說編寫不同程序的能力等。

事實上，這項技術會偏向于那些在簡歷中使用動詞來描述自己的求職者，使用動詞這一點在男性工程師的簡歷中常常會看到，例如“執(zhí)行”、“抓取”等。

性別歧視不是唯一出現(xiàn)的問題。支撐該模型作出判斷的數(shù)據(jù)問題還在于，不合格的候選人會被推薦到不同的崗位。知情人士表示，鑒于這項技術會隨機反饋結果，亞馬遜最終終止了該項目。

問題還是解決方法?

其他公司也在前赴后繼進行嘗試，這也表明雇主們都迫切想要將人工智能技術用于人才招聘。

鹽湖城附近的一家創(chuàng)業(yè)公司HireVue的首席執(zhí)行官凱文·帕克(Kevin Parker)表示，自動化可以幫助企業(yè)跳出他們以往長期依賴的一成不變的招聘網絡。他的公司會在視頻面試中分析求職者的言語和面部表情，進而減少對簡歷的依賴。

“你不會再去采用老一套的招聘方式。你不會只顧著看求職者是不是常青藤盟校畢業(yè)的。”帕克說道。他公司的客戶包括聯(lián)合利華和希爾頓。

該公司表示高盛已經開發(fā)了自己的簡歷分析工具，會將求職者與“最適合”他們的部門進行匹配。

微軟旗下的LinkedIn是全球最大的職業(yè)社交網絡，在這一方面，它取得的進展較為明顯。它會根據(jù)網站上發(fā)布的崗位消息，利用算法為雇主提供求職者的排名。

LinkedIn Talent Solutions的副總裁約翰·杰辛(John Jersin)表示，這項服務并不能替代傳統(tǒng)的招聘人員。

“我當然不會放心由任何一種人工智能系統(tǒng)自行作出招聘決策。”他說道，“現(xiàn)在的技術還沒有發(fā)展到那個地步。”

一些活躍人士表示很擔心人工智能的透明度問題。美國公民自由聯(lián)盟(ACLU)正在爭取立法，允許經研究人員和記者測試過后、對采用歧視性算法的招聘網站提起刑事檢控。

“我們已經越來越關注算法的公平性問題。”ACLU種族司法項目的律師瑞秋·古德曼(Rachel Goodman)說道。

但是古德曼以及其他批判人工智能技術的人士也承認，要想就自動化招聘問題起訴雇主，這是一件極度困難的事情：崗位求職者也許永遠都不會知道企業(yè)是否采用了這種技術。

對于亞馬遜來說，公司已經成功從失敗的人工智能項目中吸取到了經驗和教訓。據(jù)知情人士稱，公司目前使用的是一種“淡化”版的招聘引擎，這將幫助公司處理一些基本工作，包括從數(shù)據(jù)庫中剔除重復的求職者資料。

公司在愛丁堡還成立了一個新的團隊，將再次嘗試自動化招聘篩選，這一次實驗關注的是多樣性問題。