10月11日，根據(jù)外媒報(bào)道稱亞馬遜的機(jī)器人學(xué)習(xí)專家發(fā)現(xiàn)其使用的招聘引擎不喜歡女性。因此，該項(xiàng)目被亞馬遜關(guān)掉了。

據(jù)悉，最早在2014年，亞馬遜的這支團(tuán)隊(duì)一直在開發(fā)電腦程序用來(lái)篩選審查求職者的簡(jiǎn)歷，核心的目的是將尋找頂尖人才的任務(wù)或者說(shuō)招聘任務(wù)自動(dòng)化。亞馬遜的實(shí)驗(yàn)性招聘工具使用AI為求職者打分，分?jǐn)?shù)從一星到五星不等。開發(fā)該程序的工程師曾表示，亞馬遜想要將這一程序打造成引擎，給該程序100份簡(jiǎn)歷，程序會(huì)列出前五人，其就會(huì)聘用列出的人才。

2015年，亞馬遜發(fā)現(xiàn)他們使用AI系統(tǒng)的時(shí)候并未對(duì)軟件開發(fā)人員和其他技術(shù)職位求職者進(jìn)行性別中立的評(píng)估。采用的模型訓(xùn)練方式是通過(guò)觀察過(guò)去10年被提交給亞馬遜公司的簡(jiǎn)歷中找出固有模式，以此篩選審查求職者。但在過(guò)去的10年中，提交給亞馬遜的簡(jiǎn)歷大部分來(lái)自男性，這就導(dǎo)致了亞馬遜使用的AI系統(tǒng)告訴自己男性求職者更受到青睞。

不僅如此，該AI系統(tǒng)還對(duì)女性持有一定偏見(jiàn)。該系統(tǒng)在簡(jiǎn)歷中含有“女子象棋俱樂(lè)部隊(duì)長(zhǎng)”這類簡(jiǎn)歷的語(yǔ)句中含有“女子”的詞匯非常敏感。此外，該系統(tǒng)還下調(diào)了兩所女子學(xué)院的畢業(yè)生評(píng)級(jí)。

因此，雖然亞馬遜招聘人員表示他們從來(lái)沒(méi)有僅依靠排名來(lái)做出判斷，但在去年年初亞馬遜最終還是選擇了解散團(tuán)隊(duì)，高管們對(duì)該項(xiàng)目感到非常失望。

隨著人工智能技術(shù)的發(fā)展和商業(yè)化落地的逐漸廣泛，一方面AI技術(shù)顯著提升了效率與成本，也帶給了人們更加便捷的生活；但一方面AI作惡、歧視的現(xiàn)象也不斷引發(fā)爭(zhēng)議與討論。

本次AI招聘系統(tǒng)對(duì)女性的偏見(jiàn)的本質(zhì)在于機(jī)器學(xué)習(xí)的局限性?？▋?nèi)基梅隆大學(xué)教授尼哈爾·沙赫認(rèn)為，要實(shí)現(xiàn)利用科技擴(kuò)大招聘網(wǎng)絡(luò)減少對(duì)人類招聘者主觀意見(jiàn)的以來(lái)，開發(fā)者還有很多工作要做。在他開來(lái)：“如何確保算法是公平的，如何確保算法是真正可以解釋的，實(shí)現(xiàn)這些目標(biāo)都還十分遙遠(yuǎn)?！?/p>

但科技公司們?nèi)栽谂Α?/p>

雖然解散了這一團(tuán)隊(duì)，但亞馬遜在愛(ài)丁堡工程中心成立了新的團(tuán)隊(duì)，其所屬的人員也已經(jīng)增加到了12人。其目標(biāo)是開發(fā)能夠迅速在網(wǎng)絡(luò)上搜索并發(fā)現(xiàn)有價(jià)值應(yīng)聘者的AI系統(tǒng)。目前，該團(tuán)隊(duì)已經(jīng)創(chuàng)建了500個(gè)計(jì)算機(jī)模型，它們重點(diǎn)關(guān)注特定的工作功能和地點(diǎn)。團(tuán)隊(duì)開發(fā)者將教授每個(gè)模型辨認(rèn)出過(guò)去求職者建立上的5萬(wàn)個(gè)術(shù)語(yǔ)。