觀 點(diǎn)

針對(duì)AI招聘引發(fā)的算法就業(yè)歧視風(fēng)險(xiǎn)，應(yīng)在充分發(fā)揮現(xiàn)有監(jiān)管體制的基礎(chǔ)上，加強(qiáng)專項(xiàng)治理。對(duì)算法規(guī)則進(jìn)行合法性和平等性評(píng)估，并向社會(huì)進(jìn)行公示。

近年來，人工智能（以下簡(jiǎn)稱AI）在招聘場(chǎng)景中的應(yīng)用日漸興起。歐美國(guó)家一些招聘平臺(tái)、科技公司率先開發(fā)和采用了AI招聘系統(tǒng)。在我國(guó)，數(shù)據(jù)顯示，頭部招聘平臺(tái)累計(jì)服務(wù)求職者超過1億人次，求職有效簡(jiǎn)歷數(shù)量超過1.5億份，認(rèn)證企業(yè)超過1000萬(wàn)家。多家招聘平臺(tái)啟用AI為海量數(shù)據(jù)賦能。

AI招聘系統(tǒng)可以向潛在求職者推送招聘廣告，對(duì)海量簡(jiǎn)歷進(jìn)行解析、篩選和匹配合適候選人，規(guī)范并簡(jiǎn)化面試流程和能力測(cè)試，輔助招聘錄用決策，幫助企業(yè)降低招聘成本、提高招聘效率。有觀點(diǎn)認(rèn)為，算法具有技術(shù)中立性，可以消除招聘者可能存在的個(gè)人偏見，甚至避免受到其潛意識(shí)的影響，從而保證招聘行為的公正性。然而，近年來國(guó)內(nèi)外研究發(fā)現(xiàn)，AI招聘同時(shí)引發(fā)了算法就業(yè)歧視的風(fēng)險(xiǎn)。

招聘場(chǎng)景中算法應(yīng)用的歧視風(fēng)險(xiǎn)

其一，招聘廣告自動(dòng)化推送中的歧視風(fēng)險(xiǎn)。有研究者利用軟件模擬普通用戶瀏覽求職網(wǎng)站，隨后統(tǒng)計(jì)較高薪酬職位的廣告數(shù)據(jù)，發(fā)現(xiàn)男性用戶組收到的廣告推送是女性用戶組的6倍多?？梢姡谒惴ㄖ鲗?dǎo)的招聘市場(chǎng)上，男性相較于女性獲得高薪職位廣告推薦的機(jī)會(huì)更多，同等條件下獲得較高年薪待遇的幾率也更高。

其二，簡(jiǎn)歷自動(dòng)化評(píng)分中的歧視風(fēng)險(xiǎn)。在求職者向目標(biāo)企業(yè)投遞簡(jiǎn)歷后，AI會(huì)對(duì)簡(jiǎn)歷進(jìn)行自動(dòng)化評(píng)分，在此過程中，算法可能會(huì)對(duì)某些特定群體的簡(jiǎn)歷給予負(fù)面評(píng)價(jià)，甚至直接過濾。在一項(xiàng)國(guó)外的研究中，研究人員創(chuàng)建了4萬(wàn)份虛構(gòu)的簡(jiǎn)歷，并向分布在不同城市的1萬(wàn)多個(gè)網(wǎng)上職位發(fā)送了年齡不同而其他條件完全相同的虛擬申請(qǐng)。研究顯示，在擁有相同技術(shù)能力的情況下，年輕申請(qǐng)者獲得的反饋率遠(yuǎn)高于年長(zhǎng)者，說明年長(zhǎng)者的簡(jiǎn)歷在初篩階段被降級(jí)了。

其三，招聘自動(dòng)化決策中的歧視風(fēng)險(xiǎn)。企業(yè)使用視頻面試系統(tǒng)對(duì)求職者進(jìn)行篩選，算法會(huì)通過分析求職者在面試中的表現(xiàn)，包括語(yǔ)言分析（通過抓取關(guān)鍵詞等方式分析求職者的回答）和視頻分析（對(duì)其面部表情、語(yǔ)音語(yǔ)速、眼神交流等進(jìn)行數(shù)據(jù)收集、處理與分析），判斷求職者的業(yè)務(wù)能力、工作風(fēng)格、勤勉度、忠誠(chéng)度與所求職崗位匹配的可能性并進(jìn)行排名。此類自動(dòng)化決策雖剝離了面試官個(gè)人對(duì)面試結(jié)果的影響，但蘊(yùn)含著算法歧視的風(fēng)險(xiǎn)。

產(chǎn)生算法就業(yè)歧視的根源

看似客觀中立的算法為何會(huì)產(chǎn)生就業(yè)歧視風(fēng)險(xiǎn)？基于國(guó)內(nèi)外的研究成果，可將算法歧視產(chǎn)生的根源總結(jié)為以下幾個(gè)方面。

一是算法具有自主性和超打探性。在數(shù)據(jù)處理過程中，算法可以通過技術(shù)追蹤，打探應(yīng)聘者簡(jiǎn)歷之外的個(gè)人信息，并預(yù)測(cè)其未來的行為特征。例如，在面對(duì)一份女性求職者的簡(jiǎn)歷時(shí)，算法可以通過掌握其身份信息自主打探其在不同網(wǎng)站上的瀏覽與消費(fèi)記錄，判斷其身份特征，從而影響評(píng)估和決策的結(jié)果。

其二，算法具有隱蔽性。算法在數(shù)據(jù)挖掘、數(shù)據(jù)選擇和模型建構(gòu)時(shí)具有隱蔽性，這使得人們難以判斷其在學(xué)習(xí)過程中究竟識(shí)別了哪些數(shù)據(jù)，提煉出哪些特征。因此，在未經(jīng)系統(tǒng)訓(xùn)練的情況下，人們很難對(duì)算法決策過程和原理進(jìn)行完整準(zhǔn)確的解釋，對(duì)維權(quán)和監(jiān)管也形成了較高的技術(shù)壁壘。

其三，訓(xùn)練算法的數(shù)據(jù)缺陷。在算法生成之前，開發(fā)者需要投放大量數(shù)據(jù)對(duì)其進(jìn)行訓(xùn)練。如果數(shù)據(jù)本身存在對(duì)某些群體的偏見或代表性不足，那么生成的算法就可能導(dǎo)致歧視。算法在具有歧視色彩的數(shù)據(jù)環(huán)境中“學(xué)習(xí)”與“成長(zhǎng)”，會(huì)習(xí)得結(jié)構(gòu)性偏見。

算法就業(yè)歧視的治理路徑

近年來，針對(duì)“大數(shù)據(jù)殺熟”等算法歧視問題，國(guó)家先后出臺(tái)了《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》等規(guī)范性文件，針對(duì)各類主體濫用算法權(quán)力的現(xiàn)象展開專項(xiàng)整治。筆者認(rèn)為，在充分發(fā)揮現(xiàn)有監(jiān)管體制的基礎(chǔ)上，應(yīng)加強(qiáng)對(duì)算法就業(yè)歧視的專項(xiàng)治理。網(wǎng)信部門可聯(lián)合技術(shù)專家、法律專家、人力資源專家、工會(huì)代表等各方力量成立專門委員會(huì)，對(duì)各大招聘網(wǎng)站和相關(guān)企業(yè)進(jìn)行定期監(jiān)管與技術(shù)監(jiān)督，對(duì)企業(yè)提交的算法規(guī)則進(jìn)行合法性和平等性評(píng)估，并向社會(huì)進(jìn)行公示。

首先，針對(duì)算法的自主性和隱蔽性問題，要求算法開發(fā)設(shè)計(jì)方建立算法規(guī)則備案制度，定期記錄算法模型和具體決策。借鑒外域治理經(jīng)驗(yàn)，可采用個(gè)人數(shù)據(jù)的分級(jí)制度進(jìn)行管理，即對(duì)于某些與個(gè)人隱私密切相關(guān)的數(shù)據(jù)，應(yīng)禁止AI招聘系統(tǒng)抓取和處理，避免算法抓取個(gè)人隱私信息對(duì)其進(jìn)行不合法“畫像”。

其次，針對(duì)訓(xùn)練算法的數(shù)據(jù)缺陷問題，有關(guān)部門應(yīng)監(jiān)督企業(yè)在設(shè)計(jì)算法時(shí)構(gòu)建更加公正的數(shù)據(jù)集。在訓(xùn)練算法模型時(shí)，應(yīng)對(duì)遴選輸入的數(shù)據(jù)進(jìn)行不斷地對(duì)比調(diào)試，以確保輸出結(jié)果符合公平特性。具體做法是，在輸入訓(xùn)練數(shù)據(jù)集時(shí)，要么剔除受保護(hù)特征的目標(biāo)變量，要么去除敏感信息后盡可能保留原始信息；修正未被“公平呈現(xiàn)”的相關(guān)群體的數(shù)據(jù)比例。

最后，對(duì)平等就業(yè)觀念進(jìn)行宣傳和引導(dǎo)。算法運(yùn)行過程中受環(huán)境數(shù)據(jù)影響的現(xiàn)象，不是單純依靠算法技術(shù)與數(shù)據(jù)監(jiān)管就能夠改變的事實(shí)，而是傳統(tǒng)社會(huì)結(jié)構(gòu)中存在的偏見。因此，需要從社會(huì)環(huán)境的角度出發(fā)，對(duì)平等就業(yè)進(jìn)行全方位的宣傳和引導(dǎo)，提高環(huán)境數(shù)據(jù)的公正性、包容性，減少算法受到影響的程度。

（作者單位：華東政法大學(xué)）