在互聯(lián)網(wǎng)時代，我們可以活在算法里，但不能活在算計(jì)中。算法作為一項(xiàng)服務(wù)于人、服務(wù)于社會的技術(shù)，算法治理最終要落實(shí)到保障用戶權(quán)利上。期待全國兩會代表委員及業(yè)內(nèi)人士積極探討，提出更多有價(jià)值的建議和探索方向。

經(jīng)常接受較遠(yuǎn)接駕距離的網(wǎng)約車用戶，下次派車單顯示的車大概率挺遠(yuǎn)；如果叫不到網(wǎng)約車經(jīng)常加錢，叫到性價(jià)比高的車的幾率貌似減少；刷短視頻的用戶，好像永遠(yuǎn)能無止盡地刷到自己喜歡的內(nèi)容……據(jù)近日澎湃新聞網(wǎng)報(bào)道，2024年全國兩會拉開帷幕，有全國政協(xié)委員在調(diào)研基礎(chǔ)上提出了關(guān)于完善人工智能算法治理體系的提案，強(qiáng)調(diào)完善對算法的監(jiān)管至關(guān)重要。

網(wǎng)約車越派越貴、短視頻一刷就停不了……對其背后的算法，公眾并不陌生。之前，“大數(shù)據(jù)殺熟”是不少人對算法的切身感受。比如，平臺老顧客看到的商品或服務(wù)價(jià)格比新顧客更貴，用兩部手機(jī)在同一平臺同時搜索服務(wù)卻顯示價(jià)格不同等。同時，公眾對算法的另一個典型槽點(diǎn)是“外賣小哥困在系統(tǒng)里”，此事一度登上社交媒體熱搜榜。

在人工智能時代，很多人不得不在各種應(yīng)用場景里接受算法。在一些質(zhì)疑、抱怨及討論聲中，有關(guān)方面出臺措施，比如，明確信息收集處理需秉承用戶知情同意原則，且對平臺過度索權(quán)進(jìn)行約束，有些平臺也為用戶推出關(guān)閉算法服務(wù)選項(xiàng)，等等。這些都旨在約束平臺使用數(shù)據(jù)的權(quán)限，保護(hù)用戶信息安全，引導(dǎo)算法“向善而生”。但總體看，公眾不滿的情形依然存在，尤其是隨著ChatGPT、Sora引發(fā)全球人工智能熱潮，算法技術(shù)全面步入應(yīng)用階段，諸如算法歧視、算法黑箱、信息繭房、算法霸權(quán)等問題更需引起我們的足夠重視。

首先，算法本身具有相當(dāng)?shù)膹?fù)雜性，想要理清機(jī)制并創(chuàng)建相對公平的規(guī)則，不是易事。正如上述新聞所述，“網(wǎng)約車后臺有上億參數(shù)，調(diào)整哪些參數(shù)可以達(dá)到一個更公平的結(jié)果，連技術(shù)人員都說難”——類似問題在各種APP上廣泛存在。

其次，針對新事物，政策和監(jiān)管規(guī)定具有一定滯后性，相關(guān)法律多為框架化、倡導(dǎo)性原則，往往導(dǎo)致算法治理內(nèi)容與違法侵權(quán)之間未形成充分對應(yīng)關(guān)系。

再次，在實(shí)際案例中，算法侵害的認(rèn)定和維權(quán)較難。算法提供者擁有信息資源和技術(shù)優(yōu)勢，監(jiān)管部門對其具體機(jī)制和決策過程“理解難、取證難”，進(jìn)而執(zhí)法“認(rèn)定難”。

此外，生成式人工智能技術(shù)快速發(fā)展，必然會帶來新的挑戰(zhàn)，比如一些技術(shù)可以自主學(xué)習(xí)迭代，而現(xiàn)有監(jiān)管體系和監(jiān)管技術(shù)很難及時覆蓋，從而產(chǎn)生監(jiān)管真空。

正因算法技術(shù)難以被具象理解和有效管理，其運(yùn)行密碼又掌握在專業(yè)互聯(lián)網(wǎng)公司手里，所以，如何完善監(jiān)管措施、提升監(jiān)管效率、激發(fā)算法向善，是對監(jiān)管者的一大挑戰(zhàn)。

為此，近年來有關(guān)方面不斷探索治理舉措。比如，2021年，市場監(jiān)管總局等七部門聯(lián)合印發(fā)《關(guān)于落實(shí)網(wǎng)絡(luò)餐飲平臺責(zé)任切實(shí)維護(hù)外賣送餐員權(quán)益的指導(dǎo)意見》，明確提出“算法取中”，要求合理確定訂單數(shù)量、在線率等考核要素，適當(dāng)放寬配送時限；“推動平臺企業(yè)合法規(guī)范用工、科學(xué)調(diào)整算法、完善勞動定額標(biāo)準(zhǔn)”寫入中國工會十八大報(bào)告；有外賣平臺上線對外賣騎手約束相對寬松的試點(diǎn)，等等。

然而，要從根源上減少算法技術(shù)的負(fù)面影響，還需進(jìn)一步完善治理格局。這也正是近幾年全國兩會代表委員及業(yè)界人士達(dá)成的共識。比如，有代表委員建議完善當(dāng)前由網(wǎng)信、工信等部門參與的算法治理聯(lián)席會議制度；借助市場專業(yè)力量參與監(jiān)管流程，補(bǔ)齊監(jiān)管技術(shù)短板；探索用人工智能技術(shù)加強(qiáng)對算法的“技防”“技監(jiān)”，提高監(jiān)管效率；讓平臺企業(yè)把算法的邏輯過程解釋清楚，平衡技術(shù)和道德倫理、社會影響等因素；拓展維權(quán)路徑，創(chuàng)新責(zé)任認(rèn)定模式，增強(qiáng)用戶維權(quán)力量……

在互聯(lián)網(wǎng)時代，我們可以活在算法里，但不能活在算計(jì)中。算法作為一項(xiàng)服務(wù)于人、服務(wù)于社會的技術(shù)，算法治理最終要落實(shí)到保障用戶權(quán)利上。期待全國兩會代表委員及業(yè)內(nèi)人士積極探討，提出更多有價(jià)值的建議和探索方向。以更加專業(yè)、有效的治理舉措，引導(dǎo)算法“向善而生”，放大算法技術(shù)的正向價(jià)值，是我們的共同追求。