文 ｜ 佘宗明

2021年7月，還沒被馬斯克強(qiáng)娶的推特，做了一個(gè)不算艱難的決定——推出算法偏見賞金。大意就是：求求你，找我茬。

這記懸賞找茬的操作，被視作開啟了算法倫理治理的眾包模式。

推特為什么這么想不開？

因?yàn)樗惴ㄓ胁蛔恪?/p>

糾治算法偏見，是為了優(yōu)化算法。此舉傳遞出的價(jià)值取向，是算法須向善。

用主流話語說就是——

算法，只能“屬于人民”。

揆諸現(xiàn)實(shí)，算法得向善，已成了社會(huì)各方在算法命題上的共識(shí)。

對(duì)應(yīng)的要求是，算法不只要有精度和準(zhǔn)度，還要有溫度。

01

算法＝魔法，這是時(shí)下挺流行的看法。

由此而來的，就是算法經(jīng)常成為獵巫對(duì)象：很多人會(huì)掄起道德皮鞭，抽向算法之軀。

比如，批算法制造信息繭房；比如，批算法編織賽博囚籠；比如，批算法帶來大數(shù)據(jù)“殺熟”……

算法壓榨外賣員，自然也在批判射程。

以至于平臺(tái)經(jīng)濟(jì)和數(shù)字勞動(dòng)研究者孫萍感慨：

外賣騎手研究，困在批判性理論里。

這針對(duì)的，就是那句蔚為風(fēng)行的“外賣騎手，困在系統(tǒng)里”——這9個(gè)字，鋪設(shè)了很多人的算法認(rèn)知底座。

外賣員困在系統(tǒng)里，說得有錯(cuò)嗎？

并沒有。問題是，系統(tǒng)也困在誤解里。

政治經(jīng)濟(jì)學(xué)視野下的“系統(tǒng)”，說白了就是泰羅制的翻版，是摩登時(shí)代流水線的復(fù)刻。所以，聽到外賣員被困在了系統(tǒng)里，不少人立馬聯(lián)想到資本壓榨，再想到掛路燈。

可正如孫萍老師認(rèn)為的，現(xiàn)在對(duì)數(shù)字勞動(dòng)的研究，無論研究的是抖音、快手的直播者，還是B站的Up主、“愛優(yōu)騰”的內(nèi)容生產(chǎn)者，抑或是網(wǎng)約車、外賣、快遞的平臺(tái)勞動(dòng)者，結(jié)論不外乎資本壓榨勞動(dòng)者、勞動(dòng)者非常不穩(wěn)定、階層化不平等等單一化論點(diǎn)，這是“理論化路徑遇到了困難”。

在她看來，數(shù)字勞動(dòng)研究該引入跨學(xué)科視角，而非陷入控制－自主、壓制－反抗這樣的二元話語。

就外賣系統(tǒng)來說，訴諸道德化評(píng)判容易，理解市場(chǎng)化邏輯挺難。

究其主要原因，其實(shí)就在于，平臺(tái)也困在另一個(gè)系統(tǒng)里——對(duì)外賣平臺(tái)來說，它們要連接的其實(shí)是三方：訂餐用戶，餐飲商家，送餐外賣員。這三者的利益訴求疊合，會(huì)合成“不可能三角”困境：商家希望能多跑單、用戶希望盡快取餐、騎手希望有充裕時(shí)間送餐。

網(wǎng)民可以“既要又要還要”：既要商家少交傭金、撐過疫情，又要自己少掏配送費(fèi)、餐早點(diǎn)送到，還要騎手“想慢就慢”。平臺(tái)卻沒法全都照顧到，通常是傾向于保障商家與用戶利益，犧牲相對(duì)弱勢(shì)的騎手體驗(yàn)。

不能說平臺(tái)這樣就合情合理，但應(yīng)看到平臺(tái)抉擇背后的現(xiàn)實(shí)考量。

系統(tǒng)不是不可以批，但批之前不妨先看懂其生成和運(yùn)作邏輯。

02

這倒不是說，這套由算法織密的系統(tǒng)就沒毛病。

好多人認(rèn)為，是算法逼得外賣騎手不得不快。

這不是算法要坑騎手，而是算法天然有缺陷。

算法首要追求的是效率，旨在從效率／成本維度尋求最優(yōu)解，但人們要求的是公平正義、善待弱者。

比起“公平正義”這類復(fù)雜倫理概念，“效率”也更容易轉(zhuǎn)化為計(jì)算機(jī)編碼語言。

因此，孫萍老師就指出，算法遵循的是直男邏輯，畢竟“技術(shù)本身是帶有強(qiáng)烈男性氣質(zhì)的”，現(xiàn)在的算法技術(shù)其實(shí)沒有把社會(huì)結(jié)構(gòu)、人際關(guān)系、權(quán)力關(guān)系等等納入到思考中去。

循此觀點(diǎn)，算法底色中理應(yīng)嵌入更多柔性化色澤，更顯人性化、更有人情味。

那該怎么解？算法取中，就是政策層面給出的解題思路。

2021年7月，七部委聯(lián)合印發(fā)文件，首次提出不得將“最嚴(yán)算法”作為考核要求，通過“算法取中”等方式，合理確定訂單數(shù)量、準(zhǔn)時(shí)率、在線率等考核要素，適當(dāng)放寬配送時(shí)限。

在此之后，兩大外賣平臺(tái)都采取措施響應(yīng)了“算法取中”要求。

美團(tuán)在今年5月份前曾進(jìn)行三次算法優(yōu)化：

去年9月，公布了“預(yù)估到達(dá)時(shí)間”算法規(guī)則（兼顧“模型預(yù)估時(shí)間”和“三層保護(hù)時(shí)間”），明確在異常場(chǎng)景下為騎手提供時(shí)間補(bǔ)充，在部分情況下將預(yù)估到達(dá)時(shí)間中的“時(shí)間”變?yōu)椤皶r(shí)間段”；

去年11月，啟動(dòng)了“出餐后調(diào)度”試點(diǎn)、推出了“主動(dòng)改派”功能；

今年3月初，試點(diǎn)新的“服務(wù)星級(jí)”激勵(lì)機(jī)制，變超時(shí)罰款為扣分、明確可加分彌補(bǔ)，給予騎手更多差評(píng)豁免與免扣分機(jī)會(huì)，也完善了差評(píng)申訴流程。

餓了么也明確，禁止以最嚴(yán)算法、最低時(shí)限為導(dǎo)向，不采用最短配送時(shí)效，針對(duì)復(fù)雜配送場(chǎng)景自動(dòng)匹配靈活配送時(shí)長(zhǎng)。

清華大學(xué)公共管理學(xué)院教授梁正認(rèn)為，面對(duì)算法缺陷及其產(chǎn)生的問題，應(yīng)將算法嵌入到整個(gè)社會(huì)體系中評(píng)估，分析算法運(yùn)行所牽涉的各個(gè)環(huán)節(jié)，以體系化的思維為算法向善提供解決方案。

而算法取中，就是頗具針對(duì)性的問題解決方案。

在外賣行業(yè)陷入比速度的“逐底競(jìng)爭(zhēng)”，騎手不得不超負(fù)荷運(yùn)轉(zhuǎn)的背景下，用人性化要求補(bǔ)足算法缺陷，確實(shí)很有必要。

03

羅爾斯的正義理論主張，沒有人應(yīng)當(dāng)為他所不能掌控的原因所造成的后果而擔(dān)負(fù)責(zé)任。由此延伸，規(guī)則設(shè)計(jì)不能不考慮那些偶然性因素。

之前許多人批評(píng)，外賣系統(tǒng)算法總是計(jì)算趨于理想狀態(tài)的最快時(shí)間，卻忽略了電梯擁擠、雨天堵車、電動(dòng)車故障或騎手突發(fā)疾病等偶然性因素。言下之意，算法要考慮到異常場(chǎng)景問題。

現(xiàn)在看，平臺(tái)修補(bǔ)算法缺陷、改善算法機(jī)制時(shí)，也將偶然性因素納入了考量之中。

比如，疫情之下，很多小區(qū)只開一個(gè)門，部分訂單配送難免要多繞路，許多外賣騎手會(huì)擔(dān)心隨之而來的超時(shí)問題。但現(xiàn)在美團(tuán)騎手們可免除后顧之憂了——因?yàn)槠脚_(tái)最新采取的異常場(chǎng)景下可“單次補(bǔ)時(shí)＋系統(tǒng)修正”的措施，會(huì)讓配送時(shí)限變得更合理。

又如，不少騎手都曾遭遇電動(dòng)車在半路上沒電或跌倒摔傷，暫時(shí)沒法配送卻又不送不行的棘手難題。而按照美團(tuán)外賣5月10日宣布的舉措，他們完全可通過改派、轉(zhuǎn)單、自行設(shè)置“同時(shí)接單量”等方式，管理自己的接單節(jié)奏。

就算只是累了倦了，騎手們也可以想歇就歇：在接單前，他們可自行設(shè)置接單上限；在接單中，他們可自主決定是否接這單。

諸如此類的算法優(yōu)化舉措，顯然賦予了外賣騎手更大的自主權(quán)，或者說是把自主權(quán)還給騎手。

如果說，以往完全被系統(tǒng)裹挾的騎手，是陷入了社會(huì)學(xué)家烏爾里�！へ惪怂�說的風(fēng)險(xiǎn)社會(huì)里的“體制化個(gè)人主義”——他們看似越來越自由了，可仍會(huì)被各種關(guān)系和邊界拴住，那給他們接還是不接的自主選擇權(quán)，無異于繼續(xù)松綁。他們有更多的喘息空間了。

這本質(zhì)上是用另一種“算法”去解算法之弊。它讓人的權(quán)利歸于人，彰顯的是人文關(guān)懷和人本情懷。

此處的算法，已超越了數(shù)學(xué)或計(jì)算機(jī)學(xué)的范疇，無關(guān)公式和代碼，而是泛指的問題解決策略，正如有些人說的，“生活中你的一舉一動(dòng)一呼一吸都是算法。”在此意義上，監(jiān)管是一種算法，平臺(tái)決策也是一種算法。

以人為“算法”的立足點(diǎn)，無疑有助于讓騎手們能更自主地跳出所謂的系統(tǒng)。

復(fù)旦大學(xué)管理學(xué)教授蘇勇在談到靈活用工時(shí)說，無論是企業(yè)的管理方、從業(yè)者，還是社會(huì)各界，都應(yīng)該思考一個(gè)問題：如何在算法之外，找到以人為本的管理辦法，讓人的智慧和關(guān)懷在相關(guān)問題或挑戰(zhàn)的應(yīng)對(duì)過程中，發(fā)揮更大的作用。

嵌入了人本位邏輯的“算法”，就給出了答案。

04

算法之弊“算法”解。

外賣平臺(tái)的“算法”優(yōu)化，對(duì)算法的價(jià)值觀校準(zhǔn)不乏參照意義。

就在前幾天，英國DRCF（官方性數(shù)字監(jiān)管合作論壇）發(fā)布《算法的利弊》專題報(bào)告，其中提到兩點(diǎn)：

算法為個(gè)人和社會(huì)提供了許多好處，并且這些好處可以隨著持續(xù)創(chuàng)新而增加。

傷害可能會(huì)有意或無意地發(fā)生。

因?yàn)樗惴ㄓ腥毕菥头穸ㄋ惴ó?dāng)然不妥。

因?yàn)樗惴ㄓ袃r(jià)值就認(rèn)為有問題也不要緊，同樣不合適。

科學(xué)家凱西·奧尼爾廣為流傳的“算法霸權(quán)”理論就認(rèn)為，就將那些依托大數(shù)據(jù)卻會(huì)引發(fā)偏見強(qiáng)化和持續(xù)大范圍傷害的算法模型，稱之為“數(shù)學(xué)殺傷性武器”。

雖然“算法霸權(quán)”的說法引發(fā)了許多爭(zhēng)議，但算法確實(shí)帶來了某些問題。

比如，會(huì)用于控制、會(huì)誘導(dǎo)沉迷、會(huì)助長(zhǎng)大數(shù)據(jù)殺熟、會(huì)制造信息回音室等。

無論是國外某科技巨頭用“AI監(jiān)工”精確計(jì)算工人摸魚時(shí)間（Time Off Task）、根據(jù)實(shí)時(shí)數(shù)據(jù)生成在線解雇指令，還是國內(nèi)某企業(yè)監(jiān)測(cè)通報(bào)員工摸魚，都反映了算法被濫用的弊害。

要解決這些問題，就得將算法導(dǎo)入向善的軌道上。

換句話說，算法姓“算”，更要姓“善”。

遵循價(jià)值對(duì)齊的科技倫理，讓算法更有溫度，是應(yīng)有之義。

05

讓算法更有溫度的外延是：算法的背后是人，人應(yīng)該是丈量算法的尺度。

2016年11月，美國麻省理工學(xué)院研究員喬伊·布蘭維尼就曾針對(duì)算法之弊，創(chuàng)辦了“算法正義聯(lián)盟（Algorithmic Justice League）”，來對(duì)抗算法偏見。

喬伊斷定，要?jiǎng)?chuàng)造更具有包容性的代碼，并且運(yùn)用有包容性的編程實(shí)踐，就要從人開始。

而“算法霸權(quán)”提出者凱西·奧尼爾，也就算法向善提出了兩點(diǎn)建議：

必須承認(rèn)算法不是全能的，必須明確地將正向的價(jià)值觀嵌入算法代碼中，創(chuàng)造符合道德準(zhǔn)則的大數(shù)據(jù)模型，即使是犧牲利潤。

進(jìn)行算法審查。在某個(gè)算法模型投入使用之前就進(jìn)行訓(xùn)練，借助反饋通路發(fā)現(xiàn)偏見，進(jìn)行糾偏處理，以達(dá)到正向的效果。

它著眼的，就是用打補(bǔ)丁式“算法”，去彌補(bǔ)算法缺陷、引導(dǎo)算法向善。

而外賣平臺(tái)把接單權(quán)利交給個(gè)人，就是打補(bǔ)丁消除Bug。

今年3月1日正式實(shí)施的首部聚焦算法治理的法規(guī)——《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，更是有的放矢。

確保用戶有可以關(guān)閉算法的選項(xiàng)，就跟確保外賣騎手可以想不接單就不接單如出一轍。

而對(duì)算法黑箱、輿論操控、大數(shù)據(jù)殺熟“亮紅牌”，也傳遞了明晰的信號(hào)：算法屬于“人民”。

06

算法不是無情物。算法的“法”，也是章法的“法”。而算法的N多個(gè)章法里，最重要的，還是要把人當(dāng)做算法的尺度。

算法必須“利人”而不能“損人”。

算法有弊端，那就用更高階的“算法”來消解——這套“算法”的核心就是以人為本。

算法編織的系統(tǒng)，動(dòng)輒把人當(dāng)成工具。

而以人為本的“算法”，則重申了那個(gè)常識(shí)：人是目的，要把人當(dāng)人。

       原文標(biāo)題 : 人，是算法的尺度