誰來幫外賣騎手審查算法倫理

　　科學技術是一個悲喜交集的福音。最近有兩篇刷屏文章，都在講述這個主題。

　　《外賣騎手，困在系統(tǒng)里》，在外賣平臺系統(tǒng)的算法與數據驅動下，外賣騎手成了高危職業(yè)。騎手的配送時間不斷被壓縮，而騎手為避免差評和增加收入，不得不選擇逆行、闖紅燈等做法?！八屯赓u就是與死神賽跑，和交警較勁，和紅燈做朋友” 。

　　《對不起，2.5億老人，正在被拋棄……》，老人過安檢時被拒絕，原因是沒有健康碼，而且老人不知健康碼為何物。近2億老人沒接觸過網絡或者沒有智能手機，意味著他們與基于網絡的智能服務絕緣。

　　困在算法黑箱和算法偏見里面的，難道只是騎手和老人嗎？當然不是，我們每個人都生活在算法的時代。我們點外賣、買電影票、訂賓館、打網約車，這些行為的背后都是一個個算法。我們是否能夠獲得商業(yè)貸款，我們需要為商業(yè)保險付多少錢，這些也都為各種數學模型所操控。

　　從理論上來說，算法模型可以更加公平，因為機器不會撒謊，每個人都適用同等規(guī)則，沒有偏袒。但是，事實恰恰相反，這些算法隱晦不明，編寫者把商業(yè)利潤、偏見誤解都編入了軟件。美國學者凱西·奧尼爾給這些有害數學模型取了一個名字：“數學殺傷性武器”（Weapons of Math Destruction，簡稱WMD）。WMD的三大特征是：不透明、規(guī)?；?、毀滅性。

　　從2016年到2018年，美團外賣3公里送餐的最長時限從1小時縮至45分鐘，再到38分鐘。到了2019年，中國外賣訂單單均配送時長比3年前又減少了10分鐘。在龐大的數據面前，城市擺渡人——快遞員幻化為提供輸入的變量角色，任何試圖保護自己的舉動，在無死角的數據監(jiān)控和效率至上的算法面前，都是那么的無力和蒼白。

　　這個時代跑得太快了。以大數據、人工智能、云計算為代表的新一代信息技術，已經融入社會的方方面面。無論打開哪個App，都要獲取你的位置、通訊錄和相冊；無論坐高鐵還是住酒店，都要刷臉讀取你的個人信息；無論去哪兒，都要先亮亮你的健康碼。新技術在為社會經濟文化發(fā)展帶來新的動力和能力的同時，也帶來了科技異化、風險泛在和人的主體性迷失等問題。

　　美國學者勞倫斯·萊斯哥提出“代碼即法律”（Codeislaw）的論述，“大數據殺熟”“算法歧視”、“數據霸權”和“機器人霸主”的問題愈來愈近，隱秘的算法成為壓榨社會邊緣群體的工具，復雜的模型變成擴大數字鴻溝的推手。

　　如果一個來自山區(qū)的窮學生被助學金貸款模型認定為高風險而無法貸款，接踵而來的是他會被剝奪能幫助他脫貧的接受優(yōu)質教育的機會，找尋體面工作的機會等一系列惡性多米諾循環(huán)，最終他會淪為數字難民。如果人們的文明程度、道德水平都可以被一個個算法模型操作和衡量，那么被誤解、被誤算的那類人將永遠沒有機會去糾正，就會發(fā)生類似2015年，谷歌的圖片識別軟件將照片中的三位年輕美國黑人標記為黑猩猩而引發(fā)的爭論。

　　面對不斷被采集和計算的數據，個人如何保護自己的尊嚴、私隱、自由，不至于淪落算法的奴隸？

　　面對強大的數據科技、普通個體如何確信自己的權益可以被尊重和保護？

　　面對萬物互聯(lián)、無時無處不在的數字時代，政府監(jiān)管部門如何面對數據倫理問題？我們是否應像設立醫(yī)學倫理委員會一樣，建立一個數據倫理委員會？

　　在傳統(tǒng)市場經濟時代，政府部門為保護消費者合法權益和創(chuàng)造公平和諧的消費環(huán)境，會在市場內安放公平秤，為前來購物的消費者免費提供稱重服務。老百姓買菜要是覺得不放心，就可以拿到公平秤上去稱，是否缺斤少兩，一目了然。

　　而進入數字經濟時代之后，大部分的商業(yè)行為從線下轉為線上，從原子世界轉向比特世界。越來越多的人在“淘票票”等票務App上購買電影票，而非去電影院售票大廳；而不同的手機型號，不同的用戶標簽，一張電影票的價格差異可以達到20%以上。某航班的飛機票，若被同一用戶在一定時間內頻繁搜索，很有可能就會漲價；而當你換一臺手機，換一個用戶賬號登錄，價格又會下跌。這樣的案例還發(fā)生在電商購物、網約車、在線訂賓館等各種場景。

　　這些差別化定價算法模型，是否也需要一臺新型的數字公平秤來衡量檢驗，這對政府是極大的挑戰(zhàn)。

　　首先，政府監(jiān)管部門還沒有意識到設立“算法審查局”的重要性。

　　技術是中立的，但算法不是。算法固然有商業(yè)保密的要求，但還是要有相應的法規(guī)和機制確保能夠在公眾質疑時，開展審查和監(jiān)管，通過算法透明化和可追溯化，來減少風險和傷害。在困在系統(tǒng)中的外賣騎手這個案例中，就需要一個機構來要求美團、餓了么等公司解釋算法、開展算法審計、推進算法問責；約束他們將更好的道德模型嵌入到算法代碼中去，創(chuàng)造符合我們核心價值觀的大數據模型。這些要求可以是在重視道德上的基礎上犧牲部分商業(yè)利潤；在重視公平的基礎上犧牲少許效率。

　　其次，在算法霸權面前，政府并不處于隨時掌握最前沿的技術和解決方案的優(yōu)先地位，即政府沒有能力和人力來設立類似的機構。

　　這就要求政府部門尋求外部專家的支援，組織跨學科（包括但不限于計算科學、數據科學、法學、社會學等）的數據專家委員會或數據倫理委員會，對一些已經出現(xiàn)數學殺傷性武器的領域進行定期考察和長期跟蹤，通過設置標準來規(guī)范科技企業(yè)的行為和科技產品的特性。

　　同時，通過發(fā)布標準、進行宣傳，讓民眾了解科技產品的優(yōu)勢和危險。一個很好的范例是：2019年10月9日，文化和旅游部公示了《在線旅游經營服務管理暫行規(guī)定（征求意見稿）》。針對最受關注的“大數據殺熟”問題，明確規(guī)定在線旅游經營者不得利用大數據等技術手段，針對不同消費特征的旅游者，對同一產品或服務在相同條件下設置差異化的價格。

　　第三，數據科學家也應該像醫(yī)生一樣，遵守希波克拉底誓言，盡可能防止或避免對算法模型的誤用和誤解。

　　同時，商業(yè)巨子們要停止科技烏托邦幻想，即無根據地寄希望于用算法和人工智能解決一切問題。數學模型應該是我們的工具，而非成為我們的主人。

　　我希望，困死在系統(tǒng)中的快遞員，將喚醒和迫使政府、社會、民眾正面問題，尋求改變，去監(jiān)管和馴服“數學殺傷性武器”，為數字時代注入公平和問責。當我們的下一代人回憶起這篇文章時，會把它當作這場新數字文明的早期文物，如同大工業(yè)時代的致命煤礦。（作者 胡逸）

　　轉自：澎湃新聞

　　【版權及免責聲明】凡本網所屬版權作品，轉載時須獲得授權并注明來源“中國產業(yè)經濟信息網”，違者本網將保留追究其相關法律責任的權力。凡轉載文章及企業(yè)宣傳資訊，僅代表作者個人觀點，不代表本網觀點和立場。版權事宜請聯(lián)系：010-65363056。

延伸閱讀