中國社科院段偉文：AI技術(shù)價值中立，但需通過努力實現(xiàn)

　　數(shù)字時代正在改變我們的日常生活和經(jīng)濟(jì)方式，人工智能、大數(shù)據(jù)分析、區(qū)塊鏈和云技術(shù)給我們的生活帶來了諸多便利，但同時，也帶來了新的脆弱性，大數(shù)據(jù)殺熟、不當(dāng)索取個人信息、游戲沉迷、算法歧視、平臺算法控制等等。數(shù)字時代的倫理問題始終存在，我們應(yīng)該怎么看待這些問題，又應(yīng)該如何解決？

　　近日，中國社科院哲學(xué)所科技哲學(xué)研究室主任、研究員，科學(xué)技術(shù)和社會研究中心主任段偉文在RealAI主辦的人工智能產(chǎn)業(yè)治理論壇上作了《走向社會信任與多方共建的人工智能倫理治理》報告，討論數(shù)字時代的科技倫理和社會信任的危機(jī)與重建。

　　段偉文認(rèn)為，數(shù)字時代帶來了很多便利，但其實際上又非常脆弱。當(dāng)數(shù)字技術(shù)作為新事物出現(xiàn)時，操作便捷、門檻低、效率提升，因其帶來很多便利而使數(shù)字世代愿意嘗試，人們對短視頻、各種新的支付方式等沒有信任赤字。但便捷的另一面是風(fēng)險沒有被充分認(rèn)識。最后造成傷害時，就會嚴(yán)重破壞整個社會對科技的信任。

　　科技活動應(yīng)該遵循哪些科技倫理原則？據(jù)科技部官網(wǎng)，7月28日，科學(xué)技術(shù)部科技監(jiān)督與誠信建設(shè)司研究起草了《關(guān)于加強(qiáng)科技倫理治理的指導(dǎo)意見（征求意見稿）》，明確科技倫理的原則為增進(jìn)人類福祉、尊重生命權(quán)利、堅持公平公正、合理控制風(fēng)險、保持公開透明。

　　段偉文提出，如果希望這些倫理原則不成為倫理洗白工具而是真正落地，很重要的是一種工作假設(shè)，即科技創(chuàng)新的過程也是倫理創(chuàng)新的過程，也是倫理從0到1的過程。0就是原則，1就是落地，即技術(shù)創(chuàng)新要和價值創(chuàng)新同步。

　　段偉文認(rèn)為，中國的數(shù)字產(chǎn)業(yè)的發(fā)展基本是奉行著鼓勵創(chuàng)新、包容審慎的立場，所以雖然前些年制定很多法律，但存在一個悖論——嚴(yán)格立法、普遍違法、選擇執(zhí)法。在近幾年，從短視頻防沉迷再到應(yīng)用軟件不當(dāng)?shù)乃魅€人的數(shù)據(jù)，都有專項的治理，還有金融科技的治理，包括中止上市，相關(guān)機(jī)構(gòu)或企業(yè)成立金融科技倫理委員會等，還比如跨境數(shù)據(jù)治理導(dǎo)致應(yīng)用軟件下架等等。

　　當(dāng)下是快速變動的時代，有很多的創(chuàng)新便利，同時也有巨大風(fēng)險，段偉文以沙漏做比喻，他提出，以前政府管理部門只是處在沙漏的上方，沒有感知到變化的迅速，但現(xiàn)在隨著社會輿論，國際政治，國內(nèi)外的格局等變化，政府會感到沙漏的巨大風(fēng)險。段偉文總結(jié)道，在這樣的情況下，政府的治理有兩個特點。

　　第一，先發(fā)制人，一旦察覺風(fēng)險，就將其扼殺在搖籃中。

　　第二，當(dāng)察覺一種技術(shù)的濫用造成社會整體治理架構(gòu)不能接受的風(fēng)險時，就會追溯既往，即以往犯的錯誤也是不可接受的。

　　在這樣的情況下，企業(yè)不僅僅需要根據(jù)合規(guī)不合規(guī)去思考問題，也需要思考對不對，去做出治理。段偉文認(rèn)為，整個社會都有一個對科技活動的許可，這種許可不一定是有形的，但是存在的。

　　2014年，由于一家化工廠不斷排出“臭雞蛋”味，河南省新鄉(xiāng)市獲嘉縣居民聚集抗議要求將化工廠遷離?；S、垃圾焚燒廠、核電站等的建設(shè)過程中出現(xiàn)的大量公眾事件阻止這些科技的發(fā)展，段偉文將其解讀為社會許可證，即公眾答應(yīng)與否。其提出，公眾當(dāng)下對人臉識別的寬容態(tài)度來自于還沒有感知到重要風(fēng)險，一旦出現(xiàn)重大惡性事件，公眾的許可就會消失。

　　“那么一個很重要的問題是，要直面社會許可的挑戰(zhàn)，不能只等到出現(xiàn)了惡性事件，再做治理，不能僅僅滿足于合規(guī)，”當(dāng)下面對這樣一種既先發(fā)制人也追溯既往的治理格局，段偉文認(rèn)為，企業(yè)應(yīng)該更多考慮怎樣重塑科技的社會印象，這是非常關(guān)鍵的。

　　在措施方面，段偉文提出，一個是技術(shù)上改進(jìn)，比如隱私計算等，另一個是倫理設(shè)計，比如游戲的防沉迷機(jī)制，在知曉用戶濫用技術(shù)時提醒其不要過度使用。更重要的是關(guān)懷倫理，即從用戶的角度去關(guān)心他，“說個不恰當(dāng)?shù)睦?，在有些賭場現(xiàn)在實行關(guān)懷倫理，當(dāng)你輸一百萬的時候他會告訴你你剩下了20萬，你別輸了，你今天手氣不好，坐下來喝喝茶等等。所以我們可以看到世界上的善和惡可能有各種各樣的標(biāo)準(zhǔn)，但唯一的一種智慧就是我們做什么事情都要有個度，這是最重要的，”段偉文說。

　　2021年1月5日，全國信息安全標(biāo)準(zhǔn)化技術(shù)委員會發(fā)布了《網(wǎng)絡(luò)安全標(biāo)準(zhǔn)實踐指南—人工智能倫理安全風(fēng)險防范指引》也明確了四大責(zé)任主體，研究開發(fā)著、設(shè)計制造者、部署應(yīng)用者、用戶。

　　“技術(shù)是價值中立的，但它是需要通過努力實現(xiàn)的，真正意義上的創(chuàng)新應(yīng)該面向用戶，面向社會價值，是整體性的創(chuàng)新，而不只是增加財富，加強(qiáng)資本?！倍蝹ノ暮粲?，“我們要超越技術(shù)解決主義，當(dāng)下有很多手段能解決倫理問題，但更重要的是超越這些技術(shù)手段，用更廣泛的社會關(guān)懷進(jìn)行補(bǔ)充?！倍蝹ノ倪M(jìn)一步闡釋，從疫情防控期間可以看到，很多技術(shù)手段的應(yīng)用需要人的關(guān)懷，比如手機(jī)的適老化，這些都是很有意義的。（記者：邵文）

　　轉(zhuǎn)自：澎湃新聞

　　【版權(quán)及免責(zé)聲明】凡本網(wǎng)所屬版權(quán)作品，轉(zhuǎn)載時須獲得授權(quán)并注明來源“中國產(chǎn)業(yè)經(jīng)濟(jì)信息網(wǎng)”，違者本網(wǎng)將保留追究其相關(guān)法律責(zé)任的權(quán)力。凡轉(zhuǎn)載文章及企業(yè)宣傳資訊，僅代表作者個人觀點，不代表本網(wǎng)觀點和立場。版權(quán)事宜請聯(lián)系：010-65363056。

延伸閱讀