日前，曠視AI治理研究院攜手《人民日報》旗下人民智庫發(fā)布了《2020年度全球十大人工智能治理事件》，“算法里的外賣騎手”“自動駕駛的責任歸屬”“AI技術(shù)在特定場景中應用受限”等熱門事件被列入榜單。
這已經(jīng)是曠視AI治理研究院連續(xù)第二年發(fā)布該年度榜單了。曠視希望通過盤點前一年具有爭議的AI倫理事件，能夠引發(fā)社會各界對人工智能治理領(lǐng)域關(guān)鍵問題、重點難點進行深入思考，并形成廣泛共識；同時對于這些事件進行深入研究，也有助于企業(yè)更精準地把握人工智能技術(shù)、產(chǎn)業(yè)、生態(tài)發(fā)展趨勢，幫助企業(yè)找準治理的方向。
近年來，曠視在AI治理以及AI向善領(lǐng)域?qū)矣谢钴S舉措。對于一家追求業(yè)績的擬上市公司而言，這些難以直接提振業(yè)績的舉措一度引發(fā)市場疑慮。但事實上，AI治理、AI向善等一系列舉措并非簡單出自這家人工智能企業(yè)的情懷和奇思妙想。
“這能夠為產(chǎn)品的成型規(guī)劃出一條更加正確、高效的路?！痹跁缫曃挥诒本┖５韰^(qū)的辦公大樓里，曠視首席發(fā)展官、AI治理研究院院長徐云程告訴《證券日報》記者，“與先將產(chǎn)品打磨成型，后期發(fā)現(xiàn)風險慌忙補救相比，在產(chǎn)品規(guī)劃早期即引入AI治理的理念，企業(yè)投入的成本要低得多”。
事前投入事半功倍
徐云程認為，大眾對于倫理道德認知有一個循序漸進的過程，“我們看到很多兩年前不是問題的現(xiàn)象，在今天都成了潛在的風險，或者成為一個合規(guī)成本?！彼?，企業(yè)應該在事前多下功夫，盡量把風險控制在早期。
“現(xiàn)在曠視在討論要不要做一個產(chǎn)品的時候，就會把AI倫理作為一個考量因素?！毙煸瞥谈嬖V記者，“我們正在計劃將打分機制引入到產(chǎn)品審批流程中，比如可以用紅黃綠來區(qū)分，紅色意味著這個產(chǎn)品需要重新審視重新規(guī)劃，黃色意味著產(chǎn)品需要調(diào)整，綠色則代表通過AI倫理考驗”。
這些規(guī)定將會影響曠視正在研發(fā)或計劃開發(fā)的新產(chǎn)品。徐云程舉例談道，在曠視去年舉辦的Hackathon科技大賽中，有一個團隊研發(fā)出了一款助老技術(shù)樣品?！斑@款技術(shù)樣品原有的規(guī)劃是通過圖像識別技術(shù)判斷獨居老人是否出現(xiàn)摔倒等問題，一旦識別出老人摔倒，這款產(chǎn)品能夠及時通知家屬或醫(yī)務人員。”徐云程告訴記者，但在后期討論中，研究人員發(fā)現(xiàn)使用圖像技術(shù)檢測老人動作存有侵犯隱私的風險，因此他們在設計中調(diào)整思路，變更為通過其他傳感方式，或模糊化的前端處理方法，去規(guī)避這些風險，從而為以后的技術(shù)商品化引導了正確的方向。
“無論是研發(fā)、生產(chǎn)還是品牌傳播，AI治理都能體現(xiàn)出短期的和長期的價值?！毙煸瞥瘫硎?，關(guān)于AI倫理的討論和AI治理的探索正在成為行業(yè)普遍認同的做法。在管理價值方面，AI治理是一個主動合規(guī)的過程，“我甚至覺得它不光應該是科技企業(yè)的標配，對于產(chǎn)品研發(fā)的前置性考量也應該是所有企業(yè)內(nèi)部創(chuàng)新、轉(zhuǎn)型的重要抓手。當我們把安全、倫理等問題作為技術(shù)發(fā)展的前置條件時，就會發(fā)現(xiàn)考量的維度變得更豐富，設計出的產(chǎn)品更符合社會發(fā)展的需求”。
可持續(xù)發(fā)展還需未雨綢繆
徐云程坦言，2018年加入曠視時，她也曾對于公司花費大量精力關(guān)注AI治理表示不解。彼時，曠視聯(lián)合創(chuàng)始人兼CEO印奇特意向她強調(diào)對于AI治理的重視，并直接推動了日后曠視人工智能道德委員會的成立。2019年，印奇作為國家新一代人工智能專業(yè)委員會委員，深入?yún)⑴c了《新一代人工智能治理原則》制定。
站在當下回頭看，徐云程仍然感慨印奇的前瞻性。
就在人工智能道德委員會成立的次年，人工智能所引發(fā)的道德風險正在越來越為市場所關(guān)注，以《2020年度全球十大人工智能治理事件》所提到的事件為代表，在國內(nèi)外引發(fā)熱議，人們開始真正反思人工智能與人文倫理間的關(guān)系。
“在2019年中后期，大家關(guān)注的焦點還是產(chǎn)品和技術(shù)本身，同時也越來越多地關(guān)注一項技術(shù)是不是可持續(xù)，關(guān)注應用場景和大數(shù)據(jù)算法在應用中的影響。但就在接下來短短的一年半的時間里，國內(nèi)的大眾和產(chǎn)學研各方對于AI治理的關(guān)注度就出現(xiàn)了直線上升?！毙煸瞥虒τ浾吒锌?。
在徐云程看來，AI技術(shù)的提出雖然已經(jīng)歷時多年，但AI的產(chǎn)業(yè)化發(fā)展仍然處于初期階段，AI治理也會隨之處于一個持續(xù)迭代的過程。在關(guān)于AI治理的討論中，企業(yè)會扮演著越來越重要的角色?！叭魏我粋€概念和方法論，最后要靠企業(yè)去實操和落地，所以希望有更多的科技企業(yè)把AI治理的重要性看清楚，把它提升到一個公司2021年重要的戰(zhàn)略規(guī)劃中，并在日常工作中加以體現(xiàn)。企業(yè)界應該和產(chǎn)業(yè)界、學術(shù)界、政府層、媒體界建立一個多方溝通、良性互動的平臺，形成‘多方治理、多元共治’，這對AI產(chǎn)業(yè)的可持續(xù)發(fā)展是非常有利的”。徐云程強調(diào)。
“科技創(chuàng)新有時候是需要‘讓子彈飛一會’，技術(shù)需要找到應用的土壤，但AI技術(shù)不能套用此前的‘先發(fā)展，后治理’的邏輯，而是要采用‘邊發(fā)展，邊治理’的新模式。”徐云程對記者強調(diào)，AI治理就是要嘗試對AI技術(shù)進行風險預判，“一家企業(yè)要把很多未雨綢繆的事情做在前面，才能對企業(yè)的健康發(fā)展帶來長久的回報，為企業(yè)的基業(yè)長青打下堅實的基礎”。（作者：李喬宇）
轉(zhuǎn)自：證券日報
【版權(quán)及免責聲明】凡本網(wǎng)所屬版權(quán)作品，轉(zhuǎn)載時須獲得授權(quán)并注明來源“中國產(chǎn)業(yè)經(jīng)濟信息網(wǎng)”，違者本網(wǎng)將保留追究其相關(guān)法律責任的權(quán)力。凡轉(zhuǎn)載文章及企業(yè)宣傳資訊，僅代表作者個人觀點，不代表本網(wǎng)觀點和立場。版權(quán)事宜請聯(lián)系：010-65363056。
延伸閱讀
濟南市工信局局長汲佩德：堅定不移實施工業(yè)強市發(fā)展戰(zhàn)略
