聚焦AI治理｜爭(zhēng)鳴：人類能否掌控能力強(qiáng)大的通用人工智能

　　“通用人工智能可能無法被治理，因?yàn)閭鹘y(tǒng)的責(zé)任分配和懲罰執(zhí)行方法并不適用。”

　　近日，美國路易斯維爾大學(xué)教授羅曼·揚(yáng)波爾斯基（Roman Yampolskiy）就人工智能治理問題接受了澎湃新聞?dòng)浾邔ＴL。

　　他認(rèn)為，在某些重要方面，我們無法治理比人類更聰明的人工智能。“一個(gè)能力強(qiáng)大、富有創(chuàng)造力且不受控制的通用人工智能最終可能會(huì)隱式甚至明確地控制管理此類智能軟件的一些機(jī)構(gòu)和個(gè)人?！?/p>

　　羅曼·揚(yáng)波爾斯基是美國路易斯維爾大學(xué)網(wǎng)絡(luò)安全實(shí)驗(yàn)室的創(chuàng)始人和主任，著有《人工超級(jí)智能：未來的方法》等書籍。他的主要研究興趣有人工智能安全、模式識(shí)別、生物行為識(shí)別等。揚(yáng)波爾斯基曾受邀出席2020年首屆清華大學(xué)人工智能合作與治理國際論壇。

　　通往通用人工智能的嘗試

　　通用人工智能（ Artificial general intelligence，簡(jiǎn)稱AGI），有時(shí)也被稱作強(qiáng)人工智能，它所描述的機(jī)器智能可以理解或?qū)W習(xí)人類所能完成的任何智力任務(wù)。

　　多智能體系統(tǒng)教父、牛津大學(xué)計(jì)算機(jī)科學(xué)系主任MichaelWooldridge在接受澎湃新聞采訪時(shí)表示，如果我們能構(gòu)建具有人類全部能力和智力的程序，那我們就將實(shí)現(xiàn)通用人工智能。但當(dāng)前，“我們連通用人工智能的皮毛都還沒有碰到”。

　　關(guān)于人工通用智能能否實(shí)現(xiàn)、何時(shí)實(shí)現(xiàn)的問題，業(yè)內(nèi)有不同的觀點(diǎn)。部分人工智能學(xué)者認(rèn)為，人工通用智能的概念并不嚴(yán)肅，在實(shí)踐中基本不可能實(shí)現(xiàn)。另一些人則十分看好人工通用智能的發(fā)展，認(rèn)為它有可能塑造人類的發(fā)展軌跡。

　　例如，圖靈獎(jiǎng)得主拉吉·雷迪（Raj Reddy）認(rèn)為，研究通用用途的人工智能毫無用處?！坝肁I能開發(fā)出的東西是無窮無盡的，但研究人員應(yīng)專注研究如何用AI增強(qiáng)人的能力，而不只是增強(qiáng)AI的能力”。清華大學(xué)類腦計(jì)算中心主任施路平則表示，從未來發(fā)展的角度看，人工通用智能是一個(gè)必然的趨勢(shì)。

　　盡管學(xué)界對(duì)是否應(yīng)發(fā)展通用人工智能存在分歧，科研公司和高校已經(jīng)開始相關(guān)嘗試，通用人工智能的倫理問題也日漸顯現(xiàn)。

　　2019年7月，微軟宣布向非營(yíng)利性人工智能研究公司OpenAI投資10億美元研發(fā)人工通用智能。2019年8月，清華大學(xué)在學(xué)術(shù)期刊《自然》發(fā)表《面向人工通用智能的異構(gòu)天機(jī)芯片架構(gòu)》研究。2021年1月，谷歌和微軟相繼在一份權(quán)威自然語言理解榜單中表現(xiàn)超越人類，微軟宣稱這“標(biāo)志著邁向通用人工智能的重要里程碑。”

　　政府的監(jiān)管嘗試可能是徒勞

　　在采訪中，揚(yáng)波爾斯基介紹，為了使未來的人工智能造福于全人類，針對(duì)人工智能的治理計(jì)劃試圖通過建立監(jiān)管框架和行業(yè)標(biāo)準(zhǔn)等方式，使人工智能可以被各國政府、國際組織和跨國公司控制。

　　但他指出，直接治理人工智能是沒有意義的，“‘人工智能治理’這個(gè)術(shù)語暗示的是，通過規(guī)定允許開發(fā)什么樣產(chǎn)品和服務(wù)以及如何開發(fā)，來管理人工智能研究員和創(chuàng)造者”。

　　他認(rèn)為，無論對(duì)從事人工智能研究的科學(xué)家和工程師實(shí)施何種管理，都取決于創(chuàng)建人工通用智能（AGI）的難度。

　　“如果創(chuàng)造通用人工智能所必需的計(jì)算資源和數(shù)據(jù)收集工作，在資金和人力資本方面與美國的曼哈頓計(jì)劃（美國研制原子彈的計(jì)劃）相當(dāng)，那么各國政府就有許多‘胡蘿卜加大棒’，可以用來指導(dǎo)研究人員，并按照自己的規(guī)范塑造未來的人工智能?！?/p>

　　但另一種情況下，他分析道，如果有更有效的方法來創(chuàng)造第一個(gè)通用人工智能，那么政府的監(jiān)管嘗試可能是徒勞的?！袄纾粋€(gè)青少年在車庫里用一臺(tái)價(jià)值僅1000美元的筆記本電腦創(chuàng)造出第一個(gè)通用人工智能。雖然可能性很小，但這種情況也需要考慮?！?/p>

　　總而言之，“歷史上，很多對(duì)軟件治理的嘗試，例如垃圾郵件、計(jì)算機(jī)病毒和深度偽造技術(shù)（Deepfake）等，都只取得了非常有限的成功。而作為一個(gè)獨(dú)立代理，通用人工智能可能無法被治理，因?yàn)閭鹘y(tǒng)的責(zé)任分配和懲罰執(zhí)行方法并不適用?！?/p>

　　揚(yáng)波爾斯基認(rèn)為，即使遇到第一種情況，即創(chuàng)造通用人工智能需要密集的資源，我們?nèi)匀粚?duì)人工智能的可預(yù)測(cè)性、可解釋性和可控制性存在一些既定的技術(shù)限制?！爸辽傩枰@三種能力才能夠部分實(shí)現(xiàn)對(duì)人工智能的成功監(jiān)管，這也就意味著，在某些重要方面，我們無法治理比人類更聰明的人工智能。”

　　“最后，即使AI治理是可以實(shí)現(xiàn)的，那些負(fù)責(zé)人也可能不愿意為AI的失敗承擔(dān)個(gè)人責(zé)任。因此，一個(gè)能力強(qiáng)大、富有創(chuàng)造力且不受控制的通用人工智能最終可能會(huì)隱式甚至明確地控制管理此類智能軟件的一些機(jī)構(gòu)和個(gè)人?！保ㄓ浾?張唯）

　　轉(zhuǎn)自：澎湃新聞

　　【版權(quán)及免責(zé)聲明】凡本網(wǎng)所屬版權(quán)作品，轉(zhuǎn)載時(shí)須獲得授權(quán)并注明來源“中國產(chǎn)業(yè)經(jīng)濟(jì)信息網(wǎng)”，違者本網(wǎng)將保留追究其相關(guān)法律責(zé)任的權(quán)力。凡轉(zhuǎn)載文章及企業(yè)宣傳資訊，僅代表作者個(gè)人觀點(diǎn)，不代表本網(wǎng)觀點(diǎn)和立場(chǎng)。版權(quán)事宜請(qǐng)聯(lián)系：010-65363056。

延伸閱讀