中科院院士張鈸：發(fā)展第三代AI技術(shù)，中美處在同一起跑線上

　　深度學(xué)習(xí)是人工智能領(lǐng)域里的一個(gè)研究方向，主要是學(xué)習(xí)樣本數(shù)據(jù)的內(nèi)在規(guī)律和表示層次，這些學(xué)習(xí)過程中獲得的信息，對(duì)諸如文字，圖像和聲音等數(shù)據(jù)的解釋有很大幫助。它的最終目標(biāo)是讓機(jī)器能夠像人一樣具有分析學(xué)習(xí)能力，能夠識(shí)別文字、圖像和聲音等數(shù)據(jù)。

　　但深度學(xué)習(xí)領(lǐng)域一直都存在算法黑箱問題，即算法的設(shè)計(jì)者并不清楚模型是如何得出結(jié)論和預(yù)測(cè)的，設(shè)計(jì)者無法對(duì)這個(gè)結(jié)果進(jìn)行解釋和負(fù)責(zé)。

　　深度學(xué)習(xí)的另一個(gè)問題是容易被數(shù)據(jù)“噪音”干擾。只要在對(duì)抗網(wǎng)絡(luò)里加入一些“噪音”，可能就會(huì)讓計(jì)算模型出錯(cuò)。典型的例子是，當(dāng)自動(dòng)駕駛算法的訓(xùn)練數(shù)據(jù)存在被惡意添加了“噪音”（編注：噪音指的是人類無法察覺卻能夠?qū)λ惴ㄟM(jìn)行干擾的數(shù)據(jù)）后，可能會(huì)將STOP標(biāo)志識(shí)別錯(cuò)誤，從而導(dǎo)致車禍。

　　算法黑箱、模型不安全易被干擾，這些目前人工智能領(lǐng)域里存在的問題，都向研究者提出了一個(gè)問題：未來，我們?cè)撓蛉绾伟l(fā)展人工智能技術(shù)，從而使AI可以迎來二次曲線增長(zhǎng)？

　　清華人工智能研究院院長(zhǎng)、中國(guó)科學(xué)院院士張鈸以及他帶領(lǐng)的學(xué)生們給出的答案是：第三代人工智能技術(shù)。

　　近日，在北京舉行的“2020第三代人工智能產(chǎn)業(yè)論壇暨瑞萊智慧RealAI戰(zhàn)略發(fā)布會(huì)”上，張鈸接受了澎湃新聞的采訪，他認(rèn)為要解決現(xiàn)在人工智能在落地應(yīng)用中遇到的問題，就需要打破現(xiàn)有的理論，邁向第三代人工智能。

　　在今年上海舉行的世界人工智能大會(huì)期間，張鈸對(duì)第三代人工智能做出過這樣的解釋：第一代知識(shí)驅(qū)動(dòng)的 AI 利用知識(shí)、算法和算力 3 個(gè)要素構(gòu)造 AI；第二代數(shù)據(jù)驅(qū)動(dòng)的AI 利用數(shù)據(jù)、算法與算力 3 個(gè)要素構(gòu)造 AI。由于第一、二代AI只是從一個(gè)側(cè)面模擬人類的智能行為，因此存在各自的局限性，不可能觸及人類真正的智能。

　　基于此，張鈸提出了出第三代人工智能的發(fā)展路徑是融合第一代的知識(shí)驅(qū)動(dòng)和第二代的數(shù)據(jù)驅(qū)動(dòng)的人工智能， 利用知識(shí)、數(shù)據(jù)、算法和算力 4 個(gè)要素， 建立新的可解釋和魯棒（音譯自“robust”，學(xué)術(shù)上即一個(gè)系統(tǒng)或組織有抵御或克服不利條件的能力）的AI理論與方法，發(fā)展安全、可信、可靠和可擴(kuò)展的AI技術(shù)。

　　發(fā)展第三代AI技術(shù)中美處在同一起跑線

　　在張鈸看來，基于第三代人工智能理論發(fā)展的AI技術(shù)，會(huì)讓中國(guó)和美國(guó)處在同一起跑線上，甚至隨著發(fā)展會(huì)處在領(lǐng)先位置。

　　早在2015年，張鈸院士就曾提出發(fā)展“第三代人工智能”的理念。2018 年，清華大學(xué)設(shè)立人工智能研究院，張鈸擔(dān)任新研究院的院長(zhǎng)，聘請(qǐng)圖靈獎(jiǎng)得主姚期智院士作為學(xué)術(shù)委員會(huì)主任。2019年，清華大學(xué)宣布成立人工智能研究院基礎(chǔ)理論研究中心，聘任清華大學(xué)計(jì)算機(jī)系長(zhǎng)聘教授朱軍為研究中心主任。

　　新設(shè)立的基礎(chǔ)理論研究中心的任務(wù)是著眼于當(dāng)前人工智能理論和方法的不足，以克服當(dāng)前人工智能的技術(shù)局限為宗旨，以期建立魯棒（robust，指系統(tǒng)健壯、強(qiáng)壯；魯棒性是系統(tǒng)在異常情況下生存的關(guān)鍵）、可理解、數(shù)據(jù)高效和安全的第三代人工智能基礎(chǔ)理論和方法體系。

　　除了在基礎(chǔ)理論研究上，推進(jìn)第三代人工智能發(fā)展外，在2018年，由張鈸、朱軍（擔(dān)任首席科學(xué)家的瑞萊智慧（RealAI）作為產(chǎn)學(xué)研技術(shù)公司從清華大學(xué)人工智能研究院孵化成立。根據(jù)瑞萊智慧的官方介紹，公司就是以第三代人工智能技術(shù)為依托，克服一般深度學(xué)習(xí)存在的諸多缺點(diǎn)，從根本上增強(qiáng)人工智能的可靠性、可信性以及安全性。

　　相比之下，美國(guó)第三代人工智能技術(shù)的發(fā)展主要依賴于DARPA部門（美國(guó)國(guó)防高級(jí)研究計(jì)劃局）。2018年，由DARPA宣布啟動(dòng)AI Next項(xiàng)目。

　　項(xiàng)目發(fā)布時(shí)，DARPA在其網(wǎng)站上介紹，從上世紀(jì)90年代開始，DARPA幫助引領(lǐng)了AI機(jī)器學(xué)習(xí)技術(shù)的第二次浪潮，該技術(shù)從大量數(shù)據(jù)中創(chuàng)建了統(tǒng)計(jì)模式識(shí)別器。DARPA對(duì)自然語言理解、問題解決、導(dǎo)航和感知技術(shù)的資助，發(fā)明了自動(dòng)駕駛汽車、個(gè)人助理和近乎自然的假肢，還有大量重要的、有價(jià)值的軍事和商業(yè)應(yīng)用。然而，第二代人工智能技術(shù)依賴于大量高質(zhì)量的訓(xùn)練數(shù)據(jù)，不能適應(yīng)不斷變化的條件，提供有限的性能保證，無法向用戶解釋其結(jié)果。未來第三代AI技術(shù)可能會(huì)極大地改變軍事任務(wù)規(guī)劃，科學(xué)家可利用機(jī)器開展研究，人類可與機(jī)器互動(dòng)。

　　DARPA還給出了AI Next項(xiàng)目的重點(diǎn)，即發(fā)展新能力、高可靠性AI、對(duì)抗性AI、高性能AI、下一代AI以及人工智能探索計(jì)劃。

　　這幾點(diǎn)與張鈸提出的發(fā)展安全、可信、可靠和可擴(kuò)展AI技術(shù)不謀而合。

　　“所以我們?yōu)槭裁磸?qiáng)調(diào)第三代人工智能有一個(gè)非常重要的因素就是，這個(gè)是我們國(guó)家歷史上第一次遇到跟別人站在同一起跑線上，發(fā)展第三代人工智能，國(guó)外跟我們一樣?！睆堚摳嬖V澎湃新聞。

　　國(guó)內(nèi)AI企業(yè)同質(zhì)化

　　胡潤(rùn)發(fā)布的2019年全球人工智能行業(yè)獨(dú)角獸企業(yè)排行榜中，前40名企業(yè)中，中國(guó)占了15家，美國(guó)占了20家企業(yè)。

　　在采訪中，張鈸認(rèn)為這份榜單也說明了現(xiàn)在人工智能技術(shù)在落地過程中遇到的問題。從數(shù)量上看，中美兩國(guó)之間的AI獨(dú)角獸企業(yè)差距不大。但是如果仔細(xì)研究榜單上的公司，會(huì)發(fā)現(xiàn)，中國(guó)AI企業(yè)的同質(zhì)化明顯。

　　“這是不好的。你用同樣的技術(shù)，去做同樣的應(yīng)用場(chǎng)景，那就說明這個(gè)技術(shù)大家都會(huì)有，大家都會(huì)的技術(shù)用到大家都能想到的市場(chǎng)，肯定競(jìng)爭(zhēng)非常激烈?！睆堚撜f。

　　另外，由于第二代人工智能技術(shù)限制，目前國(guó)內(nèi)的AI技術(shù)應(yīng)用場(chǎng)景有限，同時(shí)還可能會(huì)有安全問題。

　　不安全體現(xiàn)在兩個(gè)方面，一是數(shù)據(jù)，二是算法?！耙粋€(gè)隱私保護(hù)，一個(gè)知識(shí)產(chǎn)權(quán)，用戶的人臉數(shù)據(jù)憑什么給一家公司用，怎么用，數(shù)據(jù)都被公司收走，是否會(huì)造成不公平競(jìng)爭(zhēng)，這些都是需要思考和治理的?！睆堚撜f。

　　再者，由于測(cè)試環(huán)境的脆弱性，很多算法在真實(shí)環(huán)境中，都極易被攻擊。在自動(dòng)駕駛領(lǐng)域里，系統(tǒng)就很容易被攻擊和欺騙。

　　這樣的現(xiàn)狀，也就為第三代人工智能技術(shù)提供了發(fā)展前景。張鈸認(rèn)為，未來，一個(gè)算法可以被解釋，人們能了解機(jī)器做出預(yù)測(cè)的原因，且設(shè)計(jì)者有手段能阻止他人的攻擊。只有那樣，人工智能技術(shù)才會(huì)迎來更好的產(chǎn)業(yè)發(fā)展。

　　目前，由清華孵化的瑞萊智慧就在朝這樣的方向探索。經(jīng)過兩年的發(fā)展，瑞萊智慧近期對(duì)外交出了成績(jī)單，發(fā)布了兩款最新AI產(chǎn)品：隱私保護(hù)機(jī)器學(xué)習(xí)平臺(tái)RealSecure和人工智能安全平臺(tái)RealSafe2.0 版本，前者是基于安全多方計(jì)算、聯(lián)邦學(xué)習(xí)、匿蹤查詢等技術(shù)打造的數(shù)據(jù)安全共享基礎(chǔ)設(shè)施，通過打通數(shù)據(jù)孤島，解決企業(yè)機(jī)構(gòu)數(shù)據(jù)合作過程中的數(shù)據(jù)安全風(fēng)險(xiǎn)和隱私泄露問題，后者是一套針對(duì)AI系統(tǒng)的防火墻與殺毒軟件，支持檢測(cè)對(duì)抗樣本攻擊、模型后門攻擊等新型安全漏洞，提供模型安全測(cè)評(píng)及防御的端到端解決方案，大幅提升AI系統(tǒng)的安全性。

　　最后，張鈸在采訪中也提到了人才的培養(yǎng)，他認(rèn)為人工智能產(chǎn)業(yè)要進(jìn)一步發(fā)展，必須是發(fā)展具有創(chuàng)新能力的AI人才。 “國(guó)內(nèi)人才的平均水平，比如清華，不管是本科、研究生平均水平都很高，但最高水平跟人家差的太遠(yuǎn)了。我們的人才培養(yǎng)中，沒出過愛因斯坦，也沒出過圖靈。這是我們未來需要思考的?！睆堚撜f。(記者 王心馨)

　　轉(zhuǎn)自：澎湃新聞

　　【版權(quán)及免責(zé)聲明】凡本網(wǎng)所屬版權(quán)作品，轉(zhuǎn)載時(shí)須獲得授權(quán)并注明來源“中國(guó)產(chǎn)業(yè)經(jīng)濟(jì)信息網(wǎng)”，違者本網(wǎng)將保留追究其相關(guān)法律責(zé)任的權(quán)力。凡轉(zhuǎn)載文章及企業(yè)宣傳資訊，僅代表作者個(gè)人觀點(diǎn)，不代表本網(wǎng)觀點(diǎn)和立場(chǎng)。版權(quán)事宜請(qǐng)聯(lián)系：010-65363056。

延伸閱讀