下一代人工智能長(zhǎng)什么樣？可感知和理解行為、解釋決策

　　下一代人工智能是什么樣的？

　　5月21日，英國(guó)初創(chuàng)公司Cognino AI聯(lián)合創(chuàng)始人兼首席執(zhí)行官普里蒂·帕迪（Priti Padhy）在第五屆世界智能大會(huì)科技向善與人工智能教育論壇上通過(guò)視頻表示，在下一波人工智能浪潮中，AI必須具有感知和理解行為的能力，利用人類理解語(yǔ)言的能力，將語(yǔ)言轉(zhuǎn)化為知識(shí)，將數(shù)據(jù)轉(zhuǎn)化成智能，并做出決策。人工智能還要具備可解釋性，通過(guò)模型可以解釋為什么人工智能會(huì)做出這種決策，就像人類可以解釋為什么會(huì)做出某種決定，可以解釋為什么會(huì)認(rèn)為圖上的動(dòng)物是狗而不是狐貍。

　　Cognino AI總部位于英國(guó)倫敦，在美國(guó)、巴西和印度設(shè)有辦事處，專注于自學(xué)習(xí)可解釋的人工智能方面，目標(biāo)是用“可解釋的AI”賦能決策。

　　帕迪說(shuō)，大約10年前，也就是2010年出現(xiàn)了神經(jīng)網(wǎng)絡(luò)，它在面部識(shí)別和圖像識(shí)別方面非常準(zhǔn)確。過(guò)去十多年我們?cè)谌斯ぶ悄芊矫嬉呀?jīng)取得了巨大進(jìn)步，“上一波人工智能的浪潮不僅強(qiáng)大，而且?guī)?lái)了真正的變革?！?/p>

　　但人工智能仍然面臨很多挑戰(zhàn)。帕迪給出一張孩子拿著牙刷的圖片?！盀槭裁次液芸炷芤庾R(shí)到這是一個(gè)拿著牙刷的孩子，因?yàn)樽鳛槿祟?，我們關(guān)注周圍的環(huán)境，仔細(xì)觀察我們可以看到周圍有牙刷和水槽，所以這個(gè)孩子很可能拿的是牙刷。”而如果是人工智能來(lái)識(shí)別，由于目前AI主要基于大型統(tǒng)計(jì)模型，AI會(huì)認(rèn)為圖上是一個(gè)孩子，“可能會(huì)認(rèn)為是一個(gè)拿著棒棒糖的孩子，也可能會(huì)認(rèn)為是一個(gè)拿著牙刷的孩子，或者可能是一個(gè)拿著勺子的孩子?！笨傊瓵I肯定會(huì)認(rèn)為這是一個(gè)孩子，但無(wú)法根據(jù)周圍的信息判斷他拿的是什么，因此不能絕對(duì)準(zhǔn)確地對(duì)圖片上的內(nèi)容進(jìn)行預(yù)測(cè)。

　　“也就是說(shuō)，當(dāng)涉及到個(gè)別情況時(shí)，AI有時(shí)是不可靠的?！迸恋险f(shuō)，他最近測(cè)試了一款有趣的食品識(shí)別應(yīng)用程序，然而程序卻告訴他食物拼盤圖片有99%的可能性是章魚?！斑@就是目前面臨的挑戰(zhàn)。之所以判斷為章魚，是因?yàn)槿鄙偕舷挛牡那榫承畔ⅰ！迸恋险f(shuō)，AI不具備清晰的理解能力，不能像人類一樣處理信息并將其置于情境中?！拔覀兪褂玫那榫呈腔谖覀兊亩唐谟洃浐烷L(zhǎng)期記憶，以及我們當(dāng)前學(xué)到的和過(guò)去學(xué)到的知識(shí)?！?/p>

　　相對(duì)于十多年前出現(xiàn)的AI浪潮，帕迪認(rèn)為，在下一次浪潮中，AI必須具有感知和理解行為的能力，利用人類理解語(yǔ)言的能力，將語(yǔ)言轉(zhuǎn)化為知識(shí)，將數(shù)據(jù)轉(zhuǎn)化成智能，并做出決策?！拔艺J(rèn)為這才是真正的人工智能，它可以根據(jù)上下文的情境理解并采取行動(dòng)?！?/p>

　　另一方面，人工智能還要具備可解釋性，“我們需要考慮什么是有效的，什么是可追溯的，什么是可審核的。”對(duì)于可解釋的AI，帕迪說(shuō)，也就是通過(guò)模型可以解釋為什么人工智能會(huì)做出這種決策，“每當(dāng)涉及到AI時(shí)，我們都能解釋模型工作的原理。”

　　“我們關(guān)注人工智能如何觀察、學(xué)習(xí)、推理、抽象、解釋，并且可以交互學(xué)習(xí)，還有短期記憶和長(zhǎng)期記憶，就像人類那樣。這樣就可以通過(guò)大量真實(shí)世界的數(shù)據(jù)進(jìn)行推理，并且可以做出一個(gè)可以真正解釋的決定?！?/p>

　　帕迪說(shuō)，團(tuán)隊(duì)正在研究下一代人工智能。他們并不通過(guò)訓(xùn)練數(shù)十億的狗的圖片來(lái)預(yù)測(cè)圖片上是一只狗，不在大型復(fù)雜數(shù)據(jù)集的基礎(chǔ)上學(xué)習(xí)，而是通過(guò)示范人類學(xué)習(xí)的過(guò)程讓模型學(xué)習(xí)。“我們的想法是基于一組訓(xùn)練數(shù)據(jù)和一些基本組成元素，學(xué)習(xí)的過(guò)程是基于基本元素的?！薄八晕覀冃枰?jiǎng)?chuàng)建一個(gè)可以被訓(xùn)練的AI模型，這些基本元素的組合決定了狗是由什么組成的。狗由頭、尾巴、四條腿和身體組成，還有兩只耳朵。這些是我們需要讓模型學(xué)習(xí)的各種基本元素?！?/p>

　　團(tuán)隊(duì)還讓場(chǎng)景信息發(fā)生變化，在這一過(guò)程中逐步告訴模型這是一只狗，“幾乎90%的學(xué)習(xí)是通過(guò)自我學(xué)習(xí)的，因?yàn)槟Ｐ屠斫饬斯返幕窘M成元素。所以即使場(chǎng)景改變了，模型仍然可以知道這是一只狗?！?/p>

　　但這并沒有就此結(jié)束，帕迪說(shuō)，他們還必須弄清楚為什么模型會(huì)做出這樣的判斷，為什么模型會(huì)認(rèn)為這是一只狗而不是一只狐貍，能否通過(guò)改變模型的某些特征要素來(lái)影響模型的決策?！氨仨殞⑦@種真實(shí)性、可審核性和解釋性作為我們所構(gòu)建的AI結(jié)構(gòu)的基礎(chǔ)?！?/p>

　　也就是說(shuō)，通過(guò)引入這些基礎(chǔ)元素和上下文的情境信息，讓模型能夠像人類一樣學(xué)習(xí)，并隨著情境的改變而不斷做出調(diào)整。模型也需要具有解釋的能力，就像人類可以解釋為什么他們會(huì)做出某種決定，可以解釋為什么他們會(huì)認(rèn)為這是一張狗的照片。（記者：張靜）

　　轉(zhuǎn)自：澎湃新聞

　　【版權(quán)及免責(zé)聲明】凡本網(wǎng)所屬版權(quán)作品，轉(zhuǎn)載時(shí)須獲得授權(quán)并注明來(lái)源“中國(guó)產(chǎn)業(yè)經(jīng)濟(jì)信息網(wǎng)”，違者本網(wǎng)將保留追究其相關(guān)法律責(zé)任的權(quán)力。凡轉(zhuǎn)載文章及企業(yè)宣傳資訊，僅代表作者個(gè)人觀點(diǎn)，不代表本網(wǎng)觀點(diǎn)和立場(chǎng)。版權(quán)事宜請(qǐng)聯(lián)系：010-65363056。

延伸閱讀