新算法實(shí)現(xiàn)人工智能多模態(tài)信息“去偽存真”

　　記者5月18日從西安電子科技大學(xué)獲悉，由該校計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院教授趙偉領(lǐng)銜的智能媒體計(jì)算機(jī)團(tuán)隊(duì)，通過數(shù)據(jù)可信重建以及弱監(jiān)督深度學(xué)習(xí)框架，破解了數(shù)據(jù)質(zhì)量低及標(biāo)注數(shù)據(jù)稀缺難題，進(jìn)一步揭示了神經(jīng)網(wǎng)絡(luò)的決策機(jī)制，有效提升了現(xiàn)有可信人工智能方法的魯棒性、可解釋性和安全性。相關(guān)論文《可信沖突多模態(tài)學(xué)習(xí)算法》日前獲國(guó)際人工智能領(lǐng)域頂級(jí)學(xué)術(shù)會(huì)議AAAI 2024杰出論文獎(jiǎng)。

　　人工智能已經(jīng)日益深入人們生活。在醫(yī)療、自動(dòng)駕駛等復(fù)雜場(chǎng)景中，人工智能對(duì)決策任務(wù)的誤判可能造成重大損失。傳統(tǒng)可信人工智能多關(guān)注單模態(tài)數(shù)據(jù)，無法滿足實(shí)際場(chǎng)景中多模態(tài)數(shù)據(jù)分析決策需求，單模態(tài)數(shù)據(jù)有限的信息量導(dǎo)致單模態(tài)智能可信度存在瓶頸。

　　為此，團(tuán)隊(duì)打破單模態(tài)數(shù)據(jù)思路，提出沖突多模態(tài)學(xué)習(xí)算法，并通過數(shù)據(jù)可信重建以及弱監(jiān)督深度學(xué)習(xí)框架算法，實(shí)現(xiàn)了證據(jù)層面的沖突多模態(tài)數(shù)據(jù)可信融合。這能在提升人工智能決策性能的同時(shí)，可靠地度量決策置信度。此外，團(tuán)隊(duì)從理論上證明，該方法能夠量化沖突模態(tài)帶來的負(fù)面影響。這有利于解決當(dāng)前研究面臨的數(shù)據(jù)質(zhì)量低、決策不可信等難題，為后續(xù)研究提供了重要的理論基礎(chǔ)和技術(shù)支撐。

　　團(tuán)隊(duì)成員徐偲副教授解釋，這種算法在給出置信度的同時(shí)，還會(huì)給出多模態(tài)數(shù)據(jù)的沖突度，實(shí)現(xiàn)了多模態(tài)信息的“去偽存真”。若置信度不高且沖突度較高時(shí)，人工智能的決策便明顯不太可信。（記者史俊斌）

　　轉(zhuǎn)自：科技日?qǐng)?bào)

　　【版權(quán)及免責(zé)聲明】凡本網(wǎng)所屬版權(quán)作品，轉(zhuǎn)載時(shí)須獲得授權(quán)并注明來源“中國(guó)產(chǎn)業(yè)經(jīng)濟(jì)信息網(wǎng)”，違者本網(wǎng)將保留追究其相關(guān)法律責(zé)任的權(quán)力。凡轉(zhuǎn)載文章及企業(yè)宣傳資訊，僅代表作者個(gè)人觀點(diǎn)，不代表本網(wǎng)觀點(diǎn)和立場(chǎng)。版權(quán)事宜請(qǐng)聯(lián)系：010-65363056。

延伸閱讀