金融領(lǐng)域如何應(yīng)對(duì)AI安全？第三代人工智能給出解決方案

　　隨著人工智能技術(shù)在金融場(chǎng)景的應(yīng)用不斷深化，數(shù)據(jù)、算法與應(yīng)用層的安全可控問題逐漸凸顯。

　　6月3日，在北京智源大會(huì)“AI安全與產(chǎn)業(yè)治理”論壇上，中國(guó)科學(xué)院院士、清華大學(xué)人工智能研究院院長(zhǎng)張鈸表示，包含知識(shí)、數(shù)據(jù)、算法和算力四個(gè)要素的“第三代人工智能”，為發(fā)展安全、可信、可靠和可擴(kuò)展的AI技術(shù)提供了可能性。

　　金融業(yè)的AI安全問題

　　對(duì)于金融行業(yè)來說，人工智能的安全問題尤其需要警惕。

　　“就像打仗一樣，攻擊者可能用水攻，也可能火攻，還可能偷偷挖條地道來攻打一座城，守城的人不能只考慮一種可能性，必須布防應(yīng)對(duì)許多的攻擊可能性。”阿里安全高級(jí)算法專家越豐這樣說道。

　　清華大學(xué)計(jì)算機(jī)系教授、瑞萊智慧首席科學(xué)家朱軍也指出，目前人工智能算法的安全性存在嚴(yán)重不足，為智能技術(shù)的應(yīng)用帶來較大隱患。

　　當(dāng)前，金融機(jī)構(gòu)也在大力投入人工智能領(lǐng)域的研發(fā)，在中國(guó)工商銀行軟件開發(fā)中心大數(shù)據(jù)與人工智能實(shí)驗(yàn)室副主任黃炳看來，這背后的一個(gè)重要原因正是普惠金融的發(fā)展。

　　發(fā)展普惠金融，金融機(jī)構(gòu)面對(duì)的數(shù)據(jù)樣本存在嚴(yán)重的地區(qū)不平衡和人群不平衡，加之算法設(shè)計(jì)的不合理，便容易產(chǎn)生公平性問題。

　　黃炳指出，現(xiàn)在越來越多的數(shù)據(jù)通過線上渠道采集而來，如何對(duì)數(shù)據(jù)進(jìn)行精準(zhǔn)識(shí)別與分類成為重要問題。另外，金融業(yè)還面對(duì)算法的可解釋性問題。

　　“長(zhǎng)期以來，金融機(jī)構(gòu)的風(fēng)控模型就是簡(jiǎn)單的邏輯回歸。而隨著90后、00后步入社會(huì)，如何將海量的數(shù)據(jù)融合從而提供更好的智能金融服務(wù)，這是金融機(jī)構(gòu)需要思考的?！秉S炳這樣說道。

　　瑞萊智慧CEO田天對(duì)《華夏時(shí)報(bào)》記者表示，現(xiàn)階段人工智能產(chǎn)業(yè)正經(jīng)歷從高速增長(zhǎng)向高質(zhì)量發(fā)展的轉(zhuǎn)變。人工智能已經(jīng)突破傳統(tǒng)的感知智能階段，進(jìn)入到更加高階的認(rèn)知決策階段，人工智能已開始接近一些核心的智能問題。

　　田天指出，金融等更高價(jià)值場(chǎng)景的AI應(yīng)用需求不斷增加，安全性的重要性也大大提升。但由于傳統(tǒng)技術(shù)范式存在天然的算法漏洞和缺陷，導(dǎo)致人工智能在這些場(chǎng)景的應(yīng)用存在局限。

　　第三代人工智能備受關(guān)注

　　張鈸指出，人工智能的安全可控問題要從技術(shù)層面來解決。

　　據(jù)黃炳介紹道，工行在現(xiàn)有人工智能技術(shù)體系基礎(chǔ)上，圍繞“軟硬件運(yùn)營(yíng)環(huán)境可信、數(shù)據(jù)隱私保護(hù)、算法模型安全”三大核心能力建設(shè)出金融領(lǐng)域的人工智能安全可信能力。

　　他還強(qiáng)調(diào)，AI安全是AI大規(guī)模應(yīng)用的前提和必備條件，同時(shí)AI可信能力必須是全棧且覆蓋模型全生命周期。通過安全可信技術(shù)的研究和突破，提升規(guī)模化AI生產(chǎn)部署的安全可信支撐能力，可以增強(qiáng)多方數(shù)據(jù)生產(chǎn)要素的融合能力，為數(shù)字經(jīng)濟(jì)社會(huì)提供更高效率、更低成本、更低門檻的普惠金融服務(wù)。

　　關(guān)于AI在金融風(fēng)控中的應(yīng)用，建信金融科技有限公司創(chuàng)新實(shí)驗(yàn)室總經(jīng)理王雪從實(shí)操層面進(jìn)行了詳解。

　　據(jù)王雪介紹，客戶在銀行申請(qǐng)信用貸款時(shí)首先要進(jìn)行測(cè)額，這一環(huán)節(jié)的難點(diǎn)在于，如何測(cè)度客戶的無形資產(chǎn)價(jià)值，即預(yù)測(cè)客戶在未來幾年內(nèi)的個(gè)人資產(chǎn)總量。

　　建信金科采用包括AI、經(jīng)濟(jì)學(xué)理論、資本理論、認(rèn)知行為理論在內(nèi)的跨學(xué)科方法，利用人工智能的機(jī)器學(xué)習(xí)算法提煉出數(shù)據(jù)驅(qū)動(dòng)的金融素養(yǎng)標(biāo)簽。

　　例如，某批發(fā)行業(yè)小企業(yè)主擁有一些固定資產(chǎn)，和一些金融資產(chǎn)，年收入100萬元，建信金科根據(jù)他的信息測(cè)算形成模型，據(jù)此可以構(gòu)建未來三年的流動(dòng)性風(fēng)險(xiǎn)限額。這樣的模式更加客觀，也更具前瞻性，使銀行可以更快、更好地把握風(fēng)險(xiǎn)。

　　另外，在數(shù)據(jù)隱私保護(hù)方面，建信金科還構(gòu)建了企業(yè)級(jí)的隱私保護(hù)平臺(tái)。

　　關(guān)于人工智能的安全可控，田天認(rèn)為，“安全”是指打造數(shù)據(jù)安全與算法安全兩大核心能力，解決數(shù)據(jù)強(qiáng)依賴帶來的隱私泄漏與數(shù)據(jù)投毒等隱患，同時(shí)提升算法可靠性?！翱煽亍奔戎笐?yīng)用層面的合規(guī)可控，更指核心技術(shù)的自主可控，以自主可控為根基，通過理論創(chuàng)新、技術(shù)突破形成核心競(jìng)爭(zhēng)力。

　　會(huì)上，清華大學(xué)聯(lián)合阿里安全、瑞萊智慧發(fā)布了首個(gè)公平、全面的AI攻防對(duì)抗基準(zhǔn)平臺(tái)，該平臺(tái)可實(shí)現(xiàn)對(duì)AI防御和攻擊算法的自動(dòng)化評(píng)估。

　　“安全可控是發(fā)展第三代人工智能的核心基準(zhǔn)，也是加快人工智能高質(zhì)量發(fā)展的有力支撐?！碧锾爝@樣說道。

　　相關(guān)研究報(bào)告顯示，到2030年全球人工智能市場(chǎng)規(guī)模預(yù)計(jì)將達(dá)到15.7萬億美元，約合人民幣104萬元。“深度智能”時(shí)代正將加速到來，人工智能在金融領(lǐng)域的應(yīng)用不斷拓展。

　　智能金融的未來充滿想象空間，但要實(shí)現(xiàn)真正的人工智能仍面臨諸多深層挑戰(zhàn)。第三代人工智能通過釋放“數(shù)據(jù)、知識(shí)、算法、算力”的全新維度，為實(shí)現(xiàn)安全可控的新一代人工智能提供可能，有望重塑金融行業(yè)價(jià)值。（作者：傅碧霄）

　　轉(zhuǎn)自：華夏時(shí)報(bào)

　　【版權(quán)及免責(zé)聲明】凡本網(wǎng)所屬版權(quán)作品，轉(zhuǎn)載時(shí)須獲得授權(quán)并注明來源“中國(guó)產(chǎn)業(yè)經(jīng)濟(jì)信息網(wǎng)”，違者本網(wǎng)將保留追究其相關(guān)法律責(zé)任的權(quán)力。凡轉(zhuǎn)載文章及企業(yè)宣傳資訊，僅代表作者個(gè)人觀點(diǎn)，不代表本網(wǎng)觀點(diǎn)和立場(chǎng)。版權(quán)事宜請(qǐng)聯(lián)系：010-65363056。

延伸閱讀