人工智能亟待構(gòu)筑“主動(dòng)免疫”安全防線

　　近年來(lái)，全球人工智能（AI）產(chǎn)業(yè)蓬勃發(fā)展，今年ChatGPT更是引爆了新一輪投資和競(jìng)爭(zhēng)浪潮，人工智能已成為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力量?！督?jīng)濟(jì)參考報(bào)》記者在調(diào)研中發(fā)現(xiàn)，人工智能正顯露出對(duì)網(wǎng)絡(luò)安全行業(yè)的巨大影響力和應(yīng)用潛力，如何應(yīng)對(duì)人工智能可能帶來(lái)的安全問(wèn)題成為各界關(guān)注點(diǎn)，也成為網(wǎng)絡(luò)安全工作的下一個(gè)著力點(diǎn)。

　　人工智能產(chǎn)業(yè)發(fā)展迅速

　　近年來(lái)，人工智能產(chǎn)業(yè)加速發(fā)展。據(jù)中國(guó)信通院測(cè)算，2022年我國(guó)人工智能核心產(chǎn)業(yè)規(guī)模達(dá)5080億元，同比增長(zhǎng)18%，企業(yè)數(shù)量超過(guò)4000家，中國(guó)人工智能產(chǎn)業(yè)已進(jìn)入全球第一梯隊(duì)。另?yè)?jù)預(yù)測(cè)，2030年我國(guó)人工智能核心產(chǎn)業(yè)規(guī)模將超過(guò)1萬(wàn)億元人民幣，全球人工智能市場(chǎng)規(guī)模將達(dá)到16萬(wàn)億美元。美國(guó)商會(huì)今年3月的報(bào)告指出，在未來(lái)20年里，“幾乎所有企業(yè)和政府機(jī)構(gòu)”都將使用人工智能，人工智能將對(duì)社會(huì)、經(jīng)濟(jì)和國(guó)家安全產(chǎn)生深遠(yuǎn)影響。

　　中國(guó)科學(xué)技術(shù)部部長(zhǎng)王志剛近日在第七屆世界智能大會(huì)上表示，當(dāng)前全球人工智能發(fā)展進(jìn)入新一輪躍升期，超大規(guī)模預(yù)訓(xùn)練模型的重大突破實(shí)現(xiàn)了人工智能的一次歷史性跨越，探索出通往通用人工智能的可能路徑，潛在創(chuàng)新發(fā)展空間巨大。

　　當(dāng)前，主要發(fā)達(dá)國(guó)家均十分重視發(fā)展人工智能，美國(guó)、英國(guó)、法國(guó)、德國(guó)、加拿大、日本、印度、新加坡等國(guó)均已陸續(xù)發(fā)布了人工智能戰(zhàn)略。我國(guó)也十分重視這一領(lǐng)域的發(fā)展，2017年就印發(fā)了新一代人工智能發(fā)展規(guī)劃，提出要搶抓發(fā)展的重大戰(zhàn)略機(jī)遇，構(gòu)筑我國(guó)人工智能發(fā)展的先發(fā)優(yōu)勢(shì)。

　　今年，ChatGPT引發(fā)新一波人工智能投資和競(jìng)爭(zhēng)浪潮。谷歌、Meta等美歐企業(yè)和我國(guó)的百度、阿里、華為、科大訊飛等都在加緊對(duì)人工智能的研究。

　　業(yè)界人士預(yù)計(jì)，未來(lái)5至10年將是人工智能發(fā)展的關(guān)鍵期。僅就生成式人工智能而言，Gartner預(yù)計(jì)其將在2至5年內(nèi)進(jìn)入成熟期，并將帶來(lái)大量的應(yīng)用機(jī)會(huì)和商業(yè)潛力，是未來(lái)的重要技術(shù)趨勢(shì)。

　　潛藏安全風(fēng)險(xiǎn)引擔(dān)憂

　　人工智能在網(wǎng)絡(luò)行為異常分析、網(wǎng)絡(luò)安全漏洞識(shí)別、人臉檢測(cè)、自動(dòng)威脅檢測(cè)、反欺詐等很多方面都發(fā)揮了重要作用，但人工智能快速發(fā)展可能帶來(lái)的潛藏風(fēng)險(xiǎn)引發(fā)廣泛擔(dān)憂，關(guān)于人工智能發(fā)展監(jiān)管的呼聲越來(lái)越高。

　　中國(guó)信息協(xié)會(huì)信息安全專業(yè)委員會(huì)主任葉紅指出，全球范圍內(nèi)人工智能引發(fā)的數(shù)據(jù)泄露、網(wǎng)絡(luò)攻擊、模式誤導(dǎo)、學(xué)習(xí)反噬等安全風(fēng)險(xiǎn)日益凸顯，已成為影響和制約人工智能高質(zhì)量發(fā)展的障礙。下一階段，人工智能安全將是網(wǎng)絡(luò)安全發(fā)力的一個(gè)重點(diǎn)。

　　國(guó)家信息中心黨委專職副書(shū)記、紀(jì)委書(shū)記吳文化日前在2023西湖論劍·數(shù)字安全大會(huì)上表示，人工智能給網(wǎng)絡(luò)安全引入了三方面風(fēng)險(xiǎn)：一是網(wǎng)絡(luò)攻擊風(fēng)險(xiǎn)，人工智能在一定程度上降低了網(wǎng)絡(luò)犯罪的門檻，提高了攻擊的有效性；二是數(shù)據(jù)泄露風(fēng)險(xiǎn)，容易造成敏感數(shù)據(jù)或個(gè)人信息泄露；三是模型誤導(dǎo)風(fēng)險(xiǎn)，一旦遭受數(shù)據(jù)投毒或模型攻擊，容易引發(fā)負(fù)面輿情擴(kuò)散或重要決策偏差。

　　人工智能發(fā)展所呈現(xiàn)的新特征帶來(lái)了安全挑戰(zhàn)。中國(guó)電信股份有限公司研究院副院長(zhǎng)/云網(wǎng)基礎(chǔ)設(shè)施安全國(guó)家工程研究中心常務(wù)副主任李安民認(rèn)為，人工智能安全不同于以往，其具有double security（雙重安全）特征。以往的安全主要是確保系統(tǒng)、對(duì)象的安全，而人工智能對(duì)象特殊，目前已進(jìn)入模型驅(qū)動(dòng)時(shí)代，其本身具有學(xué)習(xí)、演進(jìn)、變化的能力。尤其到元宇宙時(shí)代，多元、多維、全息、全能的特征和以往狹義的網(wǎng)絡(luò)空間和網(wǎng)絡(luò)信息安全相比，人工智能涉及的安全問(wèn)題范疇無(wú)論從內(nèi)涵還是外延都有極大的突破。

　　中國(guó)電信集團(tuán)有限公司科技創(chuàng)新部總經(jīng)理/云網(wǎng)基礎(chǔ)設(shè)施安全國(guó)家工程研究中心主任王桂榮認(rèn)為，由于AI技術(shù)應(yīng)用滲透到方方面面，因此有可能帶來(lái)社會(huì)生活和社會(huì)治理安全的問(wèn)題。一些技術(shù)，如歧視性的算法、換臉技術(shù)等，如果應(yīng)用不當(dāng)則會(huì)帶來(lái)倫理安全等風(fēng)險(xiǎn)。

　　國(guó)家信息技術(shù)安全研究中心原總工程師李京春認(rèn)為，由于目前人工智能還不具備創(chuàng)新或聯(lián)想的特性，尚不足以對(duì)人類安全構(gòu)成威脅。但隨著技術(shù)的不斷演進(jìn)，仍可能對(duì)國(guó)家安全、數(shù)據(jù)安全、網(wǎng)絡(luò)安全具有影響。

　　安恒信息董事長(zhǎng)范淵日前接受媒體采訪時(shí)也從技術(shù)層面分析解釋了AI將帶來(lái)的兩個(gè)挑戰(zhàn)：一是一些自動(dòng)化生成工具會(huì)帶來(lái)病毒、木馬、后門等出現(xiàn)幾率的大幅提升，甚至可能是幾百倍的提升，怎樣來(lái)對(duì)抗、來(lái)快速發(fā)現(xiàn)和快速進(jìn)行智能化的防護(hù)是重要挑戰(zhàn)；二是如ChatGPT這樣的應(yīng)用大模型會(huì)伴隨大量的數(shù)據(jù)應(yīng)用，從而產(chǎn)生相關(guān)的安全漏洞風(fēng)險(xiǎn)。

　　業(yè)界人士還指出，人工智能應(yīng)用不當(dāng)或?yàn)E用會(huì)增加網(wǎng)絡(luò)安全、信息安全的監(jiān)管成本，引發(fā)監(jiān)管滯后。中國(guó)電科首席專家董貴山對(duì)此表示，ChatGPT作為輔助工具后可能出現(xiàn)過(guò)度采集使用者信息的情況，如果ChatGPT本身的源代碼上游系統(tǒng)有漏洞，也會(huì)導(dǎo)致不同用戶的交互隱私遭泄露。

　　中國(guó)工程院院士沈昌祥警告，人工智能自身失誤可能會(huì)給人類帶來(lái)災(zāi)難；智能硬件可能被惡意用于恐怖襲擊；智能工具可能被用于干預(yù)和引導(dǎo)政治走向；智能化武器與軍備競(jìng)賽引發(fā)國(guó)際新的擔(dān)憂。

　　未雨綢繆筑牢安全防護(hù)墻

　　業(yè)界人士認(rèn)為，在人工智能發(fā)展過(guò)程中，要堅(jiān)持安全可靠和創(chuàng)新發(fā)展并重，筑牢安全防護(hù)墻，應(yīng)對(duì)人工智能帶來(lái)的安全風(fēng)險(xiǎn)亟須未雨綢繆，從而真正擁抱人工智能發(fā)展帶來(lái)的機(jī)遇。

　　中國(guó)科學(xué)技術(shù)協(xié)會(huì)主席萬(wàn)鋼近日表示，要進(jìn)一步推動(dòng)科技、倫理、規(guī)范、標(biāo)準(zhǔn)和技術(shù)的融合，為智能體構(gòu)建與科技向善的人類共同理念相契合的學(xué)習(xí)、理解和行為模式，以及更有效的安全性、可靠性、有效性的行為邊界。

　　在沈昌祥看來(lái)，人工智能發(fā)展是趨勢(shì)，但安全是發(fā)展前提，要避免產(chǎn)業(yè)盲目發(fā)展，需要構(gòu)建主動(dòng)免疫人工智能安全產(chǎn)業(yè)的空間。他提出，構(gòu)建起業(yè)務(wù)信息、資源和管理的安全可信的三重防護(hù)框架，并設(shè)置基礎(chǔ)軟件安全可信、應(yīng)用軟件可信、電信安全可信和實(shí)時(shí)態(tài)勢(shì)感知四個(gè)保護(hù)等級(jí)。

　　我國(guó)對(duì)人工智能安全高度重視，近年來(lái)，關(guān)于網(wǎng)絡(luò)安全的法律法規(guī)、標(biāo)準(zhǔn)規(guī)范，包括各種團(tuán)體標(biāo)準(zhǔn)、地方政策不斷出臺(tái)。

　　業(yè)界人士認(rèn)為，從制度、標(biāo)準(zhǔn)、防范技術(shù)等方面來(lái)看，在制定了相應(yīng)的框架后，仍需進(jìn)一步細(xì)化深化。與產(chǎn)業(yè)的蓬勃發(fā)展相比，安全制度仍顯得滯后，給人工智能風(fēng)險(xiǎn)防范和安全監(jiān)管帶來(lái)了嚴(yán)峻挑戰(zhàn)。

　　葉紅建議，要健全人工智能安全制度的體系建設(shè)。在推動(dòng)產(chǎn)業(yè)發(fā)展時(shí)，應(yīng)深刻認(rèn)識(shí)到其發(fā)展可能面臨的風(fēng)險(xiǎn)，健全和完善人工智能算法安全、模型安全、數(shù)據(jù)安全以及安全評(píng)估等政策和制度；要在強(qiáng)化人工智能安全行業(yè)治理方面加大力度，需要多元主體共同參與治理。積極鼓勵(lì)相關(guān)科研院所持續(xù)開(kāi)展人工智能相關(guān)重點(diǎn)問(wèn)題研究，鼓勵(lì)相關(guān)行業(yè)組織制定相關(guān)人工智能標(biāo)準(zhǔn)；鼓勵(lì)第三方開(kāi)展相關(guān)安全評(píng)估和檢測(cè)認(rèn)證。

　　李京春指出，人工智能安全問(wèn)題需要全球共同治理，守住道德底線。要重視軟件和軟件供應(yīng)鏈的安全管控，加大數(shù)據(jù)安全保護(hù)力度，要開(kāi)展識(shí)別、封控等對(duì)抗AI技術(shù)研究，打擊人工智能犯罪。要加強(qiáng)網(wǎng)絡(luò)安全審查、數(shù)據(jù)安全審查等國(guó)家安全審查。

　　針對(duì)人工智能隱藏風(fēng)險(xiǎn)的新特征，方正證券5月的研報(bào)指出，在本輪人工智能產(chǎn)業(yè)浪潮下，網(wǎng)絡(luò)安全產(chǎn)業(yè)在攻擊側(cè)、防守側(cè)及監(jiān)管側(cè)的邏輯將發(fā)生重大變化。

　　記者在調(diào)研中發(fā)現(xiàn)，網(wǎng)絡(luò)安全企業(yè)和技術(shù)應(yīng)用企業(yè)已經(jīng)在積極把握時(shí)機(jī)，主動(dòng)應(yīng)對(duì)人工智能的新模式、新應(yīng)用帶來(lái)的安全需求。

　　作為深耕網(wǎng)絡(luò)安全的企業(yè)，安恒信息對(duì)人工智能安全防護(hù)有著積極看法?！啊瓵I+安全’，這個(gè)大幕才剛剛拉開(kāi)，未來(lái)還有更大的可能性。”范淵認(rèn)為。據(jù)介紹，安恒信息積極利用“AI+安全”的智能化應(yīng)用給智能防護(hù)和響應(yīng)產(chǎn)業(yè)帶來(lái)的機(jī)遇。過(guò)去幾年，安恒信息已經(jīng)在云端數(shù)據(jù)大腦、云端AI模型生成及應(yīng)用領(lǐng)域進(jìn)行了積極布局，對(duì)類似于大語(yǔ)言模型帶來(lái)的安全挑戰(zhàn)已積累了一定實(shí)戰(zhàn)經(jīng)驗(yàn)。

　　中國(guó)電信也在積極構(gòu)建完備的人工智能應(yīng)用安全處理體系。在讓人工智能更安全方面，中國(guó)電信加大相關(guān)技術(shù)研發(fā)，攻關(guān)人工智能縱深防御技術(shù)、密碼技術(shù)和數(shù)據(jù)產(chǎn)業(yè)鏈化技術(shù)。目前，其自主研發(fā)的威脅檢測(cè)系統(tǒng)、隱私計(jì)算的數(shù)據(jù)共享平臺(tái)，以及數(shù)據(jù)安全流通與監(jiān)管系統(tǒng)、數(shù)據(jù)安全的智能化關(guān)鍵技術(shù)等，已經(jīng)在內(nèi)部和客戶場(chǎng)景得到了廣泛應(yīng)用。

　　業(yè)界專家指出，隨著人工智能科技和產(chǎn)業(yè)的快速發(fā)展，有必要根據(jù)最新形勢(shì)變化，制定實(shí)施新的人工智能發(fā)展國(guó)家戰(zhàn)略，包括加快研發(fā)人工智能大模型、集中力量攻克人工智能關(guān)鍵核心技術(shù)、超前規(guī)劃布局人工智能產(chǎn)業(yè)、培養(yǎng)和引進(jìn)世界一流的人工智能創(chuàng)新人才、及時(shí)研究制定有關(guān)規(guī)則和標(biāo)準(zhǔn)等。針對(duì)一些核心技術(shù)方面的難題，特別是在基礎(chǔ)理論、底層框架和算法核心領(lǐng)域，要強(qiáng)化和深入人工智能核心技術(shù)攻關(guān)，聚集產(chǎn)學(xué)研用各方力量，開(kāi)展人工智能技術(shù)的聯(lián)合攻關(guān)，深化人工智能的技術(shù)和產(chǎn)業(yè)融合創(chuàng)新。(記者 周武英 綜合報(bào)道)

　　轉(zhuǎn)自：經(jīng)濟(jì)參考報(bào)

　　【版權(quán)及免責(zé)聲明】凡本網(wǎng)所屬版權(quán)作品，轉(zhuǎn)載時(shí)須獲得授權(quán)并注明來(lái)源“中國(guó)產(chǎn)業(yè)經(jīng)濟(jì)信息網(wǎng)”，違者本網(wǎng)將保留追究其相關(guān)法律責(zé)任的權(quán)力。凡轉(zhuǎn)載文章及企業(yè)宣傳資訊，僅代表作者個(gè)人觀點(diǎn)，不代表本網(wǎng)觀點(diǎn)和立場(chǎng)。版權(quán)事宜請(qǐng)聯(lián)系：010-65363056。

延伸閱讀