瑞萊智慧推AI“安全靶場”：探索安全事件之前構(gòu)建防御

　　對抗樣本攻擊、模型后門、模型竊取…人工智能產(chǎn)業(yè)的發(fā)展也帶來了特有的新風險。隨著產(chǎn)業(yè)進程的深入，這些安全風險的邊界也迅速擴散，逐步蔓延至金融、互聯(lián)網(wǎng)、安防、城市和社會治理各個領域。

　　如果可以模擬真實網(wǎng)絡環(huán)境，演練“攻擊”與“防守”尋找新漏洞，是不是就能有效應對不斷出現(xiàn)的新型攻擊手段？并未雨綢繆提前補上漏洞？

　　11月11日，瑞萊智慧發(fā)布了人工智能安全靶場RealRange，提供提供實戰(zhàn)化、體系化的一站式人工智能攻防演練服務支撐。

　　北京瑞萊智慧科技有限公司成立于2018年7月，是清華大學人工智能研究院發(fā)起成立的科技成果轉(zhuǎn)化企業(yè)，致力于提供安全可控人工智能基礎設施平臺與解決方案。中國科學院院士、清華大學人工智能研究院名譽院長張鈸和清華大學計算機系教授朱軍共同擔任公司首席科學家，清華大學計算機系博士田天出任CEO。

　　“隨著人工智能安全態(tài)勢不斷演化，新型攻擊手段不斷出現(xiàn)，單點產(chǎn)品只能解決滯后問題，對于未知威脅無法進行風險預判和策略調(diào)整，同時作為新興領域，行業(yè)普遍面臨專業(yè)人才不足與實戰(zhàn)經(jīng)驗匱乏的雙重困境。鑒于此，打造動態(tài)演化、科學調(diào)整的安全防御體系成為核心需求，也促使人工智能攻防靶場成為一項重要的新型基礎設施，”瑞萊智慧副總裁唐家渝表示。

　　具體來說，即是通過預設訓練場景模型，構(gòu)建真實網(wǎng)絡環(huán)境的人工智能實戰(zhàn)攻防演練，通過“實戰(zhàn)化、模塊化”的平臺服務，幫助政企機構(gòu)企業(yè)開展安全能力體系檢驗評估，實現(xiàn)精準挖掘薄弱環(huán)節(jié)、驗證攻防能力、敏捷迭代防御體系等能力。

　　7月12日，工信部官網(wǎng)發(fā)布《網(wǎng)絡安全產(chǎn)業(yè)高質(zhì)量發(fā)展三年行動計劃（2021-2023年）（征求意見稿）》，將“構(gòu)建人工智能安全靶場”列為重點投入方向。

　　唐家渝介紹道，人工智能安全靶場RealRange類似于“演兵場”，安全靶場通過攻防實戰(zhàn)演練將風險暴露前置，提前發(fā)現(xiàn)和適應不斷升級、瞬息萬變的新型攻擊和高級威脅，動態(tài)提升團隊軟實力，快速彌補技術水平與經(jīng)驗的不足，實現(xiàn)“讓風險發(fā)生在靶場，讓有效防御構(gòu)建在安全事件之前”。

　　據(jù)悉，該平臺集“學、練”為一體，包含攻擊靶場、防御靶場、攻防演練三大功能模塊。“攻防靶場”內(nèi)置不同維度、不同難度的攻防靶標與最新的攻防算法；“攻防演練模塊”支持針對人臉識別、圖像分類等不同應用場景開展攻防演練，同時平臺可自動化評估攻防兩端能力，以攻防態(tài)勢的可視化功能直觀反饋實時戰(zhàn)況。

　　具體來看，該靶場平臺具備三大特點：場景豐富：集成多種典型應用場景、攻防靶標、攻防工具，有效支撐各類業(yè)務場景下的攻防演練；容易上手：內(nèi)置難度由低到高的分階靶場體系，進階式學練體系，無需具備專業(yè)AI安全知識也能快速上手；擴展靈活：模塊化設計支持靈活構(gòu)建各類演練場景，級聯(lián)設計支持靈活擴展各種演練規(guī)模。

　　唐家渝說道，“該靶場平臺基于瑞萊智慧在模型攻防領域深厚的技術積累，包括白盒攻擊、黑盒遷移攻擊等前沿對抗技術以及與清華大學、阿里安全聯(lián)合研發(fā)的AI對抗攻防基準，將團隊長期在攻防、競賽、實戰(zhàn)過程中形成的實踐經(jīng)驗內(nèi)化于平臺之中。他透露，平臺下一步將基于橫向的通用計算機視覺任務，打造身份驗證、自動駕駛等縱向細分領域的個性化定制方案?！?/p>

　　瑞萊智慧是安全可控人工智能基礎設施平臺和解決方案提供商，團隊曾獲2017NIPS對抗攻防競賽、2018 世界頂級黑客大會DEFCON的CAAD CTF對抗攻防邀請賽、2019 國際安全極客安全大賽GeekPwn“CAAD CTF圖像對抗樣本挑戰(zhàn)賽”及 “CAAD隱身挑戰(zhàn)賽”等多項世界級AI安全大賽冠軍。（記者：邵文）

　　轉(zhuǎn)自：澎湃新聞

　　【版權(quán)及免責聲明】凡本網(wǎng)所屬版權(quán)作品，轉(zhuǎn)載時須獲得授權(quán)并注明來源“中國產(chǎn)業(yè)經(jīng)濟信息網(wǎng)”，違者本網(wǎng)將保留追究其相關法律責任的權(quán)力。凡轉(zhuǎn)載文章及企業(yè)宣傳資訊，僅代表作者個人觀點，不代表本網(wǎng)觀點和立場。版權(quán)事宜請聯(lián)系：010-65363056。

延伸閱讀