NIPS2018舉辦 百度發(fā)布面向深度神經(jīng)網(wǎng)絡(luò)優(yōu)化的超強(qiáng)AI計(jì)算平臺(tái)X-MAN3.0


來源:中國(guó)產(chǎn)業(yè)經(jīng)濟(jì)信息網(wǎng)   時(shí)間:2018-12-03





       122日,2018年神經(jīng)信息處理系統(tǒng)大會(huì)NIPS(Conference and Workshop on Neural Information Processing Systems)在加拿大蒙特利爾國(guó)會(huì)大廈舉行,大會(huì)上百度重磅發(fā)布X-MAN3.0,專為深度神經(jīng)網(wǎng)絡(luò)優(yōu)化的超強(qiáng)AI計(jì)算平臺(tái)。該方案由百度與浪潮合作研發(fā),每秒可完成2000萬(wàn)億次深度神經(jīng)網(wǎng)絡(luò)計(jì)算。

1.png

面向深度神經(jīng)網(wǎng)絡(luò)優(yōu)化的超強(qiáng)AI計(jì)算平臺(tái)X-MAN3.0亮相NIPS2018

       NIPS是機(jī)器學(xué)習(xí)領(lǐng)域的頂級(jí)會(huì)議,大會(huì)的內(nèi)容涵蓋了機(jī)器學(xué)習(xí)、神經(jīng)科學(xué)、認(rèn)知科學(xué)、心理學(xué)、計(jì)算機(jī)視覺、統(tǒng)計(jì)語(yǔ)言學(xué)和信息論等156個(gè)領(lǐng)域。深度學(xué)習(xí)是AI發(fā)展的主要?jiǎng)恿?,也是大?huì)最熱門的話題之一,目前,在深度學(xué)習(xí)三要素計(jì)算、算法和數(shù)據(jù)中,除了算法創(chuàng)新外,計(jì)算技術(shù)的創(chuàng)新成為深度學(xué)習(xí)發(fā)展的主要?jiǎng)恿Α?/p>

       兩級(jí)交換,GPU資源統(tǒng)一池化

       浪潮是百度在數(shù)據(jù)中心領(lǐng)域最重要的戰(zhàn)略伙伴,一直與百度聯(lián)合研發(fā)包括X-MAN3.0在內(nèi)的各類AI專用計(jì)算平臺(tái)。X-MAN是百度用于超大規(guī)模AI訓(xùn)練的專用平臺(tái),第一代產(chǎn)品發(fā)布于2016年,每年更新一代,此次發(fā)布的是第三代。

       X-MAN3.0高度為8U,由兩個(gè)高度分別為4U的獨(dú)立AI模組組成,每個(gè)模組可支持8顆最新的NVDIA V100,兩個(gè)AI模組之間通過高速互聯(lián)背板連接。GPU之間通過NVlink Switch鏈路通信,全局單向通信總帶寬為2400GB/秒。

       同時(shí),X-MAN 3.0專門設(shè)計(jì)了兩級(jí)AI加速芯片互聯(lián)交換體系,CPUGPU之間的邏輯關(guān)系可以通過軟件定義的方式任意指定,更為靈活的支持不同負(fù)載的AI應(yīng)用,避免系統(tǒng)瓶頸。這是X-MAN3.0與業(yè)界其他產(chǎn)品的區(qū)別之處。

       專為深度神經(jīng)網(wǎng)絡(luò)優(yōu)化的超強(qiáng)AI計(jì)算平臺(tái)

       現(xiàn)在AI訓(xùn)練對(duì)于計(jì)算平臺(tái)的挑戰(zhàn)越來越大,為了提高AI模型的精準(zhǔn)度,訓(xùn)練數(shù)據(jù)集規(guī)模平均增長(zhǎng)了300倍以上,Google Open Image2017年末就已經(jīng)達(dá)到了900萬(wàn)標(biāo)記圖片,模型規(guī)模高速膨脹,一些互聯(lián)網(wǎng)公司的AI模型已經(jīng)達(dá)到千億參數(shù)的規(guī)模。

       這不僅需要用戶部署更大規(guī)模的GPU計(jì)算平臺(tái),而且需要部署具有更大縱向擴(kuò)展能力的GPU計(jì)算平臺(tái),因?yàn)楹笳吣軌蚪鉀Q日益嚴(yán)峻的GPU之間的通信瓶頸。以AI模型常用的三維快速傅里葉變換算法為例,這種算法在GPU并行環(huán)境,每三次運(yùn)算就需要一次全局性通信,對(duì)于GPU間的交互帶寬高度依賴。

       X-MAN3.0是目前擴(kuò)展GPU數(shù)量最多的計(jì)算平臺(tái)之一,而且采用了NVlink Switch技術(shù),可以很好地緩解通信瓶頸問題,可以為互聯(lián)網(wǎng)公司的超大規(guī)模AI訓(xùn)練帶來超出預(yù)期的應(yīng)用價(jià)值。

       當(dāng)前AI訓(xùn)練芯片領(lǐng)域競(jìng)爭(zhēng)激烈,眾多方案將在19年相繼落地應(yīng)用。X-MAN3.0整體采用模塊化設(shè)計(jì),能夠快速、高效的支持各種AI訓(xùn)練芯片,這為百度快速引入更有競(jìng)爭(zhēng)力的AI訓(xùn)練芯片方案奠定了關(guān)鍵技術(shù)基礎(chǔ)。

       深度布局AI

       根據(jù) IDC數(shù)據(jù),2018年前兩季度,浪潮在中國(guó)GPU服務(wù)器領(lǐng)域的銷售額份額為52%,遠(yuǎn)遠(yuǎn)領(lǐng)先于其他廠商。近年來,通過JDM模式創(chuàng)新,浪潮一直為互聯(lián)網(wǎng)公司提供定制化的計(jì)算平臺(tái)方案,除了X-MAN系列,浪潮與百度聯(lián)合研發(fā)了很多業(yè)界領(lǐng)先的產(chǎn)品,比如ABC一體機(jī),單物理集群支持64GPU的超強(qiáng)擴(kuò)展平臺(tái)SR-AI整機(jī)柜,以及天蝎整機(jī)柜服務(wù)器冰山冷存儲(chǔ)節(jié)點(diǎn),都已經(jīng)在百度批量部署應(yīng)用,極大地提升百度數(shù)據(jù)中心的計(jì)算力和可擴(kuò)展性。

2.png

NIPS2018現(xiàn)場(chǎng),浪潮展臺(tái)

       目前,浪潮是全球領(lǐng)先的AI計(jì)算力廠商,從計(jì)算平臺(tái)、管理套件、框架優(yōu)化、應(yīng)用加速等四個(gè)層次致力于打造敏捷、高效、優(yōu)化的AI基礎(chǔ)設(shè)施。浪潮已成為TOP級(jí)互聯(lián)網(wǎng)客戶最主要的AI服務(wù)器供應(yīng)商,并與科大訊飛、商湯、曠視、今日頭條、滴滴等人工智能領(lǐng)先科技公司保持在系統(tǒng)與應(yīng)用方面的深入緊密合作,幫助AI客戶在語(yǔ)音、圖像、視頻、搜索、網(wǎng)絡(luò)等方面取得數(shù)量級(jí)的應(yīng)用性能提升。

       轉(zhuǎn)自:先鋒科技網(wǎng)
 

  版權(quán)及免責(zé)聲明:凡本網(wǎng)所屬版權(quán)作品,轉(zhuǎn)載時(shí)須獲得授權(quán)并注明來源“中國(guó)產(chǎn)業(yè)經(jīng)濟(jì)信息網(wǎng)”,違者本網(wǎng)將保留追究其相關(guān)法律責(zé)任的權(quán)力。凡轉(zhuǎn)載文章,不代表本網(wǎng)觀點(diǎn)和立場(chǎng)。版權(quán)事宜請(qǐng)聯(lián)系:010-65363056。

延伸閱讀

熱點(diǎn)視頻

性能提升、服務(wù)擴(kuò)展,北斗三號(hào)基本系統(tǒng)建成 性能提升、服務(wù)擴(kuò)展,北斗三號(hào)基本系統(tǒng)建成

熱點(diǎn)新聞

熱點(diǎn)輿情

特色小鎮(zhèn)

?

微信公眾號(hào)

版權(quán)所有:中國(guó)產(chǎn)業(yè)經(jīng)濟(jì)信息網(wǎng)京ICP備11041399號(hào)-2京公網(wǎng)安備11010502035964