伴隨著AI算量需求急劇增加倒逼傳統(tǒng)計算架構(gòu)加速革新,數(shù)據(jù)成為關(guān)鍵的生產(chǎn)要素,算力時代悄然開啟。業(yè)內(nèi)人士普遍認為,算力的提升在拉動GDP方面有非常明顯的效果。
實際上,早在2018年,中國科學(xué)院計算技術(shù)研究所研究員張云泉就首次提出了“算力經(jīng)濟”的概念,指出以計算為核心的算力經(jīng)濟將成為衡量一個地方數(shù)字經(jīng)濟發(fā)展程度的代表性指標和新舊動能轉(zhuǎn)換的主要手段。經(jīng)過五年的發(fā)展,當(dāng)前的趨勢已經(jīng)充分表明,隨著超算與云計算、大數(shù)據(jù)、人工智能的融合創(chuàng)新,算力成為當(dāng)前整個數(shù)字經(jīng)濟社會發(fā)展的關(guān)鍵推動力。
伴隨著算力經(jīng)濟的發(fā)展,超算技術(shù)和人工智能的融合創(chuàng)新讓智能計算中心成為新基建熱點??梢钥吹?,當(dāng)下智能計算中心越來越熱,使得人工智能訓(xùn)練的效果特別好,除了寫新聞,還可以編故事、聊天,做很多事情。
在摩爾定律放緩的情況下,以英偉達創(chuàng)始人黃仁勛名字命名的定律“黃氏定律”對AI性能的提升做出預(yù)測,每10年GPU性能增長1000倍?!拔磥鞧PT-4的參數(shù)規(guī)?;?qū)⑦_到數(shù)萬億,至少需要上萬塊的GPU,甚至連國家超算中心都無法滿足其需求,建設(shè)新的智能計算平臺將成為人工智能新的發(fā)展方向?!睆堅迫f道。
像GPT-3就帶來了感知智能對超算的算力挑戰(zhàn)。從GPT-3到ChatGPT的技術(shù),實際上是“人工反饋(RLHF)訓(xùn)練機制+大數(shù)據(jù)+大算力”的集成。大模型帶來巨大的AI算力需求缺口,呼喚新型智能計算中心的加速構(gòu)建。
“為什么ChatGPT能從GPT-3演變過來,這是關(guān)鍵,也是中國人工智能之路和美國人工智能之路的分歧點。”張云泉指出,“這兩年大模型國內(nèi)有人做,但是我們追求的是參數(shù)量,從千億級到萬億級訓(xùn)練參數(shù)的快速躍進,但是智能沒有涌現(xiàn)。OpenAI走了另外一條路,利用人工反饋的訓(xùn)練機制,通過標注、對齊高質(zhì)量數(shù)據(jù),最后把這條路走通了,用千億參數(shù)的大模型把通用智能挖掘出來了,這點值得反思?!?/p>
張云泉認為,未來算力經(jīng)濟市場會有三類公司參加,將出現(xiàn)類似發(fā)電廠的算力工廠,尤其是在東數(shù)西算西部新能源發(fā)達地區(qū),而網(wǎng)絡(luò)通信公司可通過實施算網(wǎng)融合戰(zhàn)略轉(zhuǎn)型為算力供應(yīng)商,超算云公司、網(wǎng)絡(luò)通信公司甚至國家電網(wǎng)等分別從不同的技術(shù)途徑搶占算力服務(wù)市場,究竟鹿死誰手尚未可知。
張云泉建議,一是要在現(xiàn)有的大科學(xué)裝置基礎(chǔ)上,圍繞“東數(shù)西算”重大任務(wù)目標增加建設(shè)一類算力網(wǎng)工程技術(shù)裝置;二是要成立國家算網(wǎng)管理機構(gòu)和專家委員會,建設(shè)國家級算力調(diào)度和交易平臺;三是在智算中心建設(shè)過程中,依據(jù)自有品牌核心器件成熟度和應(yīng)用效果,設(shè)置合理的核心器件采購比例,扶植和拉動本土算力設(shè)備的發(fā)展。(宋婧)
轉(zhuǎn)自:中國電子報
【版權(quán)及免責(zé)聲明】凡本網(wǎng)所屬版權(quán)作品,轉(zhuǎn)載時須獲得授權(quán)并注明來源“中國產(chǎn)業(yè)經(jīng)濟信息網(wǎng)”,違者本網(wǎng)將保留追究其相關(guān)法律責(zé)任的權(quán)力。凡轉(zhuǎn)載文章及企業(yè)宣傳資訊,僅代表作者個人觀點,不代表本網(wǎng)觀點和立場。版權(quán)事宜請聯(lián)系:010-65363056。
延伸閱讀