登錄網(wǎng)站,點(diǎn)擊鼠標(biāo),人坐在實(shí)驗(yàn)室里,就可以輕松將算法和數(shù)據(jù)傳到20多公里外的智算中心,開始大模型訓(xùn)練。4月25日,在武漢大學(xué)智能感知與機(jī)器學(xué)習(xí)實(shí)驗(yàn)室,智能交互方向負(fù)責(zé)人蔡賢濤教授向筆者介紹:“使用中國電信中部智算中心的算力進(jìn)行多模態(tài)醫(yī)學(xué)大模型的開發(fā)訓(xùn)練,就像網(wǎng)購一樣方便快捷?!?/p>
蔡教授和團(tuán)隊(duì)成員們正在研發(fā)參數(shù)數(shù)據(jù)規(guī)模為13B的中文醫(yī)學(xué)多模態(tài)大模型,據(jù)他介紹:“這個(gè)項(xiàng)目的數(shù)據(jù)如果用普通的網(wǎng)絡(luò)傳的話,傳輸?shù)臅r(shí)間可能按月來計(jì)算了,但是我們用中國電信中部智算中心的平臺(tái),幾天的時(shí)間就已經(jīng)把所有數(shù)據(jù)全部傳上去做訓(xùn)練,做訓(xùn)練的過程也是非常的平穩(wěn)、絲滑!”
良好的算力體驗(yàn),平穩(wěn)絲滑的感受,來自于中國電信中部智算中心的算力運(yùn)力存力融合一體化、以高性能算力為主的多元算力基礎(chǔ)設(shè)施體系。通過強(qiáng)大的網(wǎng)絡(luò)運(yùn)力,形成了一朵線上的算力云。一臺(tái)臺(tái)用于計(jì)算的服務(wù)器,都通過高性能網(wǎng)絡(luò)連接了起來,用戶只要有網(wǎng)絡(luò),就可以遠(yuǎn)程調(diào)用算力。計(jì)算的過程中,海量的數(shù)據(jù)也能平穩(wěn)高效地在服務(wù)器間傳輸。
據(jù)天翼云湖北分公司專家介紹:中國電信中部智算中心的液冷服務(wù)器采用RoCE協(xié)議,支持直接內(nèi)存訪問,具有高帶寬、低時(shí)延的特點(diǎn),液冷區(qū)的計(jì)算節(jié)點(diǎn)間、計(jì)算與存儲(chǔ)節(jié)點(diǎn)之間均為200G互聯(lián),風(fēng)冷區(qū)通過IB技術(shù)組網(wǎng),高帶寬、低時(shí)延,且穩(wěn)定性高,是目前用于GPU服務(wù)器的首選網(wǎng)絡(luò)互聯(lián)技術(shù)。計(jì)算節(jié)點(diǎn)之間的網(wǎng)絡(luò)鏈路為400G,計(jì)算節(jié)點(diǎn)與存儲(chǔ)節(jié)點(diǎn)間的鏈路為200G。高速網(wǎng)絡(luò)將 AI服務(wù)器、通算服務(wù)器、存儲(chǔ)服務(wù)器等通過交換機(jī)和路由聚合在一起,構(gòu)建一個(gè)統(tǒng)一的算力集群,再利用光纖和最先進(jìn)的路由器接入到中國電信的網(wǎng)絡(luò)里面,用戶只要接入到互聯(lián)網(wǎng),就可以像用水用電一樣隨時(shí)訪問、調(diào)取。
在今年全國人大會(huì)議期間,全國人大代表,湖北電信黨委書記、總經(jīng)理張敏建議,加快構(gòu)建全國一體化算力協(xié)同調(diào)度平臺(tái),實(shí)現(xiàn)需求和供給的精準(zhǔn)對(duì)接,讓算力像水電煤氣網(wǎng)一樣“隨時(shí)隨地、即取即用”。加快行業(yè)數(shù)據(jù)開放共享,發(fā)揮我國海量數(shù)據(jù)規(guī)模和豐富場(chǎng)景優(yōu)勢(shì),通過多場(chǎng)景應(yīng)用、多元數(shù)據(jù)融合,以量變引發(fā)質(zhì)變,賦能現(xiàn)代化產(chǎn)業(yè)體系建設(shè),推動(dòng)新質(zhì)生產(chǎn)力勃發(fā)。