近日,天翼云通過國內唯一人工智能云平臺領域的ITU國際標準評估——中國信通院組織的ITU-T F.AICP-GA人工智能云平臺技術規(guī)范國際標準和《智算工程平臺能力要求》國內標準一致性評估,并成為國內首批通過該標準的公司。
該測評涵蓋管理運維服務、數據工程服務、模型開發(fā)訓練服務、模型推理部署服務、智算安全服務、AI能力中心、中間件服務以及應用服務八個部分,共220余項能力項。天翼云“息壤”一站式智算服務平臺出色通過測評,表明產品的可靠性、穩(wěn)定性和規(guī)范性已得到行業(yè)權威認可。
天翼云“息壤”是為大模型訓練、推理、應用提供全棧工具鏈的智算服務平臺,包含數據管理、模型開發(fā)與訓練、模型評估、模型管理、服務部署等模塊。平臺內置豐富的基座大模型,支持國產化等異構算力,提供算子加速與模型加速,可極大提升大模型訓練推理效率。
天翼云自研的國內首個單集群萬卡國產化全功能預訓練云服務平臺,具備萬卡納管、并行訓練能力,4000億參數模型Llama3.1-405B和700億參數模型Llama2-70B都已完成萬卡規(guī)模訓練,MFU處于業(yè)界領先水平。基于自動斷點訓練、高效多級checkpoint、全鏈路檢測工具鏈等多項技術突破,實現萬卡訓練故障秒級定位、分鐘級處理、分鐘級恢復。無論是從算力服務能力,還是性能穩(wěn)定性和數據安全性,天翼云智算平臺都具有強有力的市場競爭力,不斷推動著行業(yè)高速發(fā)展。
此外,“息壤”平臺提供了豐富的工具支撐和標準化接口服務,支持多種開發(fā)模式,使開發(fā)者能夠更加方便地接入和使用平臺資源。同時,平臺通過整合資源管理、用戶管理、事件管理、監(jiān)控告警、容災建設和可觀測性等多項服務,穩(wěn)定性和易用性大幅提升。
科技創(chuàng)新是發(fā)展新質生產力的核心要素。未來,天翼云將持續(xù)加強關鍵核心技術自主攻關,不斷迭代升級“息壤”一體化智算服務體系和能力,加快科技成果落地轉化,在“AI+云”融合創(chuàng)新的時代背景下,基于強大的國云智算底座,為經濟社會高質量發(fā)展蓄勢賦能。