9月21日,在華為全聯接大會2023現場,華為常務董事、華為云CEO張平安以“共建智能世界云底座,讓AI重塑千行萬業(yè)”為題發(fā)表主旨演講。張平安宣布,華為云昇騰AI云服務正式上線,所有企業(yè)可即刻在華為云官網上購買和使用。
全智能時代,AI算力需求講迎來爆發(fā)式增長。華為預計,到2030年通用計算能力將增長10倍,AI計算能力將增長500倍。然而,由于AI服務器的功率密度遠超通用服務器,單機柜功耗是傳統(tǒng)機柜的6至8倍,并需專用液冷系統(tǒng)散熱,且大模型訓練需要百卡、千卡甚至萬卡,服務器之間的互聯、時延、可靠性、運維極為復雜,自建AI數據中心面臨諸多挑戰(zhàn)。
為更好地支持大模型的“百模千態(tài)”創(chuàng)新,華為云在貴安、烏蘭察布、蕪湖打造了3大AI云算力中心,為企業(yè)提供澎湃昇騰AI算力,讓企業(yè)再也不需要高價搶購GPU,也不需要擔心GPU未來潛在的供應連續(xù)性挑戰(zhàn)。
同時,華為云昇騰AI云服務百模千態(tài)專區(qū)已正式上線,讓企業(yè)和開發(fā)者可以快速創(chuàng)建自己的大模型應用,在大模型時代快人一步。
華為云昇騰AI云服務百模千態(tài)專區(qū)收錄了業(yè)界主流開源大模型,如LLAMA,GLM等,并全面基于昇騰AI云服務進行適配和優(yōu)化,精度和性能顯著提升。同時,專區(qū)提供豐富的應用開發(fā)的工具鏈,開發(fā)工具已經全部實現了云化,免去繁瑣的配置流程,實現一鍵接入,即開即用。
在云上,華為云提供了高效長穩(wěn)的大模型訓練環(huán)境和完備的工具鏈:實現千卡訓練連續(xù)30天不中斷,任務恢復時長小于30分鐘;通過30多個可視化調優(yōu)和部署工具,幫助企業(yè)更高效進行數據處理、模型微調、Prompt工程等,完成一個千億參數的行業(yè)模型端到端開發(fā),從過去需要5個月縮短到現在1個月,整體速度提升5倍。
昇騰AI云服務百模千態(tài)專區(qū)
此外,專區(qū)還提供了豐富的使用指導,企業(yè)和個人開發(fā)者只需要登錄專區(qū),自助申請體驗。審核通過后,即可通過點擊相應的開源大模型進入控制臺進行部署,并發(fā)布成在線服務進行推理調用。
在大模型訓練數據安全方面,華為云采用了數據傳輸與存儲加密、數據安全清除、數據訪問控制、數據水印防泄露等多重技術,確保大模型訓練數據的全生命周期安全。