9月21日,在華為全聯(lián)接大會(huì)2023現(xiàn)場(chǎng), 華為云CTO張宇昕發(fā)表演講表示,大模型重塑千行萬(wàn)業(yè)的背后,是眾多復(fù)雜的技術(shù)挑戰(zhàn),需要核心技術(shù)的持續(xù)創(chuàng)新和突破。華為云以全局的系統(tǒng)性創(chuàng)新,不斷攻堅(jiān)克難,構(gòu)建AI時(shí)代最佳云底座。
華為云CTO張宇昕
隨著大模型能力涌現(xiàn),多模態(tài)融合,MOE等趨勢(shì),模型參數(shù)將從現(xiàn)在的5400億很快超過(guò)數(shù)萬(wàn)億,對(duì)海量的穩(wěn)定算力、大規(guī)模并行訓(xùn)練、以及整體的架構(gòu)設(shè)計(jì)都提出了更高要求。同時(shí),數(shù)據(jù)集規(guī)模的快速增長(zhǎng),數(shù)據(jù)高效存儲(chǔ)、清洗和標(biāo)注的難度,以及海量Token的訓(xùn)練等仍然具有挑戰(zhàn)性。張宇昕指出,這些挑戰(zhàn)相互影響、環(huán)環(huán)相扣,可以說(shuō),大模型及相關(guān)應(yīng)用是迄今為止最復(fù)雜的軟硬件系統(tǒng)工程。
為應(yīng)對(duì)AI時(shí)代的挑戰(zhàn),華為云實(shí)現(xiàn)了軟硬件結(jié)合的系統(tǒng)性創(chuàng)新:
在系統(tǒng)架構(gòu)層,QingTian架構(gòu)基于高速新型網(wǎng)絡(luò)協(xié)議,打破算力、存儲(chǔ)和網(wǎng)絡(luò)的邊界,實(shí)現(xiàn)多元算力的對(duì)等全互聯(lián),為客戶(hù)提供最佳AI算力基礎(chǔ)設(shè)施,實(shí)現(xiàn)超大規(guī)模的高性能AI算力。
基于QingTian架構(gòu),華為云昇騰AI云服務(wù)提供算力集群、計(jì)算引擎CANN、AI開(kāi)發(fā)框架MindSpore和AI開(kāi)發(fā)平臺(tái)ModelArts,為大模型和AI應(yīng)用的開(kāi)發(fā)、運(yùn)行提供最佳算力服務(wù)。
在數(shù)據(jù)處理層,華為云提供云上全流程一站式能力,包括數(shù)據(jù)存儲(chǔ)、分析、共享、標(biāo)注方案,讓企業(yè)實(shí)現(xiàn)大模型數(shù)據(jù)“找得到”“存得下”“記得住”“用得了”。
在模型訓(xùn)練層,華為云通過(guò)盤(pán)古大模型的5+N+X的架構(gòu)實(shí)現(xiàn)分層解耦,賦能千行萬(wàn)業(yè),讓每個(gè)行業(yè)、每個(gè)企業(yè)基于自己的場(chǎng)景都可以擁有自己的大模型。
在應(yīng)用開(kāi)發(fā)層,華為云整合了應(yīng)用開(kāi)發(fā)需要的開(kāi)發(fā)生產(chǎn)線、低碼/無(wú)碼平臺(tái)、AI應(yīng)用框架及全新的AI應(yīng)用工程套件,讓客戶(hù)輕松實(shí)現(xiàn)基于大模型的AI原生應(yīng)用的零門(mén)檻構(gòu)建。
同時(shí),這些系統(tǒng)性創(chuàng)新的云服務(wù)能力,已經(jīng)可以跨云、網(wǎng)、邊、端等多平臺(tái),以及公有云,邊緣云、混合云等多形態(tài),實(shí)現(xiàn)靈活自由的部署和應(yīng)用。對(duì)于建立自己專(zhuān)屬AI平臺(tái)和大模型的需求,企業(yè)可通過(guò)華為云Stack混合云平臺(tái),在企業(yè)的數(shù)據(jù)中心部署昇騰AI云服務(wù)和大模型的關(guān)鍵產(chǎn)品,幫助企業(yè)一站式建設(shè)專(zhuān)屬大模型。會(huì)上,張宇昕正式發(fā)布華為云Stack 8.3,相關(guān)服務(wù)將于9月底全面上市商用。
張宇昕表示,華為云致力于系統(tǒng)性創(chuàng)新,構(gòu)建AI時(shí)代最佳的云底座,用云的技術(shù)幫助行業(yè)攻堅(jiān)克難。讓云無(wú)處不在,讓智能無(wú)所不及,共建智能世界云底座。