飛象網(wǎng)訊(高靖宇/文)近年來手機(jī)產(chǎn)業(yè)發(fā)展進(jìn)入創(chuàng)新期,手機(jī)廠商正試圖尋找新的差異化出路。特別今年以來,隨著ChatGPT的橫空出世和全民級應(yīng)用發(fā)展趨勢,眾多手機(jī)廠商紛紛入局AI大模型賽道,成為當(dāng)下最火熱的技術(shù)賽道。
而在這場大模型競賽中,vivo顯然走在了前列。11月1日,在2023 vivo開發(fā)者大會上,vivo正式發(fā)布自研藍(lán)心大模型BlueLM、OriginOS 4、自研藍(lán)河操作系統(tǒng)BlueOS。其中,藍(lán)心大模型是vivo自研通用大模型矩陣,從開源到完全自研歷時(shí)6年,包括十億、百億、千億三個(gè)不同參數(shù)量級的5款自研大模型,全面覆蓋核心應(yīng)用場景,并將大模型矩陣能力全面融入到OriginOS 4。這意味著,vivo端側(cè)大模型已從前沿技術(shù)探索進(jìn)入到應(yīng)用和產(chǎn)業(yè)級落地新階段。
大模型與手機(jī)結(jié)合之后,智能手機(jī)又有了新敘事,為未來智能手機(jī)發(fā)展探索出新方向。vivo副總裁、OS產(chǎn)品副總裁周圍預(yù)判,未來手機(jī)的發(fā)展趨勢或?qū)⑦M(jìn)化為“智能體”。
如何將大模型裝入手機(jī)?答案是:端云協(xié)同
通過類似ChatGPT、文心一言的APP就能使用大模型,為什么還要把大模型裝入到手機(jī)端側(cè)呢?這是因?yàn),與單純在云端部署生成式 AI 應(yīng)用和服務(wù)相比,手機(jī)終端側(cè)部署生成式 AI 可以實(shí)現(xiàn)在設(shè)備端運(yùn)行復(fù)雜的AI算法,從而減少對云端服務(wù)的依賴,個(gè)人私密信息也不用上傳的云端,保障數(shù)據(jù)安全。此外,手機(jī)可以更好地理解和響應(yīng)用戶的需求,從而滿足用戶對更加智能化手機(jī)的期待。
那么,大模型千億級的參數(shù)量如何在手機(jī)上流程運(yùn)行,此時(shí)端云協(xié)同的混合架構(gòu)就成為關(guān)鍵。vivo的藍(lán)心大模型包含有10億、70億、700億、1300億、1750億五種參數(shù)規(guī)模,其中10億量級模型是主要面向端側(cè)場景打造的專業(yè)文本大模型,具備本地化的文本總結(jié)、摘要等能力。70億模型是面向手機(jī)打造的端云兩用模型,具有優(yōu)秀的語言理解、文本創(chuàng)作能力,同時(shí),上述兩個(gè)量級的模型支持高通和MTK最新旗艦雙平臺端側(cè)化部署,在保證數(shù)據(jù)安全的同時(shí),在出詞速度、響應(yīng)時(shí)間、內(nèi)存占用等方面也非常優(yōu)秀,實(shí)現(xiàn)了安全與性能的雙重并舉。
vivo同時(shí)在做的有10億、70億、700億、1300億、1750億五種參數(shù)規(guī)模的藍(lán)心大模型,其中10億和70億已經(jīng)可以由本地算力支撐,而更大的數(shù)據(jù)仍然需要運(yùn)行在云端。為此,vivo并不會強(qiáng)制用戶必須使用端側(cè)或者云端,而是交給用戶自己去選擇,比如隱私保密性不需要那么高的輸入法等功能,可以選擇在云端運(yùn)行,而公司文件、相冊等,就可以利用手機(jī)本身的算力來完成。
700億模型是面向云端服務(wù)的主力模型,其綜合能力,在C-Eval、CMMLU、SuperCLUE(10月)等榜單中均處于中文大模型的第一梯隊(duì)。另外1300億、1750億模型也將在更復(fù)雜的場景中以更豐富的知識和推理能力為用戶帶來更專業(yè)的智能體驗(yàn)。
除了與云端協(xié)作,手機(jī)大模型還面臨算法和算力的挑戰(zhàn)。vivo整個(gè)團(tuán)隊(duì)花了六年多時(shí)間不斷解決問題,在算法方面,在預(yù)訓(xùn)練階段,vivo利用最前沿的Transformer架構(gòu),改良了注意力機(jī)制、位置編碼等關(guān)鍵模塊,并在包含了3.3萬億詞的大規(guī)模多語言數(shù)據(jù)集上進(jìn)行訓(xùn)練,最終使得藍(lán)心大模型具備了超強(qiáng)的基礎(chǔ)能力。算力上,vivo也在積極通過信息技術(shù)應(yīng)用創(chuàng)新去解決算力問題,組建了一只150人的工程團(tuán)隊(duì),持續(xù)地提升集群的效率,目前vivo千億模型訓(xùn)練周期低于2個(gè)月,百億模型不到2周。
目前,vivo構(gòu)建了超過100萬條高質(zhì)量的多語言多任務(wù)指令數(shù)據(jù)進(jìn)行學(xué)習(xí)和訓(xùn)練,從而讓藍(lán)心大模型更好地理解用戶的意圖,適應(yīng)各種目標(biāo)任務(wù)。并在安全部署中通過了中國信通院內(nèi)容審核服務(wù)系統(tǒng)評測,在文本、語音和視頻內(nèi)容識別需要檢測的15個(gè)大類中,14個(gè)大類獲得最高的5星等級,1個(gè)獲得4星等級。
全新OriginOS 4,讓手機(jī)越用越好用
在本次發(fā)布會上,vivo帶來了全新升級的OriginOS4,它將大模型能力與系統(tǒng)結(jié)合,打造“1+2+N”智能系統(tǒng)體驗(yàn),藍(lán)心小V則是具體的應(yīng)用呈現(xiàn)。
與傳統(tǒng)AI應(yīng)用相比,藍(lán)心小V擁有更為自然的人機(jī)交互方式,強(qiáng)大的自然對話能力、信息處理能力以及洞察能力,不僅支持通過語音、文字、拖拽等方式接受并處理信息數(shù)據(jù),還可以針對不同問題以合適的形式進(jìn)行信息呈現(xiàn),這些讓它能夠像一位專屬私人助理一般,在自然交流中幫助用戶完成找文件、搜照片、總結(jié)歸納信息、快捷創(chuàng)建日程等操作,帶來更加智慧便捷的AI體驗(yàn)。
為了讓大模型在用戶端得到廣泛應(yīng)用,vivo還推出了可在任意手機(jī)安裝的藍(lán)心千詢APP,具備同樣強(qiáng)大的自然對話能力和信息處理能力,而與藍(lán)心小V不同的是,藍(lán)心千詢完全基于云端大模型處理任務(wù),不會涉及用戶隱私數(shù)據(jù)。
此外,針對硬件配置較低的終端設(shè)備,vivo推出了一個(gè)全新的操作系統(tǒng)——藍(lán)河BlueOS,它從全棧視角進(jìn)行了高性能架構(gòu)設(shè)計(jì),例如,在編程語言、運(yùn)行時(shí)Runtime、系統(tǒng)調(diào)度、框架、顯示和內(nèi)存等技術(shù)方向取得了技術(shù)突破,能支持藍(lán)河操作系統(tǒng)流暢地運(yùn)行在各種配置的設(shè)備上。而在智慧層面,它結(jié)合了先進(jìn)的AI大模型,接入藍(lán)心大模型的多模態(tài)能力。
據(jù)vivo介紹,藍(lán)河操作系統(tǒng)首發(fā)將落地vivo Watch3搭載。用戶可以通過語音的方式,基于AI能力,個(gè)性化地創(chuàng)作手表表盤。
目前AI大模型在手機(jī)端側(cè)的應(yīng)用還在起步階段,但卻是未來必爭的技術(shù)高地。根據(jù)IDC預(yù)測,到2026年,中國市場中近50%的終端設(shè)備的處理器將帶有AI引擎技術(shù)。這意味著,手機(jī)廠商擁有AI大模型的能力將變得越來越重要。而vivo布局大模型絕非“蹭熱點(diǎn)”,歷經(jīng)六年的蓄勢,vivo通過“1+2+N”的智能系統(tǒng)將大模型能力在終端側(cè)全面釋放,讓AI有機(jī)會走入千家萬戶,為每一位用戶帶來更加智慧且貼心的體驗(yàn)。