飛象網(wǎng)訊 2020年10月28日,聯(lián)想集團高級副總裁、首席技術官芮勇博士在2020聯(lián)想創(chuàng)新科技大會演講時表示:隨著人工智能和5G等新興技術的迅猛發(fā)展,智能化的應用場景變得越來越豐富,新的解決方案不斷涌現(xiàn)。這些新興解決方案和應用場景對實時計算能力的要求不斷提高,于是,智能邊緣計算就應運而生了,它讓計算和智能下沉到行業(yè)場景,更靠近數(shù)據(jù)產生的地方。
以下為發(fā)言內容整理:
參加聯(lián)想創(chuàng)新科技大會的朋友們,大家早上好!
我是芮勇,很高興能在這里和大家分享聯(lián)想最新的技術創(chuàng)新成果。2020已經(jīng)是一個充滿智能的新時代,而聯(lián)想呢,正在成為智能化變革的引領者和賦能者!
剛才,元慶在演講中提到了聯(lián)想“端邊云網(wǎng)智”的戰(zhàn)略布局,并指出,聯(lián)想已經(jīng)積累了眾多的“建材”與“模塊”,致力于打造行業(yè)智能化的解決方案。
隨著人工智能和5G等新興技術的迅猛發(fā)展,智能化的應用場景變得越來越豐富,新的解決方案不斷涌現(xiàn)。這些新興解決方案和應用場景對實時計算能力的要求不斷提高,于是,智能邊緣計算就應運而生了。所以我今天給大家匯報的主題是:智能邊緣計算:讓AI在你身“邊”。這里的“邊”就代表邊緣計算,我們要讓計算和智能下沉到行業(yè)場景,更靠近數(shù)據(jù)產生的地方。
邊緣計算并不“邊緣”,在行業(yè)智能化新需求的拉動下,“邊緣”正在變得越來越“主流”。它也是聯(lián)想技術戰(zhàn)略布局的重點領域之一。聯(lián)想在邊緣計算領域的領導力包含三個層次,首先是邊緣計算設備這一層,設備一直是聯(lián)想的傳統(tǒng)強項,產品布局非常豐富,我就不展開講了。
今天,我想重點介紹硬件設備之上的這兩層,這兩層的核心技術,構成了聯(lián)想智能邊緣計算的技術基石。
首先我們來看邊緣基礎架構層。就像我剛才所介紹的那樣,現(xiàn)在越來越多的行業(yè)應用,需要更低的時延、更靈活的部署、更強的適應性、更安全的數(shù)據(jù)隱私保護。在這種情況下,傳統(tǒng)的云的基礎架構可能無法滿足需求了,我們需要有一個更加擴展的、強化的基礎架構,從云延伸到邊。聯(lián)想研發(fā)了業(yè)界領先的邊緣計算平臺LECP (Lenovo Edge Computing Platform),它能夠和聯(lián)想的各種邊緣設備深度融合,為邊緣場景下的業(yè)務提供網(wǎng)絡及算力實時動態(tài)的感知調度,以及統(tǒng)一自主的運維管理。
當然,光有邊緣基礎架構,還是不夠的。我們還需要最上面這一層,也就是邊緣智能層,來支持各行各業(yè)智能化的應用和需求。聯(lián)想研發(fā)的邊緣AI平臺,能基于邊緣設備和場景數(shù)據(jù)訓練出適配場景的AI模型,并實現(xiàn)模型在云-邊-端之間的協(xié)同推理,能夠更有效地發(fā)揮邊緣側的算力,助力實現(xiàn)更廣泛的場景智能。
這兩層里面有很多關鍵的技術,由于時間的關系,我就在每一層里挑一個關鍵技術來介紹一下。
我們先來看一下邊緣基礎架構層中的一項關鍵技術——混合輕量級虛擬化引擎。
當云計算能力下沉到行業(yè)場景時,往往存在設備空間、耗電量等諸多限制因素,進而限制了計算存儲等基礎資源規(guī)模,因此需要運行其上的邊緣計算平臺向輕量化發(fā)展。另一方面,邊緣平臺上仍然需要承載原來云端所承載的多種邊緣智能應用,而這些應用有些需要跑在容器上,有些需要跑在虛擬機上。如何滿足這些多樣化的虛擬化需求?傳統(tǒng)的虛擬機及容器通常是由兩套獨立的虛擬化堆棧來分別實現(xiàn)。但這樣問題來了,這樣的虛擬機和容器的兩套方案會導致虛擬化開銷大、資源利用率低,并且不能混合編排和管理。為此,聯(lián)想在業(yè)界首創(chuàng)了混合輕量級虛擬化引擎,實現(xiàn)了虛擬機和容器在虛擬化引擎層的深度融合。僅通過一個虛擬化可執(zhí)行程序,就可以同時虛擬出輕量級虛擬機和安全容器,有效降低了虛擬化開銷,縮短了啟動時間。效率和性能大幅提升。
我們再看看邊緣智能層。首先,聯(lián)想首創(chuàng)了漸近式模型優(yōu)化技術。云側模型為追求精度一般體積較大,在邊緣側執(zhí)行時,需要根據(jù)可用資源進行模型裁剪。以深度學習卷積神經(jīng)網(wǎng)絡模型為例,該技術可以自適應調整卷積層的裁剪比例,根據(jù)場景漸進式優(yōu)化模型。模型下發(fā)到邊緣側之后,我們的AI任務協(xié)同計算技術不是把云邊端看成是分割開來的資源,而是把云邊端視為一個統(tǒng)一的資源池,通過感知資源池中的計算、存儲和網(wǎng)絡總體情況,動態(tài)調整任務在云邊端上的計算分布。此外,云側訓練好的模型不可能預知邊緣側特有的數(shù)據(jù)特征。為此,我們使用終身學習技術更新預加載模型的參數(shù),使模型更好地適配場景。
講完了這些核心技術,接下來,我想通過商飛大飛機制造的一個實例,為大家具體介紹一下聯(lián)想智能邊緣計算在行業(yè)中的應用。
這里呢,是商飛的飛機零部件噴涂車間。飛機需要噴漆的零件高達數(shù)百種,在傳統(tǒng)自動化噴涂實踐中,機械臂的示教和調試要花費幾周的時間;但如果采用人工噴漆,質量會依賴于工人的操作手法,也很難保證一致性。
這些棘手的問題,在聯(lián)想智能邊緣計算的助力下,迎刃而解。聯(lián)想打造的晨星機器人,在強大的邊緣算力和智能支持下,能讓工人通過機器人精準地執(zhí)行遠程噴漆工作,F(xiàn)在請大家看演示。
首先,機器人會對整個車間進行空間掃描感知,數(shù)據(jù)在邊緣側的虛擬機上實時三維建圖和渲染,并通過容器化的SLAM技術,導航定位,移動至指定的噴漆間。機器人的雙目立體相機將操作臺的工件和周邊情況實時采集到邊緣服務器。邊緣服務器隨后將3D視頻流實時推送到AR眼鏡。而工人通過AR眼鏡和手柄遠程操縱機器人同步執(zhí)行噴漆,手感完全等同于親臨現(xiàn)場。這樣操作一次自然示教之后,該零部件的噴漆能力就保存在了邊緣側,之后對于同樣規(guī)格的零部件,機器人就能實現(xiàn)自主噴涂。此外,機器人還能進行基于計算機視覺的噴涂質量自動檢測。
我們再來看看,剛才提到的幾項關鍵技術是如何賦能這個場景的。飛機零部件噴漆,既需要虛擬機來支持AR模型渲染,也需要容器來支持機器人噴涂、漆面檢測等應用。傳統(tǒng)做法往往需要兩臺以上機器運行不同的虛擬化堆棧,分別提供虛擬機及容器資源。那問題來了,這樣的兩套方案使得系統(tǒng)開銷增大,應用之間數(shù)據(jù)轉發(fā)性能低,無法滿足多終端實時并發(fā)渲染的時延指標。怎么辦呢,聯(lián)想的混合輕量級虛擬化引擎能在單臺機器上同時提供輕量級虛擬機和安全容器承載這些應用,實現(xiàn)二者深度融合,有效增加了系統(tǒng)資源利用率,最大化提升了模型渲染和機器人不同任務之間的轉發(fā)處理性能。
此外,噴涂質量檢測需要將深度學習網(wǎng)絡模型壓縮部署在邊緣側。傳統(tǒng)方法一般使用固定裁剪比,邊緣算力無法得到充分利用。而聯(lián)想創(chuàng)新的模型優(yōu)化技術,通過漸近式搜索裁剪比,實現(xiàn)了模型精度和算力資源的細粒度匹配,讓復雜模型得以更好地在邊緣優(yōu)化部署,實現(xiàn)了更高效的質量檢測。
另外,在噴涂質量檢測時,除了常見的缺陷,總是會存在檢測范圍外的新的缺陷種類,云端下發(fā)的預訓練模型對此無法應對。為此,我們通過終身學習技術在邊緣側持續(xù)更新模型,讓機器人學會處理新問題,擴展新的檢測能力。
聯(lián)想的智能邊緣計算技術的應用遠遠不止智能制造。它還為京東智慧園區(qū),洛陽5G智慧龍門景區(qū)等提供低時延、高可靠的智能服務。我相信,智能邊緣計算,將有力地推動新基建的發(fā)展,促進人工智能變成一種普惠的資源,滲透進各行各業(yè)。一座座智慧工廠,一個個智慧園區(qū)將不斷涌現(xiàn),人類的生活和生產將更加智能、便捷、和高效。智能,為一切可能!
這就是我今天的分享內容,稍后是精彩的新基建圓桌論壇,謝謝大家!