2023年2月28日，世界移動通信大會(MWC 2023)期間，中國電信&華為2023云網核心能力創(chuàng)新成果全球發(fā)布會上，中國電信攜手華為發(fā)布星河AI統(tǒng)一推理框架。
星河AI統(tǒng)一推理框架，專注AI算法開發(fā)和性能提升，實現(xiàn)底層異構算力協(xié)同，帶來效率和性能大幅提升。
隨著人工智能產業(yè)不斷發(fā)展壯大，多樣化算力需求場景不斷涌現(xiàn)，AI在行業(yè)逐步滲透，AI處理器層出不窮，包括擅長圖形運算的GPU、專注于更高效人工智能神經網絡處理的NPU等。實際業(yè)務應用過程中，底層的AI異構計算平臺多，API接口不統(tǒng)一，呈現(xiàn)煙囪式的應用開發(fā)，導致AI應用開發(fā)門檻高、代碼維護成本高。
中國電信科技創(chuàng)新部副總經理 羅銳
“通過星河AI統(tǒng)一推理框架，根據不同硬件底層接口，向上將推理業(yè)務流抽象封裝出業(yè)務功能模塊接口，開發(fā)者只需要關注業(yè)務邏輯，無需關注底層硬件接口�！敝袊娦趴萍紕�(chuàng)新部副總經理羅銳在發(fā)布會上這樣說到。
中國電信數字智能科技分公司AI研發(fā)中心高性能計算技術總監(jiān) 朱慶軍
從底層技術實現(xiàn)維度，中國電信數字智能科技分公司AI研發(fā)中心高性能計算技術總監(jiān)朱慶軍給出專業(yè)的答復：“星河AI統(tǒng)一推理框架致力于提升AI開發(fā)效率及性能提升，上層基于電信AI業(yè)務場景開發(fā)的技術沉淀，下層依托昇騰推理開發(fā)使能套件，快速實現(xiàn)AI應用開發(fā)，支持云邊協(xié)同，業(yè)務部署達成小時級一鍵部署“。當前基于該平臺已完成90%以上自研CV應用的開發(fā)，超過1000+AI算法完成適配遷移，助力500多個產業(yè)數字化項目落地。
在AI開發(fā)過程中，通過軟硬件協(xié)同優(yōu)化提升整體業(yè)務流性能。主要包括基于昇騰的視圖解析硬件加速方案、模型算子加速庫等，結合電信在業(yè)務流的優(yōu)化處理方案，端到端提升AI應用性能。其中，CV類業(yè)務流性能提升約1.4~2倍，單純視頻解碼場景性能提升2~3倍，圖片解碼場景性能提升1.5~2倍。
在實際應用中，通過星河AI統(tǒng)一推理框架，上層AI應用一處開發(fā)，云邊多硬件平臺部署，通過統(tǒng)一業(yè)務層接口，快速匯聚AI生態(tài)，推動多場景方案落地。
為應對AI長尾場景，中國電信聯(lián)合華為及業(yè)界伙伴，依托星河AI統(tǒng)一推理框架，發(fā)揮中國電信算網資源優(yōu)勢，協(xié)同昇騰AI生態(tài)成果，快速孵化更多場景方案，吸引更多伙伴入駐，構筑面向未來自演進的電信AI生態(tài)。當前已有100+個生態(tài)伙伴，5000+算法，聯(lián)合孵化出智慧城市、社會治理、明廚亮灶等10+場景化綜合信息解決方案，支撐500多個產業(yè)數字化項目落地。
面向未來，依托星河AI統(tǒng)一推理框架，中國電信攜手華為及業(yè)界伙伴，將持續(xù)豐富AI生態(tài)體系，不斷升級星河AI能力，共同為千行百業(yè)提供融云、安全、AI等的數字化產品和服務。
