當?shù)貢r間11月15日,微軟在西雅圖舉行的Ignite開發(fā)者大會上,推出兩款定制芯片,以應對不斷增加的大模型訓練成本挑戰(zhàn),并試圖降低提供AI服務的成本。
微軟表示,新發(fā)布的芯片不會出售,僅供支持自己的產(chǎn)品,并作為微軟云Azure云計算服務的一部分。亞馬遜(142.83, -0.37, -0.26%)和谷歌(138.7, 2.32, 1.70%)等科技巨頭也已經(jīng)使用了自研芯片,并部分向客戶提供。
微軟最新推出的兩款芯片分別為用于加速AI計算任務的Maia芯片,以及采用Arm CPU架構的Cobalt芯片。Maia芯片旨在運行大型語言模型。微軟云和人工智能部門執(zhí)行副總裁Scott Guthrie表示,希望通過優(yōu)化這款AI芯片來提供更快、成本更低、質量更高的解決方案。
微軟沒有透露這些芯片相對于傳統(tǒng)芯片具體有多少能力提升的技術細節(jié)。但微軟Azure硬件系統(tǒng)和基礎設施副總裁Rani Borkar表示,兩款芯片均采用臺積電(98.54, -0.26, -0.26%)5納米制造技術制造。
此外,Maia芯片的構建方式與英偉達使用的網(wǎng)絡連接技術也有所不同,Maia芯片與標準以太網(wǎng)電纜連接在一起。
不過微軟推出自研AI芯片并不是希望取代英偉達等廠商。微軟表示,明年將為Azure客戶提供云服務,這些服務就是運行在英偉達和AMD(119.83, 1.83, 1.55%)的最新旗艦芯片上。微軟正在AMD的最新旗艦芯片上測試OpenAI最先進的模型GPT-4。
研究公司Creative Strategies首席執(zhí)行官本·巴賈林(Ben Bajarin)分析認為,通過推出AI芯片Maia,微軟希望在云端銷售人工智能服務,而更長遠的目標是能夠在PC電腦和手機上來處理這些人工智能服務。
微軟推出的另一款芯片Cobalt則是用來回應亞馬遜云AWS的競爭。微軟表示,已經(jīng)在測試使用Cobalt為Teams等消息應用提供支持。
AWS也將于本月下旬召開Reinvent開發(fā)者大會。AWS正在開發(fā)未來幾代基于AWS設計的芯片。AWS方面除了使用基于英偉達H100 GPU芯片之外,還推出了基于AWS自研的機器學習推理芯片Amazon Inferentia 2以及AWS自研機器學習訓練芯片Amazon Trainium。AWS方面還表示,OPPO、Airbnb等客戶都在使用AWS的專用加速器來處理機器學習工作負載。
當?shù)貢r間11月15日,微軟在西雅圖舉行的Ignite開發(fā)者大會上,推出兩款定制芯片,以應對不斷增加的大模型訓練成本挑戰(zhàn),并試圖降低提供AI服務的成本。
微軟表示,新發(fā)布的芯片不會出售,僅供支持自己的產(chǎn)品,并作為微軟云Azure云計算服務的一部分。亞馬遜和谷歌等科技巨頭也已經(jīng)使用了自研芯片,并部分向客戶提供。
微軟最新推出的兩款芯片分別為用于加速AI計算任務的Maia芯片,以及采用Arm CPU架構的Cobalt芯片。Maia芯片旨在運行大型語言模型。微軟云和人工智能部門執(zhí)行副總裁Scott Guthrie表示,希望通過優(yōu)化這款AI芯片來提供更快、成本更低、質量更高的解決方案。
微軟沒有透露這些芯片相對于傳統(tǒng)芯片具體有多少能力提升的技術細節(jié)。但微軟Azure硬件系統(tǒng)和基礎設施副總裁Rani Borkar表示,兩款芯片均采用臺積電5納米制造技術制造。
此外,Maia芯片的構建方式與英偉達使用的網(wǎng)絡連接技術也有所不同,Maia芯片與標準以太網(wǎng)電纜連接在一起。
不過微軟推出自研AI芯片并不是希望取代英偉達等廠商。微軟表示,明年將為Azure客戶提供云服務,這些服務就是運行在英偉達和AMD的最新旗艦芯片上。微軟正在AMD的最新旗艦芯片上測試OpenAI最先進的模型GPT-4。
研究公司Creative Strategies首席執(zhí)行官本·巴賈林(Ben Bajarin)分析認為,通過推出AI芯片Maia,微軟希望在云端銷售人工智能服務,而更長遠的目標是能夠在PC電腦和手機上來處理這些人工智能服務。
微軟推出的另一款芯片Cobalt則是用來回應亞馬遜云AWS的競爭。微軟表示,已經(jīng)在測試使用Cobalt為Teams等消息應用提供支持。
云服務廠商正在通過向客戶提供更具成本優(yōu)勢的解決方案,占據(jù)更多市場。受人工智能需求的提振,微軟云服務銷售大增。
微軟上個季度公布最新財報顯示,在關鍵的云業(yè)務領域,微軟云業(yè)務的銷售額同比增長19%至243億美元,成為該公司業(yè)務增長的最大驅動力,貢獻了超過40%的收入。
目前在全球云服務市場,占據(jù)最大份額的是亞馬遜云AWS,微軟云Azure位居第二,谷歌排名第三。
AWS也將于本月下旬召開Reinvent開發(fā)者大會。AWS正在開發(fā)未來幾代基于AWS設計的芯片。AWS方面除了使用基于英偉達H100 GPU芯片之外,還推出了基于AWS自研的機器學習推理芯片Amazon Inferentia 2以及AWS自研機器學習訓練芯片Amazon Trainium。AWS方面還表示,OPPO、Airbnb等客戶都在使用AWS的專用加速器來處理機器學習工作負載。