馬斯克已經(jīng)宣布其人工智能初創(chuàng)公司 xAI 的大語(yǔ)言模型 Grok-2 將于 8 月推出,將帶來(lái)更先進(jìn)的 AI 功能。雖然 Grok-2 還沒(méi)亮相,但馬斯克已經(jīng)開(kāi)始為其 Grok-3 進(jìn)行造勢(shì)。
馬斯克表示,訓(xùn)練 AI 聊天機(jī)器人需要數(shù)據(jù)集,而且從現(xiàn)有數(shù)據(jù)中清除大型語(yǔ)言模型 (LMM) 的工作量很大。他還談到了 OpenAI 模型輸出訓(xùn)練的幾個(gè)問(wèn)題。
他透露 xAI 的 Grok-3 用了 10 萬(wàn)塊英偉達(dá) H100 芯片進(jìn)行訓(xùn)練,預(yù)計(jì)將于年底發(fā)布,相信它會(huì)“非常特別”。
H100 是英偉達(dá)開(kāi)發(fā)的專門(mén)用于處理大語(yǔ)言模型(LLMs)數(shù)據(jù)的 AI 芯片。每塊英偉達(dá) H100 人工智能芯片的價(jià)格估計(jì)在 3-4 萬(wàn)美元(當(dāng)前約 21.9 - 29.2 萬(wàn)元人民幣)左右,批量購(gòu)買(mǎi)的話可能會(huì)有折扣。
我們簡(jiǎn)單計(jì)算可知,xAI 這里的 10 萬(wàn)塊英偉達(dá) H100 價(jià)值 30-40 億美元(IT之家備注:當(dāng)前約 218.68 - 291.57 億元人民幣)。馬斯克之前曾提到特斯拉今年從英偉達(dá)的采購(gòu)額估計(jì)將在 30-40 億美元之間,合理推測(cè) xAI 這里用的是特斯拉購(gòu)買(mǎi)的英偉達(dá)芯片進(jìn)行訓(xùn)練。