本文來源:時代財經(jīng) 作者:謝斯臨
圖片來源:Pixabay
ChatGPT爆火帶動AI芯片需求飆升。
(相關資料圖)
截至上周五,英偉達最新發(fā)布的旗艦AI芯片H100在ebay上的售價超過4萬美元一枚。相比此前零售商3.6萬美元的報價,已提價明顯。
這一價格仍在持續(xù)上漲。4月19日,時代財經(jīng)搜索eBay時發(fā)現(xiàn),目前共有5家店鋪掛牌銷售H100芯片,售價普遍達到4.5萬美元左右,其中標價最高的一枚超過5萬美元。以人民幣計,相當于不到一周時間漲價近7萬元。
而在國內,AI應用的主力芯片——由英偉達2020年發(fā)布的A100,其交易價格也在極短時間內迅速飆升。從事GPU服務器銷售的文強(化名)向時代財經(jīng)表示,從年初開始到現(xiàn)在短短三個月多時間里,A100的價格已經(jīng)從原本的6萬元左右一路漲至9萬元,甚至一度超過10萬元,漲幅超過50%。
在文強看來,A100售價還將繼續(xù)上漲。去年8月,美國政府發(fā)布政策,禁止英偉達A100、H100兩款AI芯片售往中國。目前,國內在售的產(chǎn)品都是此前的存貨。業(yè)內預估,國內A100芯片僅有3萬枚存貨,奇貨可居。
為符合美國政府出口管制政策,英偉達隨后宣布推出在性能、帶寬上有所閹割的“減配版”A800、H800芯片。受限于產(chǎn)能問題,這兩款芯片同樣缺貨,價格也隨之水漲船高。
文強告訴時代財經(jīng),自己手中A800報價也已經(jīng)高達8.7萬元,且僅剩16枚,售完即止。如果需求量大、需要訂貨,報價還會再漲5000元至9.2萬元,直逼A100芯片售價。
“一天一個價,一天比一天貴?!?/p>
A100芯片缺口達30萬枚
算力、算法和數(shù)據(jù)構成了AI時代的三要素,而算力又是基礎設施。有多少枚GPU、多少算力,被認為是大語音模型研發(fā)和創(chuàng)業(yè)成敗最為關鍵的因素之一。
正是因此,在海內外一眾巨頭和創(chuàng)業(yè)者涌入大語言模型研發(fā)訓練的當下,市場對AI芯片的需求量飆升。
據(jù)前人工智能NLP企業(yè)首席科學家、千芯科技董事長陳巍測算,國內如果想要直接訓練出一個GPT-3級別的大模型,最少需要3000到5000枚A100級別的AI芯片。
這意味著國內市場存在巨大的供應缺口。目前除了阿里巴巴、百度等互聯(lián)網(wǎng)巨頭之外,商湯科技、昆侖萬維、毫末智行、360、知乎等公司也官宣了自己的大模型,如果再加上王小川、王慧文、李開復等創(chuàng)業(yè)者,中國年內即將推出的大模型數(shù)量已經(jīng)超過10個。光是滿足這些企業(yè)的需求就需要3萬到5萬枚A100級別的AI芯片。
這還只是研發(fā)訓練層面的需求量。陳巍向時代財經(jīng)表示,如果想要實際部署,算力的需求量只會更大。以保守情況估計,國內A100級別的AI芯片缺口在30萬枚左右。
“我們算過,如果百度要在自己的搜索引擎內接入類似ChatGPT這樣的對話模型,可能需要10萬塊A100級別的AI芯片,這還只是假設每個人只對話一次的保守測算?!?/p>
正是因此,A800、H800芯片遭到包括服務器、互聯(lián)網(wǎng)廠商在內的公司哄搶。
一份流傳的《阿里AI專家交流紀要》顯示,百度年初緊急下單3000臺8枚芯片的A800服務器,這意味著需要2.4萬枚A800,預計全年百度會有A800和H800共5萬枚需求。阿里云預計在今年需要1萬枚左右,其中6000枚是H800。
在海外,巨頭們的搶購也同樣瘋狂。據(jù)媒體報道,馬斯克為推進推特內部的新AIGC項目,購買了大約1萬枚AI芯片。而自2022年末開始,微軟就實行了GPU資源配額供給,但今年1月以來審批時間越來越長,如今部分申請需要等待幾天甚至幾周才能獲批。同時,微軟向英偉達預訂的數(shù)萬枚AI芯片,交貨無期。
或拖慢國產(chǎn)大語言模型發(fā)展
對于大語言模型訓練來說,英偉達幾乎成為唯一的贏家。
去年,國產(chǎn)芯片公司壁仞科技發(fā)布的BR100,已經(jīng)被普遍認為能夠在算力和能效比上達到全球領先水準。然而,在配套的產(chǎn)品生態(tài)上,幾乎無人能與英偉達抗衡。
一位AI芯片設計相關的從業(yè)者向時代財經(jīng)表示,英偉達于2006年發(fā)布的CUDA平臺早已成為應用最為廣泛的AI開發(fā)生態(tài)系統(tǒng),然而CUDA幾乎只支持英偉達的Tesla架構GPU,這導致開發(fā)者難以脫離英偉達芯片,進行生成式AI的研發(fā)以及訓練?!皫缀鯖]有芯片公司可以撼動英偉達的統(tǒng)治地位?!?/p>
IDC數(shù)據(jù)顯示,國內GPU服務器在2021年占國內服務器市場規(guī)模的比例超過88.4%,英偉達的產(chǎn)品占比超80%。
但受限于美國政府的出口管制政策,中國一眾互聯(lián)網(wǎng)大廠、大語言模型的創(chuàng)業(yè)者都無法及時獲得最先進的AI芯片。在國內難以產(chǎn)出替代產(chǎn)品的情況下,毫無疑問將會影響國產(chǎn)大語言模型的發(fā)展進程。
在陳巍看來,中國企業(yè)如果使用“減配版”芯片,綜合帶寬性能可能只有同期旗艦型號的六成。這樣需求量更大,跑得卻更慢,綜合成本至少要高出20%至30%?!斑@很有可能是賺錢和不賺錢的分水嶺,活下去和活不下去的分水嶺。”
關鍵詞: