在半導(dǎo)體寒冬中依靠AI突圍的英偉達芯片成為全球科技大廠瘋搶的對象，旗下的H100近期更被投行分析師曝出，利潤率接近1000%！在這款芯片已經(jīng)缺貨到明年的情況下,，其給英偉達帶來的盈利更是驚人,。
H100利潤率達1000%
近日，據(jù)《巴倫周刊》資深撰稿人Tae Kim最近在社交媒體上發(fā)布的帖子估計,，其援引投行Raymond James數(shù)據(jù)稱,，英偉達制造一顆H100 GPU的成本為3320美元,，但向客戶給出的售價為2.5萬至3萬美元。并且，Raymond估計的物料清單(BOM)也涵蓋高帶寬內(nèi)存(HBM)。
Tom`s Hardware隨后報導(dǎo),，這份報告意味著對英偉達來說,，H100芯片的成本利潤率接近1,000%。然而,，目前尚不清楚BoM（物料清單）成本分析有多深入：如果這是純粹的制造成本問題（在考慮良率的情況下平均每片晶圓和其他組件的價格）,，那么英偉達仍然需要支付相當大的銷售費用,。
舉例來說,，產(chǎn)品開發(fā)需要時間和資源,，考慮到H100等產(chǎn)品的產(chǎn)品開發(fā)生命周期中的工程師和其他參與者,，在計算每款平均產(chǎn)品開發(fā)成本之前也必須考慮到英偉達的研發(fā)成本。據(jù)Glassdoor稱,，英偉達電子硬件工程師的平均年薪約為20.2萬美元,，這還只是單個人，開發(fā)像H100這樣的芯片很可能需要多名專業(yè)工作者的數(shù)千小時的投入,。所有這些也必須被考慮進去,。
H100是目前訓(xùn)練大語言模型最需要的圖形處理器（GPU），因為它對于大模型的推理和訓(xùn)練都是速度最快的,，通常也是推理方面性價比最高的,。它可以應(yīng)用于各種AI場景,，如AI聊天機器人,、推薦引擎、視覺AI,、數(shù)據(jù)分析,、高性能計算等。
價格炒到4.5萬美元
此外,，值得注意的是,，雖然H100給到客戶的報價是2.5萬至3萬美元，但在其它渠道,，價格也被持續(xù)炒到新高,。例如，8月初eBay網(wǎng)站上H100的售價已經(jīng)高達4.5萬美元,，這較今年4月份4萬美元的價格漲幅超過10%,，而且貨源較上半年也顯著減少。
近日還有消息稱,，下一代GPT大模型GPT5需要5萬張英偉達最高配置的H100芯片,，全球市場對H100芯片的需求量達到43萬張,，英偉達的產(chǎn)能可能難以滿足如此大的算力需求。
但研究機構(gòu)Gartner芯片分析師盛陵海表示：“目前GPU的缺口多大不好預(yù)估,，需求是被炒起來的,，越是缺，市場就越是要,?！?/span>
對于供應(yīng)受限的原因，花旗分析師Atif Malik表示,，部分涉及先進封裝及HBM,。其中臺積電 CoWoS先進封裝產(chǎn)能明顯供不應(yīng)求,，但明年CoWoS產(chǎn)能有望倍增,。
CoreWeave共同創(chuàng)辦人Brian Venturo也表示，英偉達H100在2023年或都會缺貨,。對物流,、資源有合理規(guī)劃的客戶，目前預(yù)測的到貨時間點落在明年第1~2季,。
石油大國也加入搶芯
目前除了谷歌,、Meta、亞馬遜為首的互聯(lián)網(wǎng)大廠在瘋搶H100,，連石油大國也不例外,。
據(jù)谷歌資料顯示，目前已經(jīng)建成包含26000個H100的A3服務(wù)器,，還部署了數(shù)十臺TPU V4超級計算機,，每臺擁有4096個TPU芯片；亞馬遜官方資料顯示,，它們即將推出的EC2超級集群可以擴展至20000個互聯(lián)的H100,；Meta資料顯示，亞馬遜云已經(jīng)擁有2000個DGX A100服務(wù)器,，配備了超過16000個A100 GPU,，亞馬遜專家表示未來他們還會采購3萬片H100
沙特阿拉伯最近以4萬美元單價購入了至少3000塊英偉達H100 GPU芯片。此外阿聯(lián)酋也同樣購買數(shù)千顆英偉達芯片,，并將它們部署在阿布扎比馬斯達爾市的國有技術(shù)創(chuàng)新研究所內(nèi),，用于創(chuàng)建了名為“Falcon”的大型語言模型上。
英偉達真的“不可替代”嗎,？
在AI芯片極度供不應(yīng)求的背景下,，市場也在關(guān)注有望與英偉達一爭高下的AMD。
AMD公司先前已經(jīng)宣布,，預(yù)計將在年底前推出英偉達GPU的替代解決方案——MI300 AI芯片,。AMD首席執(zhí)行官蘇姿豐(Lisa Su)在公司財報電話會議上表示：“客戶對我們的人工智能解決方案表現(xiàn)出了濃厚的興趣，我們已經(jīng)取得了重大進展?！?/span>
但由于業(yè)內(nèi)對于AMD的芯片是否能夠真正替代英偉達的產(chǎn)品仍持懷疑態(tài)度,，AMD財報公布后股價暴跌約6%。
“AMD的人工智能芯片值得期待,，但是到底有多少客戶會用現(xiàn)在還是未知數(shù),，而從行業(yè)角度來看，多一種選擇總是好的,?！币晃恍酒I(lǐng)域資深人士表示。
在全球范圍內(nèi),，其他新興的人工智能芯片初創(chuàng)公司近期也宣布了不少融資消息,。由芯片行業(yè)資深人士凱勒（Jim Keller）領(lǐng)導(dǎo)的加拿大初創(chuàng)公司Tenstorrent正在開發(fā)對標英偉達的人工智能芯片，該公司近期從現(xiàn)代汽車集團和三星投資基金等公司方面籌集了1億美元資金,，估值達10億美元,。
人工智能初創(chuàng)公司d-Matrix創(chuàng)始人兼CEO謝思（Sid Sheth）認為，芯片的短缺可能還會迫使企業(yè)尋求其他創(chuàng)造性的方法來解決問題,，比如開發(fā)能夠提高芯片生產(chǎn)效率的新技術(shù),。
