利潤1000%！英偉達的GPU為何會如此受追捧？
發布時間： 2023-10-24 10:35
英偉達的GPU為何會如此受追捧？英偉達發布截至7月30日的2024財年第二財季財報。第二財季，英偉達營收135.1億美元，同比增長101%；非美國通用會計準則下凈利潤為67.4億美元，同比增長422%。而造就英偉達瘋狂業績的最大推手無疑就是AI——用于處理AI計算的GPU需求火爆，使得英偉達數據中心業務收入翻倍，營收占比拉高到76%，增速遠超前一季度，刷新單季最高紀錄。根據GPU Utils的測算，英偉達AI芯片H100在2023年8月的市場總需求可能在43.2萬張左右，這個數字還沒有包括中國區特供的H800，國內各家大模型廠商對H800的需求也居高不下。在財報公布前，英偉達高端AI GPU不斷傳出漲價聲，Barrron's引述瑞杰金融分析師的數據指出，一張H100制造成本為3320美元，而售價則高達2.5萬~3萬美元，利潤率高達1000%，且需求只增不減，H100已售罄缺貨到2024年。毛利率超過70%，對芯片產品而言，有些不可思議。國外分析師認為，英偉達構建的CUDA軟件生態是客戶無法輕易轉向AMD等競爭對手的主要原因。原因在于，AI算力的配置絕非簡單的硬件堆疊，要把1000張加速卡、100臺AI服務器放在一起，跑同一個LM訓練或推論任務，還需要大量的配套軟件、通訊網絡，還不包括客戶的大量數據。即便把重達30多公斤、多達3.5萬個零件組成的英偉達HGX平臺層層堆起來，也堆不出LLM必須的AI算力。黃仁勛把H100這類AI GPU稱為“技術奇跡”，并非沒有原因。至于H100為何價格高昂？在硬件層面上，H100采用了四大先進技術。第一是臺積電4納米制程（4N，其實并非真正的4nm，叫做5nm+或許更合適），要讓這一顆長26.8厘米、寬11.1厘米、含有800億個晶體管的H100發揮前所未有的效能，非臺積電代工莫屬。第二是連接技術，每張H100包含3個NVLink連接，這是英偉達獨家的數據傳輸技術，第四代NVlink可提供每秒900GB的GPU對GPU互連帶寬，以便將更多H100互連使用，獲得倍增的效能。第三是80GB的HBM2e高帶寬存儲器，目前僅SK海力士、三星電子可供應，值得注意的是，英偉達剛剛宣布將最新的HBM3e植入最新GH200，是全球第一個支持HBM3e的GPU產品。第四是臺積電的獨家技術：CoWoS封裝，臺積電正積極擴建CoWoS產能，但供不應求情況恐將持續到2024年。CoWoS工藝能夠提供更好的成本、散熱和吞吐帶寬，后兩者對GPU特別重要。這四大技術每一項均屬尖端領域，如果說LLM推動AI GPU加速運算時代來臨，但讓英偉達站在當前科技舞臺上獨舞的關鍵，卻是黃仁勛領導團隊的長期押注與心血累積。
熱門文章
03/13 . 2024
03/19 . 2024
02/02 . 2024
06/20 . 2024
07/02 . 2024
主站蜘蛛池模板：
项城市|
丰台区|
乐亭县|
湟源县|
亳州市|
景泰县|
巴彦县|
蓬莱市|
辛集市|
册亨县|
博爱县|
昌都县|
桐庐县|
尼勒克县|
张家界市|
玉田县|
吉水县|
永靖县|
通山县|
吴堡县|
绿春县|
报价|
高阳县|
海兴县|
昌吉市|
晋州市|
巴楚县|
钟山县|
项城市|
漳平市|
灵石县|
昭苏县|
保康县|
梅州市|
旌德县|
贡山|
岳池县|
手机|
柳江县|
灵山县|
汽车|
