日韩欧美看国产,欧美精品一二三四,懂色av一区二区三区在线播放,久久噜噜亚洲综合

ChatGPT爆火:OpenAI使用了約1萬顆英偉達GPU來訓練GPT-3.5模型
發布時間: 2023-10-24 10:35

被禁售、閹割的A100

價格水漲船高

ChatGPT爆火,它超算集群背后用的英偉達高端GPU也火了。

OpenAI使用了約1萬顆英偉達GPU來訓練GPT-3.5模型,為了進一步滿足服務器需求,OpenAI 使用的英偉達GPU數量已經增加到約2.5萬個,機構預計這個數量將超過3萬個。據外媒報道,如果谷歌需要將該技術應用到每一次的搜索中,則需要部署超過410萬個英偉達GPU。就算是國內初出茅廬的類ChatGPT系統MOSS,也采用了8個英偉達的A100 GPU。

ChatGPT帶來了A100等高端GPU需求的增長,而去年8月底,在這類芯片上我們又被“卡”了脖子。

美國通過一紙禁令,禁止英偉達向中國出售包括最新的H100和A100在內的高端GPU。這些產品系當前領先技術的新一代GPU芯片,國產替代難度大,而市面上現存的A100均是存貨,據說這些A100的剩余使用壽命還有約4-6年,如果上量,應該很快會耗盡。

此前困于汽車芯片的小鵬汽車CEO何小鵬又為缺高端顯卡發聲,稱英偉達 A100/H100的限制令“會對所有自動駕駛云端訓練帶來挑戰”,好消息是:小鵬汽車剛好已經將未來幾年的需求提前買回來了。

小鵬汽車有提前備貨,但禁售令對自動駕駛或其他AI領域的中國企業有多大影響,就不得而知了。在市面上,A100因為變成稀缺品,價格開始水漲船高,從官方的1萬美元/枚,約合人民幣7萬,漲至8萬、9萬元,快要到10萬一枚。即便去年年底英偉達推出A100“閹割版”(帶寬被限制)——A800顯卡,于2022年Q3投入生產,在中國依然遭遇嚴重缺貨。

據了解,A800京東官網定價超過8萬元/枚,甚至超過A100官方定價。3月初,有云廠商人士接受財經十一人采訪表示,A800實際售價甚至高于10萬元/枚,價格還在持續上漲。A800目前在浪潮、新華三等國內服務器廠商手中是稀缺品,一次只能采購數百片。

來源:財經十一人

A100和A800在中國如此缺貨,禁令對英偉達的潛在影響高達4億美元,英偉達沒閑著,一邊催上游代工廠發貨,增加訂單,一邊爭取美國禁令的寬限時間

去年9月,傳英偉達為滿足大陸客戶激增的需求,對臺積電下了“超級急件”訂單,計劃在緩沖期之內完成更多的交付。據悉,英偉達要求臺積電提前生產了原訂于2023年出貨的部分產品,總量約5000片晶圓,交期從5-6個月壓縮到了2-3個月,此前預計最快10月底至11月初開始陸續交貨。隨著近期ChatGPT大熱,3月有業內人士透露,英偉達還向臺積電增加了A100、H100、A800 GPU訂單。

通過與美國官方斡旋,除了將出口限制寬限延后至2023年3月,在2023年9月1日前,可以通過英偉達的香港公司繼續履行和運輸A100和H100芯片訂單。

英偉達此前靠“挖礦”賺得盆滿缽滿,如今“挖礦時代”終結,英偉達又站在人工智能這一新風口上,CEO黃仁勛宣稱人工智能的“iPhone時刻”已經到來,或許在A100這樣的高端顯卡市場,又會迎來和幾年前類似的需求暴漲?

A100作為H100的前代產品,雖然不是最新產品,但在人工智能領域依然能打。老黃在近期采訪中還多次推銷A100顯卡,在他看來,想要進入人工智能領域,購買A100就是最好的選擇。

2020年5月14日晚,英偉達創始人CEO黃仁勛以線上發布的形式,從自家廚房中“搬”出了A100 GPU,黃仁勛表示這是英偉達8代GPU史上最大的一次性能飛躍。這款高端顯卡集AI訓練和推理于一身,適用于自動駕駛、高端制造、醫療制藥等場景,其AI訓練和推理性能相比于前代V100提升了高達20倍。

動圖封面
這代DGX A100 AI系統包含8塊A100 GPU

ChatGPT主要就是用英偉達的A100進行訓練,這款顯卡也成為了最搶手的產品之一。某寶上關于A100 顯卡商品的問答中,就有購買者表示自己買來做深度學習,訓練模型。

在摩爾定律最好的十年,AI 處理速度提高了100萬倍,而到了黃仁勛提出的“黃氏定律”(Huang’s Law),從2012年的K20X到2020年的A100,英偉達的GPU推理性能提高到原來的317倍,遠超摩爾定律的發展速度。

GPU推理性能提升

GPU或將推動AI性能實現逐年翻倍。英偉達與數據科學家、AI 研究人員合作開發新模型,在整個跨度內,成功使大型語言模型處理速度提高了一百萬倍。

游戲、云計算、加密貨幣、元宇宙、ChatGPT……不管大家要挖金礦、銀礦還是鐵礦,站在什么樣的風口上,如果說英偉達是產業上游的“賣鏟人” ,那么它的A100、H100等高端顯卡,對各大企業來說就是最高效,最省力的“鏟子”。

粵公網安備 44030502006483號、 粵ICP備15047669號
  • 捷易科技聯系人
  • 主站蜘蛛池模板: 久治县| 满城县| 杭锦后旗| 安远县| 奇台县| 乃东县| 民勤县| 谢通门县| 德钦县| 古蔺县| 吉林省| 白银市| 屏山县| 菏泽市| 温泉县| 金门县| 孟村| 休宁县| 工布江达县| 张家界市| 武山县| 宜兰市| 新巴尔虎右旗| 石河子市| 吕梁市| 松原市| 大洼县| 平度市| 崇仁县| 横峰县| 靖江市| 河津市| 乌鲁木齐县| 南和县| 黔南| 名山县| 淮北市| 彩票| 白玉县| 全椒县| 攀枝花市|