 |
|
張貼者: |
迫使超微跟進
|
|
| 時間: |
2026/8/29 下午 07:13:00
|
| 標題: |
輝達降規格記憶體容量從原本1TB砍到最低192GB
|
|
內容: |
黃仁勳藉一場大缺貨改寫比賽規則 記憶體廠紅利沒預期那麼高了 2026-08-28 08:20 聯合新聞網/ 商業周刊
輝達的Vera Rubin,單顆GPU搭載288GB高頻寬記憶體;據傳下一代Rubin Ultra測試版本只有192GB。攝影者.郭涵羚 輝達的Vera Rubin,單顆GPU搭載288GB高頻寬記憶體;據傳下一代Rubin Ultra測試版本只有192GB。攝影者.郭涵羚
【撰文者: KP】
1.記憶體缺貨,逼輝達降規格!下一代旗艦晶片Rubin Ultra,記憶體容量從原本1TB砍到最低192GB,背後卻是黃仁勳邊降成本、邊賣更多晶片的盤算。 2.記憶體廠還能享受缺貨紅利嗎?當輝達把單張晶片規格縮小、轉向機櫃級整合,迫使超微跟進,也改寫AI晶片的競爭規則。
根據近期產業消息,輝達下一代旗艦晶片Rubin Ultra的記憶體配置正在進行降規格測試。
原本市場期待它配備高達一TB的頂級高頻寬記憶體HBM4E,現在測試版本降到了最低一百九十二GB,比現行Vera Rubin的二百八十八GB還要少。
輝達之前就做過類似的妥協,例如將Vera CPU的總記憶體容量從五十四TB降到二十八TB。原因很簡單,全世界都在搶記憶體,製造商實在交不出那麼多貨。
雖然缺貨是業界共識,但我們能從輝達官方的說法,看出他們設計晶片的思維:「我們正持續優化運算、網路和記憶體的組合,為客戶提供最佳的效能和效率。」這句話可以拆成兩個核心重點來看。
因應產能不足降規格 輝達靠一技術彌補容量縮小問題 這是一個非常現實的產能算術題。HBM4E的產能到了二○二七年依然非常緊張,如果輝達堅持每一顆晶片都要塞滿一TB的記憶體,現有的總供應量只能做出少量頂級晶片。
若把單張晶片記憶體降到一百九十二GB,同樣的記憶體總量能做出約五倍數量的晶片。
對微軟、Meta這些超級客戶來說,他們現在最缺的是整體能用的算力。此刻拿到更多台「稍微瘦一點」的晶片,比拿到少數幾台「滿血頂配」的晶片更好。
另外,目前的低容量配置很可能只是二○二七年初期缺貨時的臨時做法。
許多分析指出,只要未來記憶體產能順利提升,高容量的版本依然有機會回歸,市場不必把暫時的測試版當成永久降規格。
單張晶片記憶體變小,還跑得動先進大型語言模型嗎?答案是,大模型本來就不是靠單一晶片運作——這裡才是輝達展現技術實力的地方。
當單張晶片容量縮水,把大量晶片高效率串聯起來的「機櫃級網路」就成了關鍵解法。Rubin Ultra透過輝達專屬的高速互連技術(NVLink),把五百七十六顆晶片串成一個運算整體,在軟體眼裡就像一顆超級大晶片;單卡只有一百九十二GB無妨,串起來就能共享超過一百TB的記憶體池。
而且,少堆幾層記憶體,發熱與耗電也跟著降,這在單櫃動輒數百千瓦的機房裡同樣關鍵。
更重要的是,記憶體縮水對不同工作的影響並不一樣。
AI運作分成兩個階段:「理解問題」階段需要大量運算,對記憶體容量依賴低;「生成回答」階段,需要處理超長文章和複雜對話,要在記憶體裡維護大量上下文暫存資料,就很吃記憶體容量。
輝達的解法是把任務分層,配給不同等級的記憶體。理解問題吃的是算力,用不到最貴的記憶體,所以輝達另外做了一款晶片Rubin CPX,改用便宜得多的一般記憶體。生成回答時暴增的暫存資料,則往下丟到一層新的快閃記憶體暫放。
從晶片、網路到儲存重新分工,這就是輝達所謂的優化組合。
除了提升產能與系統效率,這種優化策略還順便解決了輝達內部的另一個財務隱憂,那就是成本結構失衡。
把單卡記憶體從原訂的1TB砍到192GB。一樣的記憶體總量,輝達能做出5倍數量的晶片。
「優化策略」守住毛利率 不讓利潤流進記憶體三巨頭口袋 回看前幾代產品,記憶體占整體硬體成本的比例其實不高。但隨著記憶體規格越來越高,價格也被炒高,到了Vera Rubin這一代,記憶體成本已經占了整台伺服器機櫃的二五%到三○%。在某些AI晶片組中,高頻寬記憶體甚至占了高達六○%的成本。
如果輝達堅持每顆晶片都塞滿最貴的記憶體,意味著客戶買設備的錢,很大一部分會直接流進SK海力士、三星與美光這些記憶體廠商的口袋,輝達自己能賺到的利潤空間就會被嚴重壓抑。
因此,輝達降低單卡高頻寬記憶體的用量,改用低價一點的記憶體來分擔負擔,壓低了記憶體的採購金額。這讓輝達在交付更多設備的同時,順手保護了自己的毛利率,把更多利潤留在自己擁有自主權的晶片與軟體上。
因為輝達用同樣的記憶體總量造出了更多晶片,整體市場對記憶體的總需求依然在成長。記憶體的結構性短缺預計會持續到二○二七年,定價權依然在供應商手裡。
只是產品結構會有所轉變,過去那些預測「所有頂級晶片都會裝滿最高階記憶體」的過度樂觀模型需要修正,未來中階配置的產品占比會提高。
記憶體大廠們依然能享受市場缺貨的紅利,只是成長曲線會比最激進的預測稍微平緩一點。
超微戰場也轉移! 不跟進,就會困在單卡競爭框架 理解了這個邏輯,就能夠明白為什麼超微(AMD)最近也在全力推進自家的整機櫃方案,把七十二顆晶片整合在同一個機櫃架構裡。
如果AI晶片的競爭只停留在「單張晶片」的規格比較,例如比誰的運算速度快、誰的記憶體大,超微完全有能力在規格表上與輝達平起平坐。
然而輝達藉由記憶體瓶頸,把比賽規則改了。現在客戶採購時,看重的是機櫃層級的整體運算效率。
當單張晶片的記憶體變小,晶片之間的溝通效率就成了決定勝負的關鍵。如果超微只賣單張晶片,讓客戶拿傳統的網路線自己拼湊,整體運作效率就會被輝達的整合生態遠遠甩在後頭。
加上輝達軟體生態系CUDA,原本就對多晶片串聯與記憶體管理做過大量優化,硬體規格就算變動,軟體也能幫忙緩衝,這對軟體生態相對弱勢的競爭對手來說壓力更大。
所以超微必須跨足機櫃設計,去攻克晶片串聯這塊硬骨頭。在今天的AI基礎建設領域,沒有系統級的整體設計,單張晶片規格再亮眼也無法發揮實力。
輝達利用記憶體瓶頸順勢帶領產業走向系統級競爭,超微如果不跟進,就會被困在單卡競爭的框架裡;如果跟進,就必須在輝達已經耕耘多年的領域裡努力追趕。
記憶體是目前AI基礎建設最大的瓶頸,這一點無庸置疑。供應量、良率與價格,正實實在在的限制著產品的設計與出貨速度。
但整個產業並沒有坐以待斃,大家正在從不同方向尋找解答。輝達對Rubin Ultra的調整,就是面對供應限制時的務實做法:在產能有限的情況下,優先確保能出貨更多設備,並透過更完善的系統設計來補足單卡容量的缺口。
記憶體短缺不會在一夜之間消失,但解決問題的方法已經在各個層面同步推進。
|
|