NVIDIA 攜手 AWS 打造「NVHBM」客製記憶體！頻寬狂增 30% 揮別算力瓶頸
擺脫傳統記憶體束縛，NVIDIA 與 AWS 聯手開闢 NVHBM 新架構
隨著大型語言模型與實體 AI 全面邁向兆級參數規模，AI 晶片對記憶體頻寬與功耗的要求達到前所未有的高度。為了打破現有瓶頸，NVIDIA 宣布攜手 Amazon 旗下的 Annapurna Labs，共同研發名為「NVHBM」的客製化高頻寬記憶體架構。這項技術作為 NVLink Fusion 生態系的延伸，核心概念在於將原本佔用主晶片（XPU）面積的記憶體控制器直接移至 HBM 的基礎邏輯層（Base Die）中，顛覆以往傳統 HBM 與運算晶片之間的溝通模式。
相較於業界預計推行的 JEDEC HBM4e 標準，NVHBM 將記憶體控制器整合至 HBM 底層後，整體記憶體頻寬可提高 30% 以上，運作功耗更能降低 15%。對於動輒部署數萬顆加速晶片的超大型資料中心來說，這項能效提升將大幅壓低整體營運成本。更關鍵的是，這項設計替運算晶片省去高達 67% 的實體層（PHY）與輔助電路空間，進而釋出約 25% 的裸晶面積，讓工程師能塞入更多專門的 AI 算力核心，甚至使整個封裝中介層的中繼佈線獲得多達 80% 的可用空間彈性。
這項客製化記憶體規格並非 NVIDIA 獨享，官方正積極與各大主流記憶體供應商建立標準化封裝，簡化未來跨供應商的整合難度。在實際應用層面，AWS 次世代的 Trainium4 晶片將率先導入 NVHBM，並透過 NVLink Fusion 架構將 NVIDIA GPU 與自研晶片無縫串聯成機櫃級叢集。而在 NVIDIA 自家的產品藍圖上，預計於 2028 年問世的 Feynman 架構 GPU 也將全面採用 NVHBM 技術，為未來的智慧運算奠定全新里程碑。
什麼是 NVIDIA 推出的 NVHBM？
NVHBM 是 NVIDIA 與 AWS Annapurna Labs 合作開發的客製化高頻寬記憶體技術，透過將記憶體控制器整合在 HBM 的基礎晶片（Base Die）上，大幅提升傳輸效率。
NVHBM 與標準 HBM4e 相比有哪些性能優勢？
相較於標準 HBM4e，NVHBM 能提供高出 30% 的記憶體頻寬，同時降低 15% 的記憶體功耗。
採用 NVHBM 技術對 AI 主晶片（XPU）有什麼好處？
主晶片可省下記憶體控制器的空間，釋出高達 25% 的晶片面積來容納更多 AI 運算核心，並大幅縮減 67% 的 PHY 與介面佔用面積。
哪些產品將會率先導入 NVHBM 技術？
AWS 下一代的 AI 晶片 Trainium4 以及 NVIDIA 預計於 2028 年推出的次世代 Feynman 架構 GPU 將會首波導入。
NVHBM 是否會支援多家記憶體供應商？
會，NVIDIA 正在推動 NVHBM 的標準化實作，讓三星、SK 海力士與美光等記憶體大廠都能提供相容產品，加速生態系普及。
延伸閱讀
TechSpace 鐵客空間網站編輯，圈內打滾多年，要說是貓奴、狗奴才也是，喜歡科技新品、看開箱，但也喜歡打遊戲的宅宅
歡迎加入我們的 Facebook 粉絲團，隨時掌握最新消息!
喜歡看圖說故事的話，也可以追蹤 Instagram 專頁!
我們也有 Threads 可以隨時 follow!