AMD Instinct MI300X 將消耗接近 1KW 電力、功耗 750W

自 NVIDIA H100 發布以來，它一直是最耗電的數據中心晶片，其額定功耗高達 700W，但這種情況將隨著 AMD Instinct MI300X 的出現而改變，它將消耗更多的電力。

在 AMD Instinct MI300X 的演示中，該 OAM 計算卡加速器據說將消耗 750W 的功耗，相比之下，基於 CDNA 2 架構的 Instinct MI250X 功耗在 500~560W 之間，因此，單一世代的功耗需求增加了 34~50%。考慮到晶片本身的設計和它所提供的性能，這種功耗增加是預期之內的，該晶片在 AI 工作負載中提供了 8 倍的性能提升，同時效率提高了 5 倍。

Instinct MI300X 特性

預計 AMD Instinct MI300X 將具有 304 個 CDNA 3 計算單元，而 MI250X 則具有 220 個計算單元，對比之下增加了 38% 的數量。此外，該晶片搭載了 192 GB 的 HBM3 記憶體，這比 MI250X 使用的 128 GB HBM2e 記憶體多 50%，而且由於新計算卡是搭載 HBM3 規格，將看到更快的傳輸速度。

Instinct MI300X 的一個重大優勢是其擁有大量的 192 GB VRAM，它在運行大型語言模型會比對手更有效率，運行多達 5400 億參數的 LLM（大型語言模型）。

未來的趨勢

隨著 GPU 和 HPC 加速器變得越來越強大，這些功耗需求將繼續上升，最近的 Gigabyte Server 路線圖展示了 CPU、GPU 和 APU 如何接近 1000W 的功耗障礙。AMD 確實擁有最耗電的晶片，但他們也投資了一系列的晶片和封裝技術，這些技術可以讓他們顯著降低功耗需求。

在 2023 年的 ISSCC 會議上，AMD CEO 蘇姿丰表示如果不採用新的設計，Zettascale 計算將需要一個核反應堆來滿足其能源需求，這還只是對一個系統的需求。不過話雖如此，Instinct MI300X 未來也將以功耗需求較低的保守型版本推出，主要針對 PCIe 介面，雖然這些資訊還沒有宣布，但可以預計將在 2024 年到來。

歡迎加入我們的 Facebook 粉絲團，隨時掌握最新消息!
喜歡看圖說故事的話，也可以追蹤 Instagram 專頁!
我們也有 Google News 可以隨時 follow!