Intel Gaudi 3 AI 加速器正式亮相：5nm 製程、搭載 128GB HBM2e 記憶體、功耗達 900W

2024-04-10 JC

Intel Gaudi 3 AI 加速器正式發表，採用 5nm 製程、128 GB HBM2e，功耗高達 900W，在 AI 性能上超越 NVIDIA H100 50%，效率提高 40%，直接挑戰 NVIDIA 在 AI 領域的領先地位。

Intel Gaudi 3 AI 加速器挑戰 NVIDIA，平均提供 50% 更快 AI 性能

Intel Gaudi 3 終於發表，採用 5nm 製程，將直接與 NVIDIA 的 H100 GPU 競爭。

Gaudi AI 加速器一直是 NVIDIA GPU 在 AI 領域的強勁競爭對手和唯一替代方案。早前 Gaudi 2 與 NVIDIA A100 / H100 GPU 之間有些激烈的基準測試比較，Intel 展示其強大的性價比優勢，而 NVIDIA 在整體 AI 性能方面仍然保持領先地位。現在，隨著 Gaudi 3 加速器的全面詳細介紹，Intel 的 AI 之旅進入了第三章。

該公司宣布了 Gaudi 3 加速器，其中包含最新（第五代）Tensor Core 架構，總共有 64 個 Tensor 核心封裝在兩個計算晶片中。GPU 本身擁有 96MB 快取，可在兩個晶片間共享，並且有八個 HBM 位置，每個位置都配備 8 層 16Gb HBM2e DRAM，總容量高達 128GB，頻寬達 3.7 TB/s。整個晶片採台積電 5nm 製程技術製造，總共有 24 個 200GbE 互連連接埠。

在產品方面，Intel Gaudi 3 AI 加速器將提供 Mezzanine OAM（HL-325L）規格，標準功耗高達 900W，液冷版本功耗更高，以及 PCIe AIC 規格，採用全高雙寬 10.5 吋長的設計。Gaudi 3 HL-338 PCIe 卡將採被動散熱，支援高達 600W 的 TDP，規格與 OAM 版本相同。