調查顯示 AI 專業人士考慮從 NVIDIA 轉向 AMD，Instinct MI300X 性能與成本是關鍵
最新調查顯示，許多 AI 專業人士正考慮將其 GPU 從 NVIDIA 換成 AMD Instinct MI300X，主因是後者在性能與成本上的優勢。
AMD Instinct MI300X 或成 AI 淘金熱的新首選
近期的一項調查顯示，AI 專業人士正考慮從 NVIDIA 轉向 AMD Instinct MI300X GPU。TensorWave 的共同創辦人 Jeff Tatarchuk 透露，他們對 82 名工程師和 AI 專業人士進行的獨立研究中，約 50% 的人表示他們對使用 AMD Instinct MI300X GPU 持肯定態度，認為其提供比 NVIDIA H100 等競爭對手更好的性價比，而且也比較容易入手買到。此外，Jeff 還表示 TensorWave 將採用 MI300X AI 加速器，這對於 AMD 來說勢必是個好消息。
MI300X Instinct AI GPU 快速概覽
MI300X Instinct AI GPU 基於 CDNA 3 架構設計，結合 5nm 和 6nm 的 IP，共計提供高達 1530 億的電晶體。
在記憶體方面，MI300X 相比其前代 MI250X 的 HBM3 容量增加 50%，達到 128GB。與 NVIDIA 的 H100 相比，MI300X 在以下方面擁有顯著優勢：
- 記憶體容量高出 2.4 倍
- 記憶體頻寬高出 1.6 倍
- FP8 和 FP16 TFLOPS 分別高出 1.3 倍
- 在 1 對 1 比較中，相對於 H100 在 Llama 2 70B 和 FlashAttention 2 上快 20%
- 在 8 對 8 伺服器中，相對於 H100 在 Llama 2 70B 上快 40%，在 Bloom 176B 上快 60%
AMD Instinct AI 加速器的市場影響
AMD 的旗艦 Instinct AI 加速器對 NV 造成些市佔影響，雖說 NV 的產品對大多數 AI 相關企業來說還是效能首選，然而，因為 MI300X 對比前代的性能提升巨大，而且其發布時機也相當不錯，正值 NVIDIA 面臨訂單壓力，阻礙其在獲取新客戶方面的增長。儘管 AMD 起步不如預期，但看起來未來一段時間可能對該公司來說是成果豐碩的，有可能與市場競爭對手展開正面對決。
歡迎加入我們的 Facebook 粉絲團，隨時掌握最新消息!
喜歡看圖說故事的話，也可以追蹤 Instagram 專頁!
我們也有 Google News 可以隨時 follow!
