AMD Ryzen AI 處理器於 LLM 與生成式 AI 工作負載展現優異表現，新基準測試中擊敗 Intel Core Ultra
AMD Ryzen AI 處理器於 AI 基準測試中大勝 Intel Core Ultra
去年 AMD 推出代號為 Phoenix 的第一代 Ryzen AI 處理器後，近期也推出了升級版的 Hawk Point 系列，其內建的 XDNA 架構人工智慧加速核心效能提升了 60% AI TOPS。從 AMD 最新公佈的基準測試數據可以看出，他們在用戶端與本地化 AI 工作負載的軟體優化上下了很大功夫。
在新的測試中，AMD 強調在 CPU 上本地運行大型語言模型（LLM），支援包括 LLama 2、Mistral AI、code llama 和 RAG 等多種模型。將 AI 模型運行在本地電腦上，不僅比線上雲端平台擁有更高的隱私度，也能避免訂閱費用且無需網路連線的限制。AMD 近期更推出了一份設置本地 AI 聊天機器人的教學指南，效能可望媲美 NVIDIA Chat with RTX 聊天機器人。
在效能測試中，AMD 使用了 15W 功耗的 Ryzen 7 7840U APU，並與 28W 功耗的 Intel Core Ultra 7 155H 進行對比，兩者皆使用 16GB LPDDR5-6400 記憶體和最新驅動程式。
首先在 Mistral Instruct 7B LLM 測試中，R7 7840U 只需 61% 的時間就完成了 AI 處理任務，相較 Intel 處理器快上約 40%。而在 Llama 2 7B 對話測試中，AMD 處理器的表現更加優異，僅需 54% 的時間就完成了相同工作。
簡單來說，15W 功耗的 R7 7840U 處理器，在 LLama v2 Chat 7B (Q4 K M) 的效能高出 14%、Mistral Instruct 7b (Q4 K M) 則快了 17%。而在第一個 token 產生的速度上，前者比 Intel 快了 79%，後者則領先 41%。
值得注意的是，不僅 AMD Ryzen AI 處理器的效能優於更高功耗的 Intel Core Ultra CPU，其 NPU 加速核心的理論 TOPs 值也只比 Intel 的稍低 (10 TOPs vs. 11 TOPs)。而這項比較還未將 28W 版本或採用高達 16 TOPs AI 運算能力的 Hawk Point 系列產品納入考量。AMD 還強調其 AI PC 平台的成本優勢，起步價格約 899 美元，比 Intel Core Ultra 155H 的 999 美元更加親民。
AMD Ryzen AI PC 平台推出已有一段時間，因此紅隊得以針對現有和下一代處理器進行大量的 AI 優化。預計這些 AI 工作負載在未來會進一步調整，為今年下半年推出的基於 Zen 5 架構的 Strix Point 產品系列做好準備。Intel 的 Core Ultra 平台也上市數月，該公司同樣針對 AI 市場訂有大膽的戰略願景。
歡迎加入我們的 Facebook 粉絲團，隨時掌握最新消息!
喜歡看圖說故事的話，也可以追蹤 Instagram 專頁!
我們也有 Google News 可以隨時 follow!
