NVIDIA AI 市場的壟斷地位受到質疑,分析師擔憂不斷增加的 GPU 功耗無法持續。如果 NVIDIA 想要保持現有發展速度,可能不得不選擇更節能的解決方案。
AI
蘋果計劃在 iOS 18 中帶來其大型語言模型,新消息指出可能會選擇直接在裝置上本地處理,以獲得優於雲端處理得更快操作速度和更好的隱私安全性。
NVIDIA 承認在 AI 市場面臨激烈競爭,聲稱 AI 是”歷史上最大的計算問題”。儘管 AMD 和 Intel 的最新進展讓 NVIDIA 陷入謹慎的局面,但綠隊已準備好以更強大的產品反擊,不僅在硬體領域,還包括軟體生態系統。
Meta 今日宣布新一代 Meta Llama 3 初始的兩個模型已可廣泛使用。此版本包含預訓練和指令微調的語言模型,其中的 8B (80 億) 和 70B (700 億) 參數,可支援更多元的使用情境。
Intel Gaudi 3 AI 加速器正式發表,採用 5nm 製程、128 GB HBM2e,功耗高達 900W,在 AI 性能上超越 NVIDIA H100 50%,效率提高 40%,直接挑戰 NVIDIA 在 AI 領域的領先地位。
AMD 與 Arena AI 合作,利用 AI 優化和增強下一代 Radeon GPU 的性能和效率。Atlas 工具將有助於簡化複雜 GPU 技術的配置和測試過程,加速新產品開發。
NVIDIA Hopper H200 於最新的 MLPerf v4.0 測試中繼續保持領先地位,搭配 TensorRT-LLM 優化在生成式 AI 領域的性能提升高達 3 倍,展現其強大 AI 運算實力。
高通、Intel 和 Google 組成新的「戰略」聯盟,試圖將 NVIDIA 從 AI 市場中推翻。他們計劃利用 Intel 的 oneAPI 平台,為 NVIDIA 的 CUDA 軟體平台提供替代方案,挑戰其霸主地位。
Tiny Corp 推出了 AMD 和 NVIDIA 驅動的 AI 系統,AMD 版本起價 1.5 萬美元,NVIDIA 版本 2.5 萬美元。然而該公司表示,如果想要「無痛體驗」,請選 NVIDIA。
TinyCorp 在 TinyBox AI 套件中放棄 AMD 硬件,轉投 NVIDIA 或 Intel 陣營,原因是遇到 AMD GPU 韌體限制,AMD 應加強社群支援,避免在 AI 新創公司中損害聲譽。