NVIDIA 與 Google Cloud 攜手打造下一代 AI 運算平台

段落大綱

生成式 AI 和資料科學的新動力

NVIDIA 與 Google Cloud 在 Google Cloud Next 的一場對談中宣布了這項合作計畫，為客戶提供最新的 AI 基礎設施和軟體，讓他們能夠建立和部署大規模的生成式 AI 模型，並加速資料科學的工作負載。生成式 AI 是一種利用深度學習技術來創造新的資料或內容的 AI 應用，例如文字、圖像、音樂等。資料科學則是一種利用統計、數學、程式設計等方法來分析和解釋資料的科學領域。

Google Cloud 執行長 Thomas Kurian 和 NVIDIA 創始人兼執行長黃仁勳討論了這次合作如何將機器學習服務帶給全球最大的 AI 客戶，包括通過使用基於 NVIDIA 技術的 Google Cloud 產品，讓客戶輕鬆運行 AI 超級電腦。這些新的軟硬體整合利用 Google DeepMind 和 Google 研究團隊在過去兩年使用的 NVIDIA 技術。

黃仁勳表示：「我們正處於一個轉折點，加速運算和生成式 AI 已經結合起來，以前所未有的速度推動創新。我們與 Google Cloud 的擴大合作將幫助開發者加速他們的工作，提供能夠提高能效和降低成本的基礎設施、軟體和服務。」

Kurian 則表示：「Google Cloud 有著在 AI 方面創新的悠久歷史，為我們的客戶提供加速和促進創新的服務。Google 的許多產品都是建立在 NVIDIA GPU 上並由其提供服務，而我們的許多客戶也正在尋找 NVIDIA 加速運算來有效地開發 LLMs（大型語言模型），以推動生成式 AI 的進步。」

新技術介紹

Google 和 NVIDIA 在這次合作中推出了以下幾項新技術：

首先，Google 建立大型語言模型（LLMs）的框架 PaxML 現在已經針對 NVIDIA 加速運算進行優化。PaxML 最初是為了跨越多個 Google TPU 加速器切片而建立的，現在它可以讓開發者使用 H100 和 A100 Tensor Core GPU 進行先進且完全可配置的實驗和擴展。一個 GPU 優化的 PaxML 容器已經在 NVIDIA NGC 軟體目錄中提供。此外，PaxML 還運行在 JAX 上，利用 OpenXLA 編譯器來優化 GPU。

其次，Google Cloud A3 虛擬機（VMs）將由 NVIDIA H100 GPU 提供動力，將於下個月正式推出，讓 NVIDIA 的 AI 平台更容易地適用於各種工作負載。與上一代相比，A3 VMs 提供了 3 倍更快的訓練速度和顯著改善的網路頻寬。

另外，H100 GPU 預計將在未來幾週內在 Vertex AI 平台上提供，讓客戶能夠快速開發生成式 AI LLMs。

因為這次合作的關係，Google Cloud 將成為全球第一批擁有 NVIDIA DGX GH200 AI 超級電腦的公司之一，由 NVIDIA Grace Hopper Superchip 提供動力，以探索其對生成式 AI 工作負載的能力。DGX Cloud AI 超級電腦和軟體將直接從客戶的網頁瀏覽器提供，為先進的訓練工作負載提供速度和規模。

NVIDIA AI Enterprise 將在 Google Cloud Marketplace 上提供，使用者可以使用這個安全、雲端原生的軟體平台來簡化開發和部署企業級的應用程式，包括生成式 AI、語音 AI、電腦視覺等。

最後，Google Cloud 也會成為第一個提供 NVIDIA L4 GPU 的雲端服務商，它們在今年早些時候已經推出 G2 VM，切換到 L4 GPU 的 NVIDIA 客戶可以實現高達 120 倍的性能提升和 99% 的效率改善。L4 GPU 廣泛用於圖像和文字生成，以及 VDI 和 AI 加速的音訊視訊轉碼。