TechSpace 鐵客空間

每日科技新聞新知、硬體開箱評測、賣場優惠!

NVIDIA H100 AI 廠房和資料中心耗電量相當於立陶宛全國整年用電

NVIDIA H100 預計在明年將達到 350 萬部署量,其消耗的電量足以供應整個國家。
NVIDIA H100 A100 GPUs Data Centers AI

NVIDIA H100 AI 廠房和資料中心耗電量驚人

根據市場分析來源 Stock Talk 的估計,屆時這些 GPU 將每年消耗約 13,000 GWh 的電量,相當於像瓜地馬拉或立陶宛國家整年電力消耗量,上一次出現這麼大規模用電的「潮流」是幾年前的挖礦風潮,顯見 NVIDIA H100 在全球范圍內自家 AI GPU 部署規模,這不僅是因為 NV 在軟硬體資源方面的努力,且在向市場提供產品方面,NVIDIA 目前在新 AI 語言模型和平台採納方面處於優勢地位​​​​​​。

NVIDIA 計劃明年銷售 150 萬至 200 萬單位,這意味著電力消耗量將可能比現在高出三倍。隨著 AI 的迅速發展和需求增加,部署 AI 加速器的數量只會持續增加,各國該如何面對此用電需求將是一大挑戰​​。

NVIDIA H200 GPU Grace Hopper Superchips 2

延伸閱讀

歡迎加入我們的 Facebook 粉絲團,隨時掌握最新消息!
喜歡看圖說故事的話,也可以追蹤 Instagram 專頁!
我們也有 Google News 可以隨時 follow!

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *