NVIDIA H100 AI 廠房和資料中心耗電量相當於立陶宛全國整年用電
NVIDIA H100 預計在明年將達到 350 萬部署量,其消耗的電量足以供應整個國家。
NVIDIA H100 AI 廠房和資料中心耗電量驚人
根據市場分析來源 Stock Talk 的估計,屆時這些 GPU 將每年消耗約 13,000 GWh 的電量,相當於像瓜地馬拉或立陶宛國家整年電力消耗量,上一次出現這麼大規模用電的「潮流」是幾年前的挖礦風潮,顯見 NVIDIA H100 在全球范圍內自家 AI GPU 部署規模,這不僅是因為 NV 在軟硬體資源方面的努力,且在向市場提供產品方面,NVIDIA 目前在新 AI 語言模型和平台採納方面處於優勢地位。
NVIDIA 計劃明年銷售 150 萬至 200 萬單位,這意味著電力消耗量將可能比現在高出三倍。隨著 AI 的迅速發展和需求增加,部署 AI 加速器的數量只會持續增加,各國該如何面對此用電需求將是一大挑戰。
延伸閱讀
- Intel Gaudi 3 AI 加速器將採用台積電的 5nm 製程,傳效能超越 NVIDIA H100
- AMD Instinct MI300X AI GPU 加速器發表,比 NVIDIA H100 快 60%
- 特斯拉用 10,000 張 NVIDIA H100 打造耗費 3 億美金 AI 超級電腦加速全自動駕駛
歡迎加入我們的 Facebook 粉絲團,隨時掌握最新消息!
喜歡看圖說故事的話,也可以追蹤 Instagram 專頁!
我們也有 Google News 可以隨時 follow!