NVIDIA H100 AI 廠房和資料中心耗電量相當於立陶宛全國整年用電

NVIDIA H100 AI 廠房和資料中心耗電量驚人

根據市場分析來源 Stock Talk 的估計，屆時這些 GPU 將每年消耗約 13,000 GWh 的電量，相當於像瓜地馬拉或立陶宛國家整年電力消耗量，上一次出現這麼大規模用電的「潮流」是幾年前的挖礦風潮，顯見 NVIDIA H100 在全球范圍內自家 AI GPU 部署規模，這不僅是因為 NV 在軟硬體資源方面的努力，且在向市場提供產品方面，NVIDIA 目前在新 AI 語言模型和平台採納方面處於優勢地位​​​​​​。

NVIDIA 計劃明年銷售 150 萬至 200 萬單位，這意味著電力消耗量將可能比現在高出三倍。隨著 AI 的迅速發展和需求增加，部署 AI 加速器的數量只會持續增加，各國該如何面對此用電需求將是一大挑戰​​。

延伸閱讀

• Intel Gaudi 3 AI 加速器將採用台積電的 5nm 製程，傳效能超越 NVIDIA H100
• AMD Instinct MI300X AI GPU 加速器發表，比 NVIDIA H100 快 60%
• 特斯拉用 10,000 張 NVIDIA H100 打造耗費 3 億美金 AI 超級電腦加速全自動駕駛

歡迎加入我們的 Facebook 粉絲團，隨時掌握最新消息!
喜歡看圖說故事的話，也可以追蹤 Instagram 專頁!
我們也有 Threads 可以隨時 follow!