AI 資料中心電力/能耗對照(2026)
從單顆 GPU 到整座資料中心的功耗階梯:H100 一顆 700W、GB200 NVL72 一櫃約 120kW(傳統機櫃的十餘倍)、大型 AI 叢集上看百 MW 至 GW 級。這張表解釋「AI 為何這麼吃電」。
| 項目 | 功耗/數值 | 說明 | 口徑/來源 |
|---|---|---|---|
| NVIDIA H100 SXM5 | 700 W | Hopper 世代旗艦 GPU | 官方規格 |
| NVIDIA H200 SXM | 約 700 W | 同 Hopper,141GB HBM3e | 官方規格 |
| NVIDIA B200(氣冷 HGX/DGX) | 1,000 W | Blackwell,可配置 TDP | 官方規格(氣冷配置) |
| NVIDIA B200(液冷 GB200) | 1,200 W | 液冷全規,較 H100 增約 500W | 媒體/GTC 引用(configurable) |
| AMD Instinct MI300X | 750 W | 192GB HBM3,板級峰值 | 官方規格 |
| AMD Instinct MI325X | 1,000 W | 256GB HBM3E,板級峰值 | 官方規格 |
| 傳統機櫃(非 AI) | 約 5–10 kW/櫃 | 一般企業/雲端伺服器櫃 | 業界典型(區間) |
| GB200 NVL72 整櫃 | 約 120 kW/櫃 | 72 顆 Blackwell GPU,液冷 | NVIDIA 設計值(實測報導 130–132kW) |
| PUE 產業平均 | 1.54 | 電力使用效率,越接近 1 越好 | Uptime Institute 2024 調查 |
| PUE 超大規模業者 | 1.09–1.15 | Google 全機隊近 12 月 1.09 | 業者自述值 |
| xAI Colossus(Memphis) | 約 250 MW / 10 萬顆 H100 | 單一大型訓練叢集規模 | 媒體報導(2024,快速變動) |
方法與來源
擷取日 2026-08-28。**口徑分三類,勿混用**:(1)**晶片 TDP** 以官方規格為準,信心最高,但 NVIDIA Blackwell 是『可配置 TDP』——同一顆 B200 在氣冷 HGX/DGX 為 1,000W、在液冷 GB200 達 1,200W,已標配置別;(2)**機櫃功率**兩種基準不可混:傳統(非 AI)機櫃約 5–10 kW,GB200 NVL72 為 NVIDIA 設計值約 120 kW(實測部署報導 130–132 kW);『一般 H100 機櫃 30–40 kW』為推算(單台 DGX H100 官方約 10.2kW × 每櫃台數),非官方單一值;(3)**PUE** 產業平均 1.54(Uptime Institute 調查)與超大規模業者 1.09–1.15(Google 自述全機隊 1.09)為不同對象,不可互相取代或平均。**叢集用電規模時效性最弱**(標 low):xAI Colossus 250MW 為 2024 報導、GW 級為 SemiAnalysis 等媒體規劃推估,數月即可能過時,已註明「截至 2026 年初報導」。晶片 TDP 官方 PDF 為二進位無法逐字機器讀取,數字係多方一致引用官方規格書。倍數對照(AI 櫃約傳統櫃 12–17 倍)為衍生值,分母 7–10kW、分子 120–132kW 皆會變動。來源:Uptime Institute、Google efficiency、NVIDIA/AMD 規格、TweakTown、SemiAnalysis(見各列)。
來源:https://datacenter.uptimeinstitute.com/rs/711-RIA-145/images/2024.GlobalDataCenterSurvey.Report.pdf
擷取日期:2026-08-28
常見問題
- 「AI 資料中心電力/能耗對照(2026)」涵蓋哪些對象?
- 本表涵蓋 NVIDIA H100 SXM5、NVIDIA H200 SXM、NVIDIA B200(氣冷 HGX/DGX)、NVIDIA B200(液冷 GB200)、AMD Instinct MI300X、AMD Instinct MI325X、傳統機櫃(非 AI)、GB200 NVL72 整櫃,對照欄位包含:項目、功耗/數值、說明、口徑/來源。
- 這張表的資料來源與方法為何?
- 擷取日 2026-08-28。
- 資料最後更新於何時?
- 本表資料擷取/更新日為 2026-08-28。