▍即時快訊 01:32 CoWoS才是AI晶片真正瓶頸:先進封裝產能如何決定GPU出貨›01:32 AI 資料中心到底多耗電?從輝達 GPU 到電網瓶頸全解析›01:31 穩定幣 2,900 億美元帝國:USDT 與 USDC 如何靠美債印鈔,又如何被納管
AI專題

AI 資料中心到底多耗電?從輝達 GPU 到電網瓶頸全解析

N
Nathan・科技編輯 · 技術負責人
發布 · 更新
AI晶片與資料中心的用電量正沿功耗階梯快速堆疊:輝達(NVIDIA)H100單顆700瓦,GB200 NVL72整機櫃約120千瓦,達傳統機櫃十餘倍;xAI的Colossus叢集取電約250MW,電力供給已成雲端業者擴產的主要瓶頸。

從單顆 GPU 到機櫃:AI 硬體功耗的量級躍升有多大?

輝達H100功耗700瓦、Blackwell B200液冷版1,200瓦、超微(AMD)MI325X為1,000瓦CITE:E1。三款高階AI加速器滿載運轉時,單顆功耗都已站上七百瓦以上的等級CITE:E1。

把單顆晶片堆進機櫃後,密度落差更明顯。傳統(非AI)資料中心機櫃約5至10千瓦,而輝達GB200 NVL72整櫃設計值約120千瓦,實測部署報導更達130至132千瓦,是傳統機櫃的十餘倍CITE:E2。這正是資料中心近年必須轉向液冷散熱的原因CITE:E2。

為什麼 AI 資料中心比傳統雲端更耗電?

AI訓練與推論仰賴大量高功率GPU長時間近滿載運轉,加上高密度部署帶來的散熱需求,使機櫃電力密度遠高於傳統伺服器CITE:E6。這與前述傳統機櫃5至10千瓦、輝達GB200 NVL72整櫃約120千瓦的落差相互印證CITE:E6。

能效競爭:PUE 如何成為 AI 時代的新門檻?

資料中心能效指標PUE產業平均約1.54,Google全機隊近12個月已壓低至約1.09CITE:E3。PUE(電力使用效率)數值越接近1,代表能效越好CITE:E3。在AI資料中心用電規模已從百MW邁向GW等級的前提下,能效管理正成為AI時代資料中心營運的競爭門檻CITE:E3CITE:E4。

AI 叢集的整體功耗:從百 MW 到 GW 級的跳躍有多快?

馬斯克旗下xAI的Colossus叢集據報約有10萬顆輝達H100,取電約250MWCITE:E4。大型AI資料中心的用電規模已從百MW等級邁向GW級,惟此數字來自外部報導,屬於快速變動的估算值CITE:E4。

電網危機:大功率負載對區域電力系統造成什麼衝擊?

雲端業者已把電力供給列為擴產的主要瓶頸之一CITE:E5。新資料中心的落腳點,越來越取決於能否取得穩定且充足的電力CITE:E5。

功耗階梯數字總覽

項目數值
輝達H100700 瓦 CITE:E1
輝達Blackwell B200(液冷版)1,200 瓦 CITE:E1
超微MI325X1,000 瓦 CITE:E1
傳統(非AI)機櫃約 5–10 千瓦 CITE:E2
輝達GB200 NVL72整櫃(設計值)約 120 千瓦 CITE:E2
輝達GB200 NVL72整櫃(實測部署)約 130–132 千瓦 CITE:E2
產業平均PUE約 1.54 CITE:E3
Google全機隊PUE(近12個月)約 1.09 CITE:E3
xAI Colossus叢集用電規模約 250 MW(約10萬顆輝達H100) CITE:E4

這代表什麼

從輝達H100的700瓦到超微MI325X的1,000瓦,單顆GPU的功耗已逼近千瓦門檻CITE:E1;疊加成輝達GB200 NVL72整櫃約120千瓦、實測部署130至132千瓦後,機櫃密度達到傳統機櫃5至10千瓦的十餘倍CITE:E2,這與AI訓練推論需要GPU長時間近滿載運轉、且高密度部署衍生大量散熱需求的說法互相呼應CITE:E6。當單一叢集如xAI的Colossus用電規模達到約250MWCITE:E4,雲端業者把電力供給列為擴產瓶頸之一CITE:E5,也就有跡可循。而產業平均PUE仍停在1.54、Google已壓到1.09的落差CITE:E3,顯示在同樣的用電規模下,能效管理仍是可以拉開差距的變數。

📊 證據與數據

常見問題

從單顆 GPU 到機櫃:AI 硬體功耗的量級躍升有多大?

輝達H100功耗700瓦、Blackwell B200液冷版1,200瓦、超微(AMD)MI325X為1,000瓦CITE:E1。三款高階AI加速器滿載運轉時,單顆功耗都已站上七百瓦以上的等級CITE:E1。

為什麼 AI 資料中心比傳統雲端更耗電?

AI訓練與推論仰賴大量高功率GPU長時間近滿載運轉,加上高密度部署帶來的散熱需求,使機櫃電力密度遠高於傳統伺服器CITE:E6。這與前述傳統機櫃5至10千瓦、輝達GB200 NVL72整櫃約120千瓦的落差相互印證CITE:E6。

能效競爭:PUE 如何成為 AI 時代的新門檻?

資料中心能效指標PUE產業平均約1.54,Google全機隊近12個月已壓低至約1.09CITE:E3。PUE(電力使用效率)數值越接近1,代表能效越好CITE:E3。在AI資料中心用電規模已從百MW邁向GW等級的前提下,能效管理正成為AI時代資料中心營運的競爭門檻CITE:E3CITE:E4。

AI 叢集的整體功耗:從百 MW 到 GW 級的跳躍有多快?

馬斯克旗下xAI的Colossus叢集據報約有10萬顆輝達H100,取電約250MWCITE:E4。大型AI資料中心的用電規模已從百MW等級邁向GW級,惟此數字來自外部報導,屬於快速變動的估算值CITE:E4。

📎 資料來源

  1. effectstory.com
  2. sunbirddcim.com
  3. datacenters.google
  4. en.wikipedia.org

延伸數據

📊 數據對照
AI 晶片廠資料中心營收對照(最新季)
NVIDIA、AMD、Intel、Broadcom 最新一季的資料中心/AI 營收、年增率與佔總營收比——把 AI 加速器的「規格」接上「錢」的一手財報數據。
📊 數據對照
資料中心 AI 加速晶片規格/效能/價格對照(2026 年 7 月)
主要資料中心 AI 加速晶片(NVIDIA / AMD / Google / Intel / AWS)的記憶體、頻寬、算力、功耗與雲端租賃時價對照。規格取自官方文件,擷取日 2026 年 7 月 22 日。
📊 數據對照
台灣 AI 伺服器 ODM/代工廠季度營收對照(2026 Q2)
鴻海、廣達、緯創、緯穎、英業達——台灣五大 AI 伺服器 ODM/代工廠 2026 第二季合併營收與 AI 伺服器動能。全球 AI 算力擴張下,台灣供應鏈的核心一環。
作者觀點・Nathan

輝達GB200 NVL72整櫃功耗約120千瓦、是傳統機櫃十餘倍,說明氣冷已不敷使用,液冷會是後續擴產案能否如期完工的先決條件。xAI的Colossus叢集約250MW取電規模,顯示單一AI叢集用電已達電廠等級,雲端業者把電力供給列為擴產瓶頸並不誇張。值得持續觀察的指標是PUE:產業平均仍停在1.54、Google已壓到1.09,能否複製類似能效管理成果,將是判斷下一輪擴產案能否順利取得電力的參考。

N
Nathan・科技編輯 · 技術負責人
🔗 作者頁與著作

相關文章

專題

CoWoS才是AI晶片真正瓶頸:先進封裝產能如何決定GPU出貨

AI晶片缺貨的真正瓶頸不是邏輯晶圓,而是台積電(TSMC)CoWoS先進封裝產能:2025至2026年CoWoS供不應求、幾乎全數售罄,台積電已把部分產能外包給Amkor與日月光,並以SoIC搭配CoWoS補足高階AI晶片封裝需求。

林紀旭 James Lin ·