專題
太陽能+儲能:人工智慧(AI)資料中心現在最務實的電力解方
太陽能發電成本十年間下降近九成,已低於天然氣,搭配均價每度115美元的鋰電池儲能後可延伸供電至夜間;2024年全球新增553GW太陽能,亞利桑那案場更已實際為Meta資料中心供電,但24小時基載仍需天然氣或核能等可調度電源補足。
Nathan ·
科技專題
資料中心液冷崛起:AI晶片功耗逼近氣冷極限,直接晶片與浸沒式散熱如何接手
N
NVIDIA H100晶片熱設計功耗達700瓦,機櫃密度逼近50千瓦已超出傳統氣冷能力上限,直接晶片液冷與浸沒式液冷因此成為資料中心的主要因應手段;液冷可讓新建機房PUE壓低到1.3,微軟藉此將用水效率從0.49降至0.30公升/度,NVIDIA GB200 NVL72並在相同功耗下提供25倍效能。
為何機房必須從氣冷轉向液冷?
NVIDIA H100 SXM版晶片的最大熱設計功耗達700瓦,是機房捨棄氣冷的根本驅動力CITE:E1。H100 PCIe版熱設計功耗則為350瓦,採用台積電(TSMC)4N製程、內含800億顆電晶體,單晶片發熱密度已逼近氣冷散熱能力的上限CITE:E1。Vertiv指出,當機櫃功率密度升到約20千瓦並快速逼近50千瓦,傳統機房氣冷已被推到能力極限,這正是HPC與AI機櫃必須導入液冷的臨界點CITE:E2。
直接晶片液冷(DLC)如何運作、導熱效率有多高?
直接晶片液冷(DLC)以冷板讓冷卻液直接流經晶片表面帶走熱能CITE:E3。Vertiv表示,這種做法的導熱效率約為單靠氣冷的3,000倍CITE:E3。
浸沒式液冷如何運作、散熱容量有多大?
浸沒式液冷把整台伺服器泡入介電冷卻液中,可吸收元件100%的熱能CITE:E4。做法分為液體循環但不沸騰的單相式,以及液體在晶片表面沸騰汽化再冷凝的兩相式兩種;Vertiv表示,單槽(42或52機架單位)散熱容量最高可達100千瓦CITE:E4。
液冷對機房能效(PUE)帶來什麼改善?
Uptime Institute調查顯示,全球資料中心2024年平均PUE已連續多年停在1.56CITE:E5。該調查同時指出,採用直接液冷等新設計的新建機房可穩定達到1.3、甚至更低CITE:E5。NVIDIA表示,機櫃級液冷平台GB200 NVL72整合72顆Blackwell GPU,相較H100氣冷架構,在相同功耗下提供25倍效能CITE:E7。
液冷如何降低機房用水量?
微軟(Microsoft)表示,新機房設計每年可為每座資料中心省下逾1.25億公升水CITE:E6。微軟的機房平均用水效率(WUE)已從2021年的0.49公升/度,降到最近一個財年的0.30公升/度,提升39%CITE:E6。NVIDIA並表示,GB200 NVL72相較H100氣冷架構,在提供25倍效能的同時也降低了用水量CITE:E7。
關鍵數字一覽
| 指標 | 數值 | 證據 |
|---|---|---|
| H100 SXM熱設計功耗(TDP) | 700瓦 | E1 |
| H100 PCIe熱設計功耗(TDP) | 350瓦 | E1 |
| H100電晶體數量 | 800億顆 | E1 |
| 機櫃氣冷密度極限 | 20→50千瓦 | E2 |
| DLC導熱效率(相對氣冷) | 約3,000倍 | E3 |
| 浸沒式液冷單槽散熱容量 | 最高100千瓦(42/52機架單位) | E4 |
| 浸沒式液冷熱吸收率 | 100% | E4 |
| 全球資料中心平均PUE(2024) | 1.56 | E5 |
| 新建機房PUE | 1.3以下 | E5 |
| 微軟WUE(2021→最近財年) | 0.49→0.30公升/度(提升39%) | E6 |
| 微軟機房年省水量 | 逾1.25億公升 | E6 |
| GB200 NVL72整合GPU數 | 72顆Blackwell GPU | E7 |
| GB200相對H100同功耗效能 | 25倍 | E7 |
這代表什麼
把晶片功耗、機櫃密度與液冷方案的數字並列可見:700瓦的H100熱設計功耗與逼近50千瓦的機櫃密度,是氣冷退場、直接晶片液冷與浸沒式液冷登場的直接原因;而PUE從1.56降至1.3、微軟WUE從0.49降至0.30公升/度、GB200 NVL72在相同功耗下提供25倍效能,則顯示液冷同時牽動機房的能效與用水表現。
📊 證據與數據
- 外部已核驗AI 加速晶片功耗持續攀升,NVIDIA H100(SXM 版)單顆最大熱設計功耗(TDP)達 700W,採 TSMC 4N 製程、內含 800 億顆電晶體,單晶片發熱密度已逼近氣冷極限,是機房轉向液冷的根本驅動力。:700W(H100 SXM TDP);PCIe 版 350Wmicroway.com
- 外部已核驗當機櫃功率密度升到約 20 kW 並快速逼近 50 kW,傳統機房氣冷已被推到能力極限,這是 HPC/AI 機櫃必須導入液冷的臨界點。:氣冷極限約 20→50 kW/rackvertiv.com
- 外部已核驗直接晶片液冷(DLC)以冷板(cold plate)讓冷卻液直接流經晶片表面帶走熱;Vertiv 指液冷導熱效率為單靠氣冷的約 3,000 倍。:液冷散熱效率約為氣冷的 3,000 倍(Vertiv 稱)vertiv.com
- 外部已核驗浸沒式散熱把整台伺服器泡入介電冷卻液中,可吸收元件 100% 的熱;單槽散熱容量可達 100 kW。單相(液體循環不沸騰)與兩相(液體在晶片表面沸騰汽化再冷凝)為兩種主要作法。:吸收 100% 元件熱;單槽最高約 100 kW(42/52U)vertiv.com
- 外部已核驗全球資料中心年均 PUE 已連續多年停在約 1.56,但採直接液冷等新設計的新建機房可穩定達到 1.3、甚至更低,顯示液冷是壓低 PUE 的關鍵手段。:業界平均 PUE 1.56(2024)vs 新建機房 ≤1.3datacenter.uptimeinstitute.com
- 外部已核驗採晶片級閉迴路液冷、零蒸發用水的新機房設計,可大幅削減用水;Microsoft 表示每座機房每年可省下逾 1.25 億公升水,其機房平均 WUE 已從 2021 年的 0.49 L/kWh 降到最近一個財年的 0.30 L/kWh。:WUE 0.49→0.30 L/kWh;每廠每年省水 >1.25 億公升microsoft.com
- 外部已核驗NVIDIA GB200 NVL72 是機櫃級液冷平台,單櫃整合 72 顆 Blackwell GPU;NVIDIA 稱相較 H100 氣冷架構,在相同功耗下提供 25 倍效能,並降低用水量。:72 顆 Blackwell GPU、液冷;同功耗下效能 25xnvidia.com
常見問題
為何機房必須從氣冷轉向液冷?
NVIDIA H100 SXM版晶片的最大熱設計功耗達700瓦,是機房捨棄氣冷的根本驅動力CITE:E1。H100 PCIe版熱設計功耗則為350瓦,採用台積電(TSMC)4N製程、內含800億顆電晶體,單晶片發熱密度已逼近氣冷散熱能力的上限CITE:E1。
直接晶片液冷(DLC)如何運作、導熱效率有多高?
直接晶片液冷(DLC)以冷板讓冷卻液直接流經晶片表面帶走熱能CITE:E3。Vertiv表示,這種做法的導熱效率約為單靠氣冷的3,000倍CITE:E3。
浸沒式液冷如何運作、散熱容量有多大?
浸沒式液冷把整台伺服器泡入介電冷卻液中,可吸收元件100%的熱能CITE:E4。做法分為液體循環但不沸騰的單相式,以及液體在晶片表面沸騰汽化再冷凝的兩相式兩種;Vertiv表示,單槽(42或52機架單位)散熱容量最高可達100千瓦CITE:E4。
液冷對機房能效(PUE)帶來什麼改善?
Uptime Institute調查顯示,全球資料中心2024年平均PUE已連續多年停在1.56CITE:E5。該調查同時指出,採用直接液冷等新設計的新建機房可穩定達到1.3、甚至更低CITE:E5。
📎 資料來源
延伸數據
📊 數據對照
資料中心 AI 加速晶片規格/效能/價格對照(2026 年 7 月)
主要資料中心 AI 加速晶片(NVIDIA / AMD / Google / Intel / AWS)的記憶體、頻寬、算力、功耗與雲端租賃時價對照。規格取自官方文件,擷取日 2026 年 7 月 22 日。
📊 數據對照
台灣 AI 伺服器 ODM/代工廠季度營收對照(2026 Q2)
鴻海、廣達、緯創、緯穎、英業達——台灣五大 AI 伺服器 ODM/代工廠 2026 第二季合併營收與 AI 伺服器動能。全球 AI 算力擴張下,台灣供應鏈的核心一環。
📊 數據對照
AI 晶片廠資料中心營收對照(最新季)
NVIDIA、AMD、Intel、Broadcom 最新一季的資料中心/AI 營收、年增率與佔總營收比——把 AI 加速器的「規格」接上「錢」的一手財報數據。
作者觀點・Nathan
從700瓦的NVIDIA H100,到整合72顆Blackwell GPU的GB200 NVL72,液冷已從晶片層級的散熱補強,變成機櫃級架構的一部分。微軟WUE從0.49降至0.30公升/度、新建機房PUE可壓到1.3,顯示液冷效益同時反映在能效與用水兩項指標,而非只解決散熱本身。後續可追蹤的指標,是採用液冷的新建機房比例,能否讓資料中心整體PUE從目前1.56的產業平均值,實際往1.3推進。
N
Nathan・科技編輯 · 技術負責人
🔗 作者頁與著作
相關文章
專題
2026是監管執法元年？歐盟GPAI開罰權上路、加州搶先立法、聯邦司法部反擊州法
歐盟GPAI執法權2026年8月2日啟動，高風險義務卻延至2027—2028年；加州SB53、AB2013已於2026年1月1日生效規範前沿AI開發者，白宮同時令司法部成立工作組挑戰州法，構成監管執法元年的角力格局。
EffectStory 編輯部 ·
專題
飛行計程車競速:億航221架交付獲利,Joby卡最終認證,歐洲雙雄相繼倒下
全球載客eVTOL賽局進度分歧:中國億航已集齊完整認證,2025年交付221架並首度獲利;美國Joby與Archer仍卡在認證與規劃階段;德國Lilium與Volocopter相繼破產,Volocopter已由中國萬豐收購續留歐洲。
EffectStory 編輯部 ·