半導體專題

什麼是客製 AI 晶片 ASIC?與 NVIDIA GPU 差在哪、雲端巨頭為何搶進自研

E
EffectStory 編輯部編輯部
發布 · 更新
客製AI晶片ASIC以犧牲靈活度換取特定工作負載的省電與低成本,Google、Amazon、Meta與微軟已投入自研,但NVIDIA的GPU與CUDA生態仍握有壓倒性市佔,ASIC對其構成結構性侵蝕而非取代。

ASIC 是什麼?它與 GPU 的根本差異在哪?

ASIC(特殊應用積體電路)是為單一特定用途量身訂做的晶片,GPU則是通用的平行運算晶片,什麼都能算但非為單一任務最佳化CITE:E1。ASIC把某一種運算硬連進電路裡,做那件事又快又省電;GPU則是通用的平行運算晶片,什麼都能算,但不是為單一任務最佳化CITE:E1。Google的TPU就是典型的AI客製ASICCITE:E1

ASIC 和 GPU 的核心取捨是什麼?各自優缺點為何?

ASIC在同樣任務下通常更省電、單位成本更低,但開發成本高且只擅長設計時鎖定的那件事CITE:E2。相對地,GPU靈活、能跑各種模型,並擁有NVIDIA的CUDA等成熟軟體生態,但通用性也代表它不是最省的選擇CITE:E2。這組取捨——專用省電但不靈活、通用靈活但非最省——是理解後續雲端巨頭自研決策與NVIDIA市場地位的基礎CITE:E2

為什麼雲端巨頭現在都在自研 AI 客製 ASIC?

Google、Amazon、Meta與微軟皆已投入自研AI客製ASIC晶片CITE:E3。它們分別打造了TPU、Trainium/Inferentia、MTIA與Maia,多由博通(Broadcom)、邁威爾(Marvell)協助設計CITE:E3。本站數據顯示,這些自研晶片正把AI加速器的營收版圖從單一供應商分散開來CITE:E3

雲端業者自研ASIC出於三項動機CITE:E4。一是成本:在自家超大規模架構下,針對自己的AI工作負載訂做晶片能顯著降低每次運算的總成本CITE:E4。二是供應自主:不必完全依賴單一GPU供應商的配額與定價CITE:E4。三是最佳化:晶片可與自家軟體與模型深度協同設計CITE:E4

ASIC 會威脅 NVIDIA 的 GPU 市場嗎?兩者是競爭還是分工?

客製ASIC對NVIDIA構成的是結構性侵蝕,而非立即取代CITE:E5。本站數據顯示,NVIDIA在AI晶片市場仍握有壓倒性市佔,GPU的通用性與CUDA生態仍是多數新模型的首選CITE:E5。客製ASIC在特定、量大、穩定的工作負載上最划算,兩者更接近分工而非零和競爭CITE:E5

客製 ASIC 有哪些致命侷限?

ASIC的開發週期長,從設計到量產動輒需兩三年,且靈活度遠低於GPUCITE:E6。一旦模型架構大幅調整,既有ASIC可能就不再適用CITE:E6。因此ASIC適合『確定會大量重複的運算』,而非還在快速演進、需要彈性的前沿實驗CITE:E6

這代表什麼

把前文事實並列可以看到一個分工邏輯:Google、Amazon、Meta與微軟同時投入TPU、Trainium/Inferentia、MTIA與MaiaCITE:E3,動機集中在成本、供應自主與最佳化三項CITE:E4;但NVIDIA仍握有壓倒性市佔與CUDA生態優勢CITE:E5,而ASIC兩三年的開發週期與模型架構大改後可能失效的風險CITE:E6,決定了它只能吃下確定、大量、穩定的工作負載,而非取代GPU在前沿實驗中的角色CITE:E5

📊 證據與數據

常見問題

ASIC 是什麼?它與 GPU 的根本差異在哪?

ASIC(特殊應用積體電路)是為單一特定用途量身訂做的晶片,GPU則是通用的平行運算晶片,什麼都能算但非為單一任務最佳化CITE:E1。ASIC把某一種運算硬連進電路裡,做那件事又快又省電;GPU則是通用的平行運算晶片,什麼都能算,但不是為單一任務最佳化CITE:E1。

ASIC 和 GPU 的核心取捨是什麼?各自優缺點為何?

ASIC在同樣任務下通常更省電、單位成本更低,但開發成本高且只擅長設計時鎖定的那件事CITE:E2。相對地,GPU靈活、能跑各種模型,並擁有NVIDIA的CUDA等成熟軟體生態,但通用性也代表它不是最省的選擇CITE:E2。

為什麼雲端巨頭現在都在自研 AI 客製 ASIC?

Google、Amazon、Meta與微軟皆已投入自研AI客製ASIC晶片CITE:E3。它們分別打造了TPU、Trainium/Inferentia、MTIA與Maia,多由博通(Broadcom)、邁威爾(Marvell)協助設計CITE:E3。

ASIC 會威脅 NVIDIA 的 GPU 市場嗎?兩者是競爭還是分工?

客製ASIC對NVIDIA構成的是結構性侵蝕,而非立即取代CITE:E5。本站數據顯示,NVIDIA在AI晶片市場仍握有壓倒性市佔,GPU的通用性與CUDA生態仍是多數新模型的首選CITE:E5。客製ASIC在特定、量大、穩定的工作負載上最划算,兩者更接近分工而非零和競爭CITE:E5。

📎 資料來源

  1. en.wikipedia.org
  2. effectstory.com
  3. en.wikipedia.org

延伸數據

作者觀點EffectStory 編輯部

ASIC與GPU的分工邏輯,取決於工作負載是否確定、大量、穩定——這正是Google、Amazon、Meta與微軟同時投入TPU、Trainium/Inferentia、MTIA與Maia的共同前提。但ASIC兩三年的開發週期,以及模型架構大改後可能失效的風險,意味著它只能啃食GPU版圖中最穩定一塊,前沿實驗仍離不開CUDA生態。接下來值得觀察的是,博通與邁威爾在客製晶片中的角色能否持續擴大。

E
EffectStory 編輯部編輯部

相關文章

專題

太陽能+儲能:人工智慧(AI)資料中心現在最務實的電力解方

太陽能發電成本十年間下降近九成,已低於天然氣,搭配均價每度115美元的鋰電池儲能後可延伸供電至夜間;2024年全球新增553GW太陽能,亞利桑那案場更已實際為Meta資料中心供電,但24小時基載仍需天然氣或核能等可調度電源補足。

Nathan ·