AI 推理成本為何一年崩跌十倍?從 token 價格看應用經濟的轉折

GPT-3 級能力的推理成本為何三年下降千倍?

a16z 統計顯示,GPT-3 級能力的推理成本三年下降約 1,000 倍CITE:E1。此基準以 2021 年底 GPT-3 每百萬 token 60 美元的價格為起點,到 2024 年底同等能力的價格降至約每百萬 token 0.06 美元CITE:E1。a16z 將這個現象稱為 LLMflation,觀察同等能力等級的大型語言模型推理成本,整體約以每年 10 倍的速度下降CITE:E1。

GPT-4 級能力的跨廠最低價,為何是另一種不同的下降基準?

以 GPT-4 級能力跨廠最低價格計算,2023 年 3 月至 2024 年底,價格下降約 62 倍CITE:E2。這裡的「GPT-4 級能力」指 MMLU 83 分以上的能力門檻,鎖定市場上最便宜供應商的價格變化CITE:E2。此基準與前述 a16z 針對 GPT-3 級能力估算的 1,000 倍跌幅,屬於不同能力門檻與不同時間窗,兩者不可直接互換比較CITE:E1CITE:E2。

OpenAI 自家產品線的推理成本演進為何更為劇烈?

OpenAI 執行長 Sam Altman 表示,GPT-4 到 GPT-4o 的每 token 價格約下降 150 倍CITE:E3。Altman 稱,固定能力水準的 AI 使用成本約每 12 個月下降 10 倍,並以 2023 年初的 GPT-4 到 2024 年中的 GPT-4o 為例說明這個速度CITE:E3。這是 OpenAI 自家單一產品線的演進口徑,與前述跨廠商 62 倍的基準不同,不宜混用比較CITE:E3。官方定價印證了這個降勢:OpenAI 於 2024 年 7 月推出 GPT-4o mini,定價為每百萬 token 輸入 0.15 美元、輸出 0.60 美元,OpenAI 表示這較 GPT-3.5 Turbo 便宜逾 60%,較 2022 年推出的 text-davinci-003 每 token 成本下降約 99%CITE:E4。

開源廠商 DeepSeek-R1 如何以更低定價衝擊市場?

DeepSeek-R1 的定價約為 OpenAI o1 的 3.6%,即便宜約 27 倍CITE:E5。具體而言,DeepSeek-R1 的 API 定價約為每百萬 token 輸入 0.55 美元、輸出 2.19 美元,相對於 OpenAI o1 每百萬 token 輸入 15 美元、輸出 60 美元CITE:E5。這類開源與低價廠商的定價策略,迫使閉源廠商跟進降價CITE:E5。

便宜的推理成本刺激了什麼樣的用量成長?

Google 表示,其產品每月處理的 token 量在 2025 年 5 月達 480 兆,約為一年前的 50 倍CITE:E6。單一 token 的價格持續下降,並未讓總使用量縮小,反而使用量在一年內成長 50 倍,這正是 Jevons 悖論在 AI 推理市場的呈現CITE:E6。

全球生成式 AI 支出為何仍年增 76.4%?

Gartner 預估 2025 年全球生成式 AI(Generative AI)支出將達 6,440 億美元,年增 76.4%CITE:E7。但其中約八成流向硬體(裝置與伺服器),而非 API 推理帳單CITE:E7。這代表「單價崩跌」與「總支出暴增」兩件事同時成立:推理成本以每年約 10 倍的速度下降CITE:E1,但總支出因用量成長與硬體投資而持續攀升的具體數字是年增 76.4%CITE:E7。

各基準口徑跌幅一覽

這代表什麼

這些數字放在一起,呈現的是同一條曲線的兩端:推理成本以每年約 10 倍的速度下降CITE:E1,DeepSeek-R1 更把價格壓到 OpenAI o1 的 3.6%CITE:E5,但 Google 的 token 處理量一年成長 50 倍CITE:E6,全球生成式 AI 支出仍年增 76.4% 至 6,440 億美元CITE:E7。單價與總量的走勢方向相反,而 Gartner 的數據顯示,支出增加中約八成流向硬體,而非推理帳單本身CITE:E7。