PCIe 演進全解析:從 32 GT/s 到 7.0 的 512 GB/s,如何撐起 AI 加速器叢集

PCIe 是什麼?定義、角色與業界應用

Intel 將 PCI Express(PCIe)定義為一種標準化的點對點序列互連介面。CITE:E1 這項介面廣泛應用於運算與嵌入式裝置產業,作為處理器對接顯示卡、SSD、網卡等各式裝置的擴充通道。CITE:E1

PCIe 連結配置如何決定頻寬疊加?

Intel 指出 PCIe 連結以 x1、x2、x4、x8、x16 等通道數表示。CITE:E2 通道數愈多,可疊加的頻寬愈高,這是 PCIe 架構擴充頻寬的基本機制。CITE:E2

PCIe 6.0 與 7.0 的速率提升與最高頻寬達成

Synopsys 指出 PCIe 6.0 將每通道傳輸率由 32 GT/s 翻倍至 64 GT/s。CITE:E3 PCIe 7.0 進一步將傳輸率推升至 128 GT/s,經 x16 連結可達最高 512 GB/s 雙向頻寬。CITE:E4

PCIe 7.0 的高頻寬如何支撐 AI 與機器學習工作負載?

Synopsys 表示 PCIe 7.0 最高 512 GB/s 的頻寬可連接多個加速器。CITE:E5 其 load-store 能力與安全資料傳輸機制,使系統得以有效率地處理大型且複雜的 AI 與機器學習模型。CITE:E5

實際應用:數據中心架構中的 PCIe(以 NVIDIA Grace 為例)

NVIDIA 在 Grace CPU Superchip 中部署 8 組 PCIe Gen 5 x16 連結。CITE:E6 每組連結可支援最高 128 GB/s 雙向頻寬,用於連接 GPU、網卡與儲存等資料中心裝置。CITE:E6

綜合前文數字,PCIe 傳輸率已由 32 GT/s、64 GT/s 推進至 128 GT/s,x16 連結最高雙向頻寬達 512 GB/s。CITE:E3CITE:E4 相較之下,NVIDIA Grace CPU Superchip 目前部署的 PCIe Gen 5 x16 連結,每組僅支援 128 GB/s。CITE:E6 512 GB/s 與 128 GB/s 之間的四倍差距,顯示 PCIe 規格演進速度領先於目前資料中心的實際部署世代;而 Synopsys 所述 PCIe 7.0 連接多加速器、處理大型 AI 模型的能力,正對應這個尚未被目前部署填滿的頻寬空間。CITE:E5