矽光子與共同封裝光學(CPO):AI 資料中心下一個瓶頸在「搬資料」

為什麼互連已成為 AI 伺服器的最大瓶頸?

博通(Broadcom)指出,可插拔光模組(pluggable transceiver)約佔傳統交換機系統功耗一半、成本逾一半CITE:E1。博通具體陳述,「pluggable optical transceivers consume approximately 50% of system power and constitute more than 50% of the cost of a traditional switch system」,顯示在傳統架構中,負責把資料搬進搬出晶片的光模組,本身已耗掉整機近半的電力與逾半的成本CITE:E1。這個結構性負擔,是矽光子與共同封裝光學(Co-Packaged Optics,CPO)技術被業界積極投入的直接背景。

共同封裝光學(CPO)的核心創新原理是什麼?

輝達(NVIDIA)說明,CPO 的做法是把矽光子光引擎與交換晶片共同封裝,將電訊號路徑從印刷電路板上的14至16吋大幅壓縮到不到0.5吋CITE:E2。傳統架構中,訊號必須經過14至16吋的印刷電路板或銅線傳輸;導入共封矽光子後,訊號路徑縮短到不到半吋CITE:E2。路徑縮短直接對應到省電與訊號完整性的提升,呼應了博通所指出的功耗與成本結構問題CITE:E1CITE:E2。

業界領先廠商如何實現 CPO 技術?

博通、輝達與台積電已分別從交換晶片、AI 網路平台與晶圓級封裝三個層面,推出各自的 CPO 產品或製程方案。

三方方案分屬不同層級:博通的 Bailly 已是可出貨的交換平台產品CITE:E3;輝達的 Quantum-X Photonics 鎖定 AI 網路交換場景,以雷射數量與電源效率為訴求CITE:E5;台積電的 COUPE 則是更底層的晶圓級封裝製程,目標在2026年進入量產CITE:E6。

CPO 部署有哪些可靠性挑戰?業界如何因應?

把雷射整合進封裝後,雷射的可靠度與維修性成為 CPO 部署的主要隱憂之一CITE:E4。輝達的因應方式是,將雷射放在前面板可插拔的外接光源(OSFP)模組上,交換核心本身保持密封,「Lasers reside on front-panel external laser source pluggable OSFP modules, enabling quick diagnosis and replacement while the switch core remains sealed」,以便快速診斷與更換CITE:E4。換言之,輝達目前並未把雷射完全封進晶片內部,而是保留前面板可抽換的設計,作為可靠度與維修性之間的折衷。

CPO 如何賦能下一代 AI 基礎設施的擴展?

Marvell 主張,CPO 技術能提供比銅互連更長距離、更高密度的 XPU 對 XPU 連結,藉此支撐高效能、高容量的 scale-up AI 伺服器發展CITE:E7。Marvell 具體陳述,「By enabling longer reach and higher density XPU-to-XPU connections, CPO technology facilitates the development of high-performance, high-capacity scale-up AI servers」CITE:E7。這項主張把 CPO 的定位,從單一交換機或封裝製程的技術升級,延伸到整個 AI 加速器叢集互連架構的擴展能力。

這代表什麼?博通揭露的功耗與成本結構CITE:E1,說明了為何交換機層級(博通2024年發表 BaillyCITE:E3)、AI 網路平台層級(輝達2025年3月發表 Quantum-XCITE:E5)與晶圓級封裝層級(台積電目標2026年量產 COUPECITE:E6)會在不同時間點、不同層次同時投入 CPO。但雷射可靠度與維修性的解法(輝達保留前面板可插拔外接雷射模組CITE:E4),與 Marvell 對 CPO 支撐高密度 scale-up 連結的主張CITE:E7之間存在張力:目前業界尚未把雷射完全密封進晶片,顯示可靠度問題還未透過完全整合的方式解決。