Deep|Optics: Scale-In Moves Optics Inside the Tray, and the Bandwidth Opportunity Could 10x Scale-Up

獲得 $NVDA 20 億美元投資與採購承諾，管理層預期托盤內 scale-in 將是未來 12 至 18 個月關鍵轉折。短線受惠 scale-up 光學需求上修，中長線則切入記憶體與 GPU 間之高頻寬光學互連。scale-in 將光學技術推進至伺服器托盤內部，中長線頻寬商機遠大於傳統 scale-out 與 scale-up

獲得 $NVDA 20 億美元投資挹注，並佈局短距 NRZ 調變技術以因應晶粒對晶粒之光學互連需求。光學部署時程確立為現階段 scale-out、明年 scale-up 放量，隨後進入晶粒級 scale-in。光學互連在銅纜達到物理極限後跨入晶粒互連，為先進光學元件開拓全新增長空間

FY28 scale-up 光學營收展望顯著上修並向供應商支付 10 億美元產能預付款，同時收購 Celestial AI 佈局光學互連。與 $GOOGL 簽署涵蓋記憶體介面與近記憶體運算之客製化晶片合作。透過產能預付款與生態系認股協議卡位，在 scale-up 與次世代 scale-in 記憶體架構中取得關鍵位置

光學傳輸邊界正從資料中心 scale-out 與機櫃 scale-up 逐步推進至托盤內晶粒與記憶體連結之 scale-in，其記憶體層級頻寬需求達 scale-up 的十倍。2027 年 scale-up 光學放量後，scale-in 將於隨後兩至三年接棒。托盤內光學互連將記憶體層級納入光學範疇，是長期解決晶片傳輸瓶頸與頻寬擴展的關鍵趨勢

隨著 XPU 單晶片運算效能攀升，電氣互連面臨功耗與密度極限，推動光電邊界持續向晶片與記憶體端收斂。產業資本正大舉湧入光學引擎、雷射與先進封裝流程以建構新一代運算架構。高頻寬記憶體池化與托盤內光學互連正重構運算基礎設施，成為支撐下一代超大規模 AI 叢集的基礎

在五大 AI 工廠網路架構中將 scale-in 定義為 BlueField-4 DPU 節點基礎設施網路，並以 CMX 名稱推廣記憶體池化層。同時向 $LITE 與 $COHR 各注資 20 億美元以確保光學供應鏈產能。透過 DPU 基礎設施網路與策略性光學產能綁定，持續鞏固系統級互連與運算架構主導權

透過與 $MRVL 簽署最高達 1200 億美元潛在營收門檻之認股權證協議，深耕 TPU 生態系客製化晶片。合作範圍涵蓋記憶體介面控制器與近記憶體運算，指向大規模記憶體池化與托盤內光學架構探索。大規模記憶體池化結合專用控制器，是推動 TPU 架構突破記憶體牆並實現次世代擴展的核心路徑

imec 於 Semicon Taiwan 提出 3D 整合光學晶片互連架構，將光學層直接立體堆疊於 XPU 與 HBM 下方。該架構預期在頻寬密度與每位元能耗上相較共封裝光學產生數量級突破。從 2.5D 中介層邁向 3D 立體光學堆疊，是突破晶粒間資料傳輸物理極限的終極技術路徑

記憶體層級是 AI 系統中頻寬需求最高之瓶頸，促使各大雲端巨頭探索記憶體池化與近記憶體運算架構。結合光通訊互連將能以極高頻寬存取共享記憶體池。記憶體池化架構搭配高速光學傳輸，將大幅解放大模型推論與訓練中的記憶體容量與頻寬限制