Cerebras 晶圓級晶片 (WSE) 架構突破與良率缺陷工程化
- —早期百度團隊驗證 Scaling Law 發現大模型訓練速度受限於數據在晶片、記憶體與網路間的搬運。Cerebras 將整張晶圓製成單一晶片，使記憶體與計算單元共享矽晶圓。透過超小核心與冗餘路由，將晶圓良率問題轉化為工程問題。
AI 推理時代高速度優勢、PD 分離與商業化 IPO 擴展
- —推理階段生成 Token 具強串行性，對內存頻寬極度敏感。Cerebras Inference 提供每秒 2000 Token 的輸出速度，推動即時交互體驗。公司與 OpenAI 簽署 200 億美元合約，並與 AWS 合作由 AWS 處理 Prefill、Cerebras 處理 Decode。
$NVDA 中期
GPU 架構適合矩陣並行訓練，但在逐字生成 Token 的 Decode 階段受到數據搬移與 HBM 頻寬限制。Cerebras 憑藉極高內存頻寬在推理速度上形成差異化競爭。生成式 AI 從訓練擴展至高速度推理，催生晶圓級晶片與傳統 GPU 體系的平行競爭
$AMZN 中期
AWS 與 Cerebras 合作採 PD 分離架構，利用 AWS 訓練晶片處理 Prefill 階段，再由 Cerebras 晶片處理高速度 Decode 階段。異構晶片組合部署已成為大型雲服務商兼顧吞吐與成本的主流趨勢
AI 推理從輔助需求躍升為基礎設施核心，高速度 Token 生成創造出即時代碼、互動教育與 AI 研發等全新應用場景。極致的內存頻寬與高速度推理能力，成為生成式 AI 邁向即時互動場景的核心硬體支柱
每天早上,收件匣見
53 位中英文財經 KOL 的觀點,每天自動整理成一份日報。免費,隨時可退訂。