觀點
AWS 等雲端巨頭深化晶片合作以分散供應鏈並強化推論效率。推論與代理架構普及驅動資料中心低延遲運算與光學互連需求持續擴張
機器人推論的 Token 流呈現穩定節奏,透過專用 ISP 與編解碼晶片壓縮影像,頻寬受限度低於 LLM,但 WAM 的視訊去噪使運算強烈受限於 FLOPs。視訊擴散架構的引入大幅推升了實體 AI 的算力密度要求,資料中心級算力將成為通用具身智能落地的核心基礎設施
次世代模型需要四倍算力支撐,且推論工作負載正快速擴展至系統管理與高頻安全修補等生產環境。推論與訓練需求同步激增且算力規格翻倍,持續驗證 AI 算力基建長線需求的真實性與緊缺度
模型自我改良與科學研究探索需要極高強度的運算支援,研究員推論 Token 消耗急遽攀升使算力成為最核心的研發瓶頸。模型訓練模型與科學運算的遞歸循環已實質啟動,持續擴張的算力需求成為驅動 AI 研發進展的最底層約束
算力龍頭透過股權、硬體優先權與算力兜底承諾打造封閉生態,加速推動下游客戶採購下一代 Rubin 與 Vera 平台。透過資本工程綁定算力需求雖能短期支撐出貨能見度,但長期本質仍取決於 AI 終端應用變現能力
推論市場買家的核心關注點已由純晶片算力轉向每美元產出(Performance per Dollar)與每瓦性能。雲端推論架構正進入由 TCO 驅動的多晶片方案競爭期。雲端大型模型推論的競爭重心已由峰值算力轉向每美元 Token 產出的系統級經濟效益
vLLM 與 SGLang 作為主流開源推論引擎,過去主要圍繞 $NVDA CUDA 進行 Day-0 最佳化。隨 $GOOGL TorchTPU 架構原生化,TPU 的軟體適配成本將顯著下降。原生 PyTorch 支援大幅降低推論引擎跨框架遷移門檻,加速 TPU 在開源生態的普及
Qwen3.5 最佳化採用 DEP8(8-way DP 注意力結合 8-way EP),將 ReduceScatter 與 MoE 參差資料整理卸載至 SparseCore 以重疊 TensorCore 矩陣運算。透過運算與通訊重疊以及硬體特化核心協同,顯著降低推論延遲並提高硬體利用率
OpenAI 推出 astra 模型且 Anthropic 即將上市,前沿模型持續突破是 AI 多頭最重要的核心支撐。只要獲利成長速度持續超越股價漲幅,本益比與估值自然會逐步下修並提供強勁安全邊際
在 ASIC 與前沿模型多樣化發展下,算力架構正朝向 GPU 與 ASIC 混合運算、機櫃級互連與全套網路晶片整合演進。即使專用 ASIC 分食單一運算晶片市占,整體 AI 算力基建對高速互連、網路與系統級解決方案的需求依然持續擴張
$AVGO 公布客製晶片 ASIC 長期展望,Anthropic 將成為主要客戶,但近端產品組合轉移壓低整體毛利。市場對算力供應鏈的定價回歸理性,遠期產能擴張需搭配近端穩健獲利方能支撐估值
下游 HPC 代管需求維持強勁,但券商對上游 AI 實驗室商業模式能否持續支撐長約履行的模型層風險日趨挑剔。AI基建 的商業模式在承擔運算層責任與純物理託管間出現分化。承擔越多運算層責任雖享有更高每 MW 營收天花板但同時承擔極高執行與資產風險,方向上取決於個別廠商定位
算力龍頭透過股權、硬體優先權與算力兜底承諾打造封閉生態,加速推動下游客戶採購下一代 Rubin 與 Vera 平台。透過資本工程綁定算力需求雖能短期支撐出貨能見度,但長期本質仍取決於 AI 終端應用變現能力
前沿閉源模型能拉開差距才能重新刺激支出增速加速,開源模型追趕則促成便宜算力與本地推理興起。長期 AI 算力演進趨勢明確,但短線需驗證前沿模型能否打破支出增速放緩通道
Astra 定價與頂級模型相當且由 10 萬張 GPU 訓練而成,展現對高階算力基礎設施的巨大消耗。AI 競賽標準已從單純文字生成升級為長時程端到端任務執行,算力規模與大型資料中心建置依舊是核心支撐
前沿閉源模型能拉開差距才能重新刺激支出增速加速,開源模型追趕則促成便宜算力與本地推理興起。長期 AI 算力演進趨勢明確,但短線需驗證前沿模型能否打破支出增速放緩通道
NVIDIA 透過全資收購開源平台整合底層運算資源,長期而言將在成本與每瓦能耗上建立顯著優勢。平台生態與底層硬體深度綁定,將進一步鞏固高效能 AI算力 基礎設施之長期競爭壁壘
輝達藉由併購開源開發者平台,將算力硬體與模型微調部署深度綁定。從單純晶片供應商進化為全方位 AI 平台系統商,持續拓寬護城河並創造增量需求
模型巨頭過去兩年簽訂龐大算力採購合約,但算力款項需待機房完工交付後才正式付款。自 2027 年起第一批資料中心建置完成將迎來巨額付款潮,考驗模型業者的營收增長與定價調升能力
開源模型在生產環境的滲透受限於合規與採購風險,需達到 4 倍以上成本優勢才足以覆蓋切換與重測成本。自建推論叢集的 GPU 利用率若低於 80%,自建成本優勢將基本消失,促使企業主要透過雲端平台調用。自建推論叢集需維持 80% 以上高利用率方具成本優勢,短期內雲端託管與模型分層仍為企業主流方案
雲端巨頭與 AI 實驗室對客製化晶片與低延遲網路需求持續擴張,博通客戶未來兩年算力規劃達 30GW,AI 基礎設施建設正從單晶片算力演進至大規模集群。AI 客製化晶片與網路架構需求持續爆發,長期算力投資週期能見度已延伸至 2028 年
Astra 定價與頂級模型相當且由 10 萬張 GPU 訓練而成,展現對高階算力基礎設施的巨大消耗。AI 競賽標準已從單純文字生成升級為長時程端到端任務執行,算力規模與大型資料中心建置依舊是核心支撐
超大型雲端廠商客製化需求激增,ASIC 專用晶片與高速交換器互連架構持續高速擴張。客製化晶片已進入實質獲利與強勁自由現金流兌現期,AI 算力基建長線增長趨勢明確
輝達藉由併購開源開發者平台,將算力硬體與模型微調部署深度綁定。從單純晶片供應商進化為全方位 AI 平台系統商,持續拓寬護城河並創造增量需求
前沿 AI 實驗室與雲端大廠持續擴大客製化晶片與網路叢集投資,Anthropic 預計 2027 年部署 5GW TPU,OpenAI 亦推進 1.3GW 以上客製加速器。大型模型訓練與推論基建規模持續擴張,前沿實驗室與雲端巨頭的算力資本支出週期已延伸至 2028 年
全球國家自主意識升高促使主權 AI 與自研模型需求爆發,各國紛紛擴大在地算力投資以擺脫少數美系閉源模型供應商的箝制。各國政府與企業自行預訓練並掌控實體算力的趨勢,將持續擴大全球 AI 加速硬體與資料中心基建的總體需求
市場擔憂 Anthropic 等明星獨角獸上市將產生資金吸吮效應並壓制龍頭科技股,但歷史經驗顯示這僅屬短暫的資金分流與倉位調整而非基本面轉向。相較於資金分流,招股書揭露的晶片採購承諾與算力租賃協議更具定價參考。明星獨角獸 IPO 不構成賣出龍頭科技股的理由,招股書所揭露的真實毛利與算力租賃規模才是重新評估整體 AI 估值的核心
AI算力 租賃市場訂單需求旺盛,但重資產模式下商業本質在於能否以最低資金成本與最小股本稀釋將電力轉化為實質現金流。市場不缺算力訂單,真正稀缺的是具備交付能力且不依賴持續稀釋股東權益的商業模式
雲端運算積壓訂單突破 2 兆美元且五大雲明年資本支出達 1.3 兆美元,算力仍是限制 AI 產業發展的最核心瓶頸。AI 算力產業在雲端巨頭資本支出超預期擴張與新一代晶片放量下,整體需求與商業化成長動能依然極為強勁
雲端巨頭資本支出預估由 1 兆美元上修至 1.3 兆美元,token 降價帶動更多應用場景並創造營收正循環。$NVDA Vera Rubin 晶片訂單滿載並於 8 月量產出貨,將創下史上最快放量紀錄。算力基礎建設軍備競賽持續升級且商業化應用擴散,硬體出貨與系統級需求將在下半年加速兌現
全美資本支出逾半歸因於 AI 基建,大廠對 GPU 與資料中心建置需求堅挺。即使利率上升與折現率承壓,超大型科技公司對 AI 基建的資本支出仍全速前進
AI Agent 時代推論任務頻繁切換,使晶片架構走向狀態不搬家與異質分工兩種哲學對決。AI 自動化設計晶片打破了傳統 ASIC 的軟體開發門檻,推動 AI算力 硬體走向客製化與多元發展
美國企業過去四季設備與無形資產投資成長 9% 創近年新高,其中超過半數資本支出由 AI 基礎設施建設貢獻。AI 相關資本支出持續作為推動美國私人國內最終購買與實體經濟韌性的核心引擎
AI Agent 的邊緣調度需求帶動 CPU 重要性大幅躍升,與 GPU 的配比由 1:10 邁向 1:1 的增量水準。CPU 需求提升為 AI Agent 時代下的新增量概念,可與 GPU 算力並駕齊驅
53 位中英文財經 KOL 的觀點,每天自動整理成一份日報。免費,隨時可退訂。