KOL Digest

AI算力

368 則觀點

觀點

美股送分題 09.13 · 中期 原文 ↗

前沿模型開發若刻意延長訓練週期或限制訓練算力規模,短期將影響硬體擴張速率,但安全對齊與即時監控將引導算力結構轉向推論與評估端。算力需求的底層驅動力正在從單純追求模型規模擴展,轉向支撐複雜安全測試與即時治理的複合型運算

Samuel6788 09.13 · 中期 原文 ↗

企業級長文本與代碼生成工作流推升推論支出占總算力 70% 以上,通用 GPU 的高成本迫使前沿大模型業者透過 NRE 客製混合脈動陣列晶片並包底產能,搭配收購微型編譯器團隊優化 Triton 與 XLA 算子。推論階段成本結構的轉變將驅動運算架構由通用 GPU 走向特定演算法加速與軟硬體深度協同

Semianalysis 09.13 · 中期 原文 ↗

推論解碼每生成一個 Token 均須讀取全部模型權重與 KVCache,記憶體頻寬直接決定互動速度。在 $NVDA Rubin Ultra 等系統上,過高容量若缺乏對應頻寬將淪為閒置超額配置。次世代 AI 算力架構正由追求單晶片大容量轉向最大化每單位頻寬的 Token 產出效率

↑看多 MacroMicro 財經M平方 09.12 · 中期

傑文斯悖論持續發酵使 Token 價格下降推動使用量幾何級數增長,雖然模型端面臨研發與推理成本壓力,但上游晶片與算力硬體仍是最具定價權的利潤捕獲者。Token 降價引發需求爆炸性成長,AI 算力基礎設施仍是產業鏈中最確定的價值捕獲環節

↑看多 美投侃新聞 MeiTouNews 09.11 · 中期 原文 ↗

雖然宏觀大師提出盈利式泡沫的週期警訊,但半導體與基礎設施獲利的底層邏輯取決於前沿模型的變現速度。目前主流大模型公司 ARR 仍維持高雙位數月增率,投入回報比持續好轉。只要前沿大模型商業化營收能持續兌現高增長,AI 算力與基建的資本開支擴張邏輯依然堅挺

↑看多 游庭皓 09.11 · 長期

AI 算力成本上升與資料中心建置門檻提高並非供給過剩,企業獲利與生產力提升將支撐龐大資本支出。AI 算力與資料中心需求持續強勁,產業並未見到算力廉價或過剩的泡沫特徵,長線發展趨勢明確

↑看多 Semianalysis 09.11 · 長期 原文 ↗

相較 AICP 每 GW 產生 590 億美元表外義務,25% 殘值擔保結構每 GW 僅需 94 億美元擔保即可成案,資金使用效率顯著提升。分層信貸結構結合有限殘值擔保能最大化資本槓桿,為萬億級 AI基建 算力部署提供可持續融資路徑

↑看多 游庭皓 09.10 · 長期

雲端巨頭持續擴大 AI 資本支出,伺服器與晶片出貨動能維持高檔,推動產業處於強勁增量擴張期。掌握算力與伺服器核心供應鏈的廠商,將享有遠高於飽和存量市場的資本回報與獲利增長

↑看多 Ethan的美股筆記 09.10 · 中期 原文 ↗

企業在 AI 算力與客製化晶片的資本開支持續加速,$AVGO 等龍頭供應商展現出將訂單快速轉化為 40% 以上自由現金流的能力。AI 算力需求擴張明確且現金兌現速度領先整體硬體板塊,具備高自由現金流轉換率的龍頭最具抗高利率防禦力

↑看多 硅谷101 09.10 · 長期 原文 ↗

儘管單個智能體的推論成本顯著下降,但當模擬規模擴展至上萬乃至數百萬智能體且需重複運行上千次以驗證穩定性時,調用量將呈指數級暴增。多智能體交互的複雜度將轉化為龐大的推論算力需求,工程剪枝與算力降本是模擬預測走向規模化的關鍵瓶頸

↑看多 美股投資學-財女珍妮 09.09 · 中期 原文 ↗

AWS 等雲端巨頭深化晶片合作以分散供應鏈並強化推論效率。推論與代理架構普及驅動資料中心低延遲運算與光學互連需求持續擴張

↑看多 Semianalysis 09.09 · 長期 原文 ↗

機器人推論的 Token 流呈現穩定節奏,透過專用 ISP 與編解碼晶片壓縮影像,頻寬受限度低於 LLM,但 WAM 的視訊去噪使運算強烈受限於 FLOPs。視訊擴散架構的引入大幅推升了實體 AI 的算力密度要求,資料中心級算力將成為通用具身智能落地的核心基礎設施

↑看多 Samuel6788 09.09 · 中期 原文 ↗

次世代模型需要四倍算力支撐,且推論工作負載正快速擴展至系統管理與高頻安全修補等生產環境。推論與訓練需求同步激增且算力規格翻倍,持續驗證 AI 算力基建長線需求的真實性與緊缺度

↑看多 FundaAI 09.08 · 長期 原文 ↗

模型自我改良與科學研究探索需要極高強度的運算支援,研究員推論 Token 消耗急遽攀升使算力成為最核心的研發瓶頸。模型訓練模型與科學運算的遞歸循環已實質啟動,持續擴張的算力需求成為驅動 AI 研發進展的最底層約束

Samuel6788 09.08 · 長期 原文 ↗

算力龍頭透過股權、硬體優先權與算力兜底承諾打造封閉生態,加速推動下游客戶採購下一代 Rubin 與 Vera 平台。透過資本工程綁定算力需求雖能短期支撐出貨能見度,但長期本質仍取決於 AI 終端應用變現能力

Semianalysis 09.07 · 中期 原文 ↗

推論市場買家的核心關注點已由純晶片算力轉向每美元產出(Performance per Dollar)與每瓦性能。雲端推論架構正進入由 TCO 驅動的多晶片方案競爭期。雲端大型模型推論的競爭重心已由峰值算力轉向每美元 Token 產出的系統級經濟效益

vLLM 與 SGLang 作為主流開源推論引擎,過去主要圍繞 $NVDA CUDA 進行 Day-0 最佳化。隨 $GOOGL TorchTPU 架構原生化,TPU 的軟體適配成本將顯著下降。原生 PyTorch 支援大幅降低推論引擎跨框架遷移門檻,加速 TPU 在開源生態的普及

Qwen3.5 最佳化採用 DEP8(8-way DP 注意力結合 8-way EP),將 ReduceScatter 與 MoE 參差資料整理卸載至 SparseCore 以重疊 TensorCore 矩陣運算。透過運算與通訊重疊以及硬體特化核心協同,顯著降低推論延遲並提高硬體利用率

↑看多 游庭皓 09.07 · 中期

OpenAI 推出 astra 模型且 Anthropic 即將上市,前沿模型持續突破是 AI 多頭最重要的核心支撐。只要獲利成長速度持續超越股價漲幅,本益比與估值自然會逐步下修並提供強勁安全邊際

↑看多 M觀點 09.07 · 長期

在 ASIC 與前沿模型多樣化發展下,算力架構正朝向 GPU 與 ASIC 混合運算、機櫃級互連與全套網路晶片整合演進。即使專用 ASIC 分食單一運算晶片市占,整體 AI 算力基建對高速互連、網路與系統級解決方案的需求依然持續擴張

$AVGO 公布客製晶片 ASIC 長期展望,Anthropic 將成為主要客戶,但近端產品組合轉移壓低整體毛利。市場對算力供應鏈的定價回歸理性,遠期產能擴張需搭配近端穩健獲利方能支撐估值

Samuel6788 09.06 · 中期 原文 ↗

下游 HPC 代管需求維持強勁,但券商對上游 AI 實驗室商業模式能否持續支撐長約履行的模型層風險日趨挑剔。AI基建 的商業模式在承擔運算層責任與純物理託管間出現分化。承擔越多運算層責任雖享有更高每 MW 營收天花板但同時承擔極高執行與資產風險,方向上取決於個別廠商定位

算力龍頭透過股權、硬體優先權與算力兜底承諾打造封閉生態,加速推動下游客戶採購下一代 Rubin 與 Vera 平台。透過資本工程綁定算力需求雖能短期支撐出貨能見度,但長期本質仍取決於 AI 終端應用變現能力

前沿閉源模型能拉開差距才能重新刺激支出增速加速,開源模型追趕則促成便宜算力與本地推理興起。長期 AI 算力演進趨勢明確,但短線需驗證前沿模型能否打破支出增速放緩通道

↑看多 美投侃新聞 MeiTouNews 09.04 · 中期 原文 ↗

Astra 定價與頂級模型相當且由 10 萬張 GPU 訓練而成,展現對高階算力基礎設施的巨大消耗。AI 競賽標準已從單純文字生成升級為長時程端到端任務執行,算力規模與大型資料中心建置依舊是核心支撐

前沿閉源模型能拉開差距才能重新刺激支出增速加速,開源模型追趕則促成便宜算力與本地推理興起。長期 AI 算力演進趨勢明確,但短線需驗證前沿模型能否打破支出增速放緩通道

↑看多 Andrew Lu 09.04 · 長期 原文 ↗

NVIDIA 透過全資收購開源平台整合底層運算資源,長期而言將在成本與每瓦能耗上建立顯著優勢。平台生態與底層硬體深度綁定,將進一步鞏固高效能 AI算力 基礎設施之長期競爭壁壘

↑看多 美股投資學-財女珍妮 09.04 · 中期 原文 ↗

輝達藉由併購開源開發者平台,將算力硬體與模型微調部署深度綁定。從單純晶片供應商進化為全方位 AI 平台系統商,持續拓寬護城河並創造增量需求

游庭皓 09.04 · 中期

模型巨頭過去兩年簽訂龐大算力採購合約,但算力款項需待機房完工交付後才正式付款。自 2027 年起第一批資料中心建置完成將迎來巨額付款潮,考驗模型業者的營收增長與定價調升能力

FundaAI 09.03 · 中期 原文 ↗

開源模型在生產環境的滲透受限於合規與採購風險,需達到 4 倍以上成本優勢才足以覆蓋切換與重測成本。自建推論叢集的 GPU 利用率若低於 80%,自建成本優勢將基本消失,促使企業主要透過雲端平台調用。自建推論叢集需維持 80% 以上高利用率方具成本優勢,短期內雲端託管與模型分層仍為企業主流方案

↑看多 美投侃新聞 MeiTouNews 09.03 · 長期 原文 ↗

雲端巨頭與 AI 實驗室對客製化晶片與低延遲網路需求持續擴張,博通客戶未來兩年算力規劃達 30GW,AI 基礎設施建設正從單晶片算力演進至大規模集群。AI 客製化晶片與網路架構需求持續爆發,長期算力投資週期能見度已延伸至 2028 年

Astra 定價與頂級模型相當且由 10 萬張 GPU 訓練而成,展現對高階算力基礎設施的巨大消耗。AI 競賽標準已從單純文字生成升級為長時程端到端任務執行,算力規模與大型資料中心建置依舊是核心支撐

↑看多 美股投資學-財女珍妮 09.03 · 長期 原文 ↗

超大型雲端廠商客製化需求激增,ASIC 專用晶片與高速交換器互連架構持續高速擴張。客製化晶片已進入實質獲利與強勁自由現金流兌現期,AI 算力基建長線增長趨勢明確

輝達藉由併購開源開發者平台,將算力硬體與模型微調部署深度綁定。從單純晶片供應商進化為全方位 AI 平台系統商,持續拓寬護城河並創造增量需求

↑看多 Ethan的美股筆記 09.03 · 長期 原文 ↗

前沿 AI 實驗室與雲端大廠持續擴大客製化晶片與網路叢集投資,Anthropic 預計 2027 年部署 5GW TPU,OpenAI 亦推進 1.3GW 以上客製加速器。大型模型訓練與推論基建規模持續擴張,前沿實驗室與雲端巨頭的算力資本支出週期已延伸至 2028 年

↑看多 Semianalysis 09.01 · 長期 原文 ↗

全球國家自主意識升高促使主權 AI 與自研模型需求爆發,各國紛紛擴大在地算力投資以擺脫少數美系閉源模型供應商的箝制。各國政府與企業自行預訓練並掌控實體算力的趨勢,將持續擴大全球 AI 加速硬體與資料中心基建的總體需求

每天早上,收件匣見

54 位中英文財經 KOL 的觀點,每天自動整理成一份日報。免費,隨時可退訂。

免費訂閱