KOL Digest

AI算力

368 則觀點

觀點

↑看多 Samuel6788 09.24 · 中期 原文 ↗

每人專屬虛擬機運算大幅改寫算力消耗模式,一次跨平台比價可能觸發破百次搜尋,每天數十億 token 的代理負載讓算力需求走出第二條曲線。代理式運算徹底擺脫純模型訓練的單一敘事,為伺服器處理器、快取儲存與邊緣網路注入長期擴張動能

高利率壓制重資產資料中心籌資能力,工程或營運延誤將大幅侵蝕回報率。投資佈局應以本業具備充沛現金流印鈔機的科技巨頭為首選,藉由既有獲利支應次世代 AI基建 投資。高利率環境凸顯資產負債表實力,AI 投資應聚焦現金流穩健的科技巨頭而非高負債重資產新創

↑看多 Andrew Lu 09.23 · 短期 原文 ↗

上游算力租賃價格調漲,下游 OpenAI 與 Anthropic 卻發動永久性價格戰腰斬 token 售價,利潤空間遭受擠壓。閉源模型價格割喉戰加速展開,強化了短期市場價值從賣 tokens 的模型層移向 AI基建 算力中心的趨勢

↑看多 Semianalysis 09.23 · 長期 原文 ↗

市場對 GB300 與次世代伺服器的 6 年折舊假設缺乏二手殘值定價能力支撐,貸款償還期與會計折舊脫節導致放款機構審核趨嚴。然而超大規模算力擴建仍獲華爾街債務與資本市場大舉注資,前沿巨頭數百億美元級別的算力合約持續推升基建動能。以投資級客戶合約質押與硬體收益保底為核心的金融工程正重塑 AI 基建擴張節奏,確保大規模資本開支具備持續閉環能力。

全球僅 19 家雲端廠商達到獎牌級別,CoreWeave 與 Nebius 憑藉深厚工程積累與定價權位居白金級,微軟 $MSFT 與亞馬遜 $AMZN 則因可靠性或架構繁複分別落入白銀與青銅級。代管叢集並未隨前沿巨頭自建而萎縮,反而受開源模型推論與新創融資驅動而持續爆發。整體代管 GPU 算力仍處於高定價權的賣方市場,供應端任何瓶頸都將使具備高可靠性與自動化維運能力的優質雲端商持續享有溢價。

↑看多 游庭皓 09.23 · 中期

$NVDA 逼近關鍵壓力區且杯柄型態逐步完成,雖客戶端如軟銀與 $ORCL 面臨龐大發債與融資槓桿風險,但高階晶片租金殘值堅挺。AI 算力遵循傑文斯悖論,成本降低與技術突破只會引爆更大規模的算力擴張需求

光通訊晶片新引擎面臨博通 $AVGO 與輝達 $NVDA 等巨頭強烈競爭,且雲端大客戶以認股權證分享利潤造成股東稀釋。AI 互連與晶片新架構驅動廠商更換引擎,但在大客戶集中度過高與強敵環伺下,各家面臨毛利率壓縮與份額瓜分的實質挑戰

↑看多 美投侃新聞 MeiTouNews 09.23 · 中期 原文 ↗

阿里巴巴 $BABA 公布真武 V900 自研晶片與 2032 年 20GW 資料中心藍圖,自研算力佔比未來將由 10% 提升至近半以壓制 CapEx 成本。自研晶片與資料中心深度綁定有助壓低單位算力成本,形成全棧 AI 自給自足的商業閉環

↑看多 Samuel6788 09.21 · 中期 原文 ↗

推論端需求爆發不依賴訓練是否放緩,且推論任務成倍放大帶動晶片架構對 CPU 與 GPU 的協同倚賴。推論端算力進入實質放量期,硬體需求從單純訓練叢集擴展至全面性的異質運算基建

AI 代理普及推升推論運算爆炸性成長,硬體需求從單純 GPU 訓練叢集轉向高度協同的 CPU 推論架構。推論端算力需求具象化大幅提前,帶動晶片產業開啟異質架構與伺服器處理器的全新擴張週期

Semianalysis 09.21 · 中期 原文 ↗

MoE 推論將計算分流為 Prefill、Midfill 與 Decode 等異質負載,Decode 階段因 KV 讀取私有化而無法透過堆疊 Batch Size 獲得傳統規模效益,反而推高延遲。MoE 推論的最優操作點在於解耦各階段負載並在 Decode 端維持小 Batch 運行,以極大化高經濟價值的互動性 Token 輸出

↑看多 M觀點 09.21 · 中期

未來 AI 系統將演進為三層分工:大型語言模型專注深層推理與生成、JEV 類模型專注高頻快速決策、傳統程式落實確定性精準執行。決策專用架構大幅降低推論成本與延遲,將加速 AI Agent 普及並進一步推升底層 AI算力 總體消耗量

↑看多 大叔美股筆記 09.20 · 中期 原文 ↗

算力市場正由單純 GPU 租賃走向推論優化、模型調度與檢索整合之全端 Runtime,軟體附加價值與推論毛利成為擺脫重資產估值折價之關鍵。供應商刻意延後銷售產能以反映供需緊俏,驗證市場定價權正由買方轉向具交付能力之算力方。算力競爭決勝點已從硬體採購擴展至推論全流程軟體優化,供需吃緊帶來的定價話語權為營運商創造顯著溢價空間

↑看多 Ethan的美股筆記 09.20 · 中期 原文 ↗

算力租賃商宣布全面調漲 GPU 與記憶體租金兩成至四成,且倡議減速的 Anthropic 亦被曝簽訂百億級長期算力合約。算力租賃端大幅漲價確認算力市場仍屬賣方市場,真實需求持續透過長期合約與擴產訂單強力外溢

↑看多 美投侃新聞 MeiTouNews 09.18 · 中期 原文 ↗

雖然 AI 價值未來必然逐步向應用層擴散,但應用型公司擴張本質上仍高度依賴底層模型與算力支撐,反向擴大上游營收。短期內 AI 產業的大部分經濟價值仍將集中於晶片、基礎模型與雲端等上游領域,上游霸權地位短期難以撼動

↑看多 美投侃新聞 MeiTouNews 09.18 · 中期 原文 ↗

經歷 9 月大幅調整後,AI 族群的擁擠多頭部位與槓桿已顯著出清,市場情緒由極度樂觀轉為保守。三個月前風險在於交易過度擁擠,當前站到另一邊反而釋放了風險並創造回補空間。科技股槓桿與擁擠持倉大幅下降已重置籌碼結構,十月行情反轉將由拋壓出清的 AI 板塊率先啟動

↑看多 FundaAI 09.17 · 中期 原文 ↗

市場因放緩開發倡議引發硬體股拋售反應過度悲觀,AI算力 與 半導體 供應鏈基本面需求並未實質受損。放緩倡議僅拉長公開發布週期而非停止內部訓練,且對齊評估反而推升運算需求;配合企業端逾 95% 支出集中成熟模型的推論增長,整體算力需求持續擴張。放緩倡議僅限外部發布且對齊增添運算負擔,市場對硬體股的恐慌拋售顯屬過度反應

↑看多 M觀點 09.17 · 中期

企業採購地端 GPU 運行開源模型以維護資料主權,帶動雲端之外額外龐大的算力採購需求。地端開源微調架構並未削弱反而擴大了整體算力需求,對硬體基礎設施形成雙重支撐

↑看多 Samuel6788 09.17 · 中期 原文 ↗

四年舊的 H100 不僅未跌價反而調漲租金兩成,直接打臉空頭所謂折舊低估成本的質疑。AI 算力的真實折舊速度遠慢於會計準則假設,長期合約與高殘值持續推翻折舊空頭邏輯

AI 晶片與網路供應商現金流充沛,但大客戶延期付款與租賃支援顯示融資端壓力正在產業鏈擴散;同時大型雲端平台 CapEx 亦大幅壓縮現金餘額。算力供應鏈進入真實造血與回款檢驗期,需緊盯大客戶融資能力與巨額資本開支之後續回報率

↑看多 Andrew Lu 09.17 · 中期 原文 ↗

Blackstone 與 Alphabet 透過 220 億美元專案融資建置 500MW 資料中心,確立 AI 晶片作為擔保融資資產之全新商業模式。第三方 Neocloud 專案融資模式加速落地,為晶片、伺服器、電力與散熱等整體 AI基建 供應鏈注入龐大實體需求

↑看多 游庭皓 09.17 · 長期

高利率主要限制低融資成本的投機活動,無法遏止具備高回報率與生產力爆發力的 AI基建 投資,科技巨頭仍具強勁借貸與資本支出動能。高利率環境僅適度抑制股票市場的估值倍數,並不妨礙具備實質生產力優勢的 AI 產業長期擴張趨勢

雲端服務商將 GPU 晶片與資料中心資產包裝成資產抵押證券與私募信貸,為算力建置提供龐大融資動能。算力基礎設施的高速擴張仍具強勁實質需求,但金融機構將算力資產複雜打包後所衍生的信用風險值得長期警惕

↑看多 Samuel6788 09.16 · 中期 原文 ↗

OpenAI 估值跳升並積極推進融資,為數千億美元的雲端運算與資料中心長期採購承諾提供堅實資金後盾。前沿模型實驗室強大融資能力消除了算力長約違約疑慮,對上游基礎設施建置夥伴形成直接信心支撐

↑看多 Ethan的美股筆記 09.15 · 長期 原文 ↗

訓練減速不代表需求熄火,推理端受Agent多工調用、推理思考拉長與單價下降帶動總量激增三大引擎推動。供給重心正從超大訓練集群移轉至推理集群,晶片端涵蓋 $NVDA 、 $AMD 及客製化ASIC晶片廠商 $AVGO 與 $MRVL 。減速不是需求消失而是從訓練轉移至推理,算力在未來幾年依然供不應求

↑看多 美股送分題 09.14 · 中期 原文 ↗

AI 基礎設施需求正由雲端巨頭擴散至企業與主權雲,且單座 AI Factory 所需之運算、網路與系統價值量自 Hopper 18B 躍升至 Vera Rubin 40B。AI 工廠價值量提升與多元客戶買單延長了基建投資週期,非短期單一 Capex 循環可概括

↑看多 Vik's 09.14 · 中期 原文 ↗

市場擔憂安全倡議可能導致大模型訓練叢集縮減並壓低未來資本支出,但考量同業競爭壓力與地緣國家安全風險,各方不可能實質縮減硬體投入。放緩前沿開發的倡議在中短期內對 AI 硬體建置與資本支出幾乎不會造成實質衝擊

推論運算具備擴展至全球人口規模的特質,加上個人 AI 助理普及與常駐型 Agent 興起,非前沿模型的實用算力需求極其龐大。全球算力消耗遠未觸及頂峰,推論需求與非驗證領域的長尾應用將持續支撐龐大的算力消耗

↑看多 M觀點 09.14 · 中期

即使 AI 實驗室因安全標準而調整發布節奏,整體運算叢集的使用量不會減少,只會從純模型智力訓練轉向安全驗證與多代理人測試。市場擔憂前沿模型控速將衝擊硬體供應鏈純屬誤讀,安全檢驗與對齊演算法反倒進一步推升 AI基建 的總算力天花板

前沿模型安全控管並非單純減速,而是要求模型在能力達到新門檻時必須通過更嚴格的對齊與安全檢驗。對齊演算法訓練與紅隊測試同樣極度消耗 GPU 運算資源,若想維持研發速度更須擴大硬體採購。前沿模型控管安全步調對 AI 硬體並非利空,安全對齊與紅隊測試的算力需求將支撐硬體長期消耗

↑看多 Semianalysis 09.14 · 中期 原文 ↗

隨著電力併網延遲成為 AI 擴建的硬約束,資料中心建置重點已從純粹堆疊硬體轉向最大化每百萬瓦吞吐量。具備動態電力調配與超高能效比的 AI 基建方案將成為算力營運商突破電力天花板的必備選擇

實體 AI 與具身智慧的崛起正開拓文字與對話之外的第二運算戰場,機器人規劃層每數秒至每秒數次的雲端調用將創造龐大的資料中心推論負載。具身智慧的普及將為雲端 AI 算力基礎設施帶來龐大且持續的即時推論需求增量

AI 工作負載正由單輪對話轉移至複雜的 Agent 代理系統,對高並發、長上下文與低延遲的要求促使算力平台從單晶片過渡至全機櫃深度協同架構。全機櫃協同設計的推論加速架構已成次世代 AI 算力降低單位 Token 成本的核心分水嶺

↑看多 FundaAI 09.14 · 中期 原文 ↗

OpenAI 的 GPT-6 Astra 將電腦操作(computer use)列為旗艦核心能力,開啟知識工作自動化的大規模潛在市場;其實驗室內部 RSI 數據顯示智能體工時已達人類工時 3.1 倍。隨著其他瓶頸消除,算力成為最緊縮的約束條件。電腦操作與智能體閉環正將算力需求擴展至遠大於編程的白領工作領域,對下一輪預訓練週期的算力消耗具結構性推升效果

↑看多 美投侃新聞 MeiTouNews 09.14 · 中期 原文 ↗

高盛指出站在最前沿的業者呼籲減速恰好反證技術有效,微軟 $MSFT 與 Meta $META 不會輕易停止投資。算力性價比提升在應用擴張前期將刺激更多需求與變現,AI 資本開支與算力結構性趨勢並未改變

伺服器、散熱 與 光通訊 等基礎設施短線受投資減速消息壓抑,但在手訂單與建設進度仍在進行。基礎設施短線跟隨大盤震盪,但中長線軍備建設底層需求尚未反轉

↓看空 Samuel6788 09.14 · 短期 原文 ↗

頂尖實驗室若暫緩訓練規模擴張,將動搖 AI 訓練用大型運算供應鏈的需求能見度,衝擊晶片與 光通訊 族群。訓練端設備估值短期面臨重新審視,賣壓集中於高度依賴模型訓練擴張的硬體族群

每天早上,收件匣見

54 位中英文財經 KOL 的觀點,每天自動整理成一份日報。免費,隨時可退訂。

免費訂閱