KOL Digest
Vik's · 2026.11.10 週二 · Substack

Why AI Data Center Constraints Make Efficiency More Valuable

看原始內容 2 個主題 · 2 個標的/題材

AI 資料中心擴建受限與 800 VDC 供電架構升級:短線 Sidecar 到長線固態變壓器

  • —美國期中選舉後德州等地對資料中心阻力漸增,加諸電網升級時程漫長,使 AI基建 建置面臨場址審批與電力上線雙重瓶頸,促使營運商將目標轉向極大化現有設施的實質運算輸出
  • —單機櫃容納更多晶片面臨 散熱 與擴展網路極限,如 $NVDA NVL576 採跨機櫃 光通訊 與 銅纜 互連以避開 Kyber 高速中板製造挑戰,而 $AMD MI500 亦轉向光互連 scale-up 架構
AI基建 ↑看多 中期

傳統 48–54 VDC 難以因應高達 600 kW 至 1 MW 的超高機櫃功耗,轉向 800 VDC 能顯著降低電阻耗損並減少轉換環節。800 VDC 部署將從短線機櫃旁掛電源 sidecar 率先受惠,中長線延伸至列級直流匯流排與固態變壓器等高壓電力電子方案

專用推論晶片與每瓦 Token 能效:AI 算力部署重心轉向特定架構

  • —專用推論晶片如 OpenAI 的 Jalapeño 展現出每瓦吞吐量達 $NVDA 系統 1.5 至 1.9 倍的潛力,而 d-Matrix 與 $QCOM 則採取以 記憶體 為中心的架構減少資料搬移
  • —$AMD 旗下 Taalas 將模型硬編碼於矽晶片以追求極致能效,反映出電力緊縮環境下加速器架構高度客製化與專用化的極端趨勢
AI算力 ↑看多 長期

在電力稀缺與新機房擴建受限的背景下,投資焦點正從單純建造更多 AI基建 轉移至極大化現有設施運算效率。具備專用推論架構與晶上 記憶體 整合的晶片技術,能大幅提高每百萬瓦與每平方公尺的 Token 產出,結構性受惠趨勢將延續至 2030 年

每天早上,收件匣見

54 位中英文財經 KOL 的觀點,每天自動整理成一份日報。免費,隨時可退訂。

免費訂閱