KOL Digest
硅谷101 · 2026.08.03 週一 · YouTube

对话盛颖:xAI,Infra的浪漫,SGLang,开源,平权与“甄嬛传”

看原始內容 2 個主題 · 4 個標的/題材

形式化驗證至 AI Infra 的跨界:數學確定性與程式語言設計權衡

  • 盛穎於哥大與斯坦福期間主攻形式化驗證與 SMT 求解器 (cvc5),將程式碼拆解映射至底層一階邏輯以證明不變量。接近數學的語言易於驗證,接近硬體的語言靈活高效。因形式化驗證成本高且覆蓋有限,後轉向大模型系統研發。
AI基建 看多 長期

大模型基礎設施研發兼具數學論證與硬體效率的雙重要求。把 Infrastructure 當作獨立產品而非輔助角色,追求極致系統美學與穩定性。基礎設施本身就是核心產品,從底層程式語意與數學邏輯構建簡潔優美的系統是解鎖極致性能的關鍵

SGLang 開源生態與 RadixArk 商業化:規模化推理與後訓練對齊

  • 從 FlexGen、S-LoRA 到創立 SGLang,團隊專注於萬卡叢集規模化部署與 Day-0 新模型適配。由 xAI 推理團隊經驗孵化出的 RadixArk,推出 Miles 框架解決 MoE 路由與後訓練強化學習中訓練與推理交替運作的對齊難題。
$NVDA 中期

NVIDIA 參投 RadixArk 種子輪,新晶片發佈當天即透過 SGLang 進行聯合調優與性能展示。SGLang 已逐漸成為評測晶片極限性能的業界工具。硬體廠商與開源推理引擎深度綁定進行 Day-0 聯合調優,已成為晶片生態落地的標準模式

$AMD 中期

AMD 亦為 RadixArk 投資方,最新硬體發布首日即深度合作驗證 SGLang 推理性能。跨廠商生態合作有助於將晶片物理算力發揮至極限

AI算力 看多 中期

大模型商業化加速推動資本與需求從訓練轉向推理 (Inference),推理服務商與新雲夥伴需求爆發。開源引擎保持全開放形態,能最大化賦能創業者。後訓練強化學習與高併發推理的深度融合,成為推動下一代大模型基礎設施演進的核心動能

每天早上,收件匣見

53 位中英文財經 KOL 的觀點,每天自動整理成一份日報。免費,隨時可退訂。

免費訂閱