Google 發表 Gemini 4 重返前沿競爭:TPU 自研算力支撐 MoE 預訓練擴展
- —Gemini 4 Argon 在 Artificial Analysis 得分 53 與 GPT-6 Astra 持平,在 Vals 指標以 68.9% 排名第一,並在 LMArena 文字榜以 1525 分登頂
- —管理層改組(Demis Hassabis 轉任董事長兼首席科學家、Jeff Dean 離職創辦 Discovery Loop)後,研究聚焦使 Google 重回前沿競賽,但組織變革成效仍待後續世代驗證
- —Argon 輸出上限擴展至 100 萬 token 並支援長解碼續行(Long Decode Continuation),平均每任務消耗 62,000 個輸出 token,為 Astra 的兩倍以上
$GOOGL 中期
Google 推出 Gemini 4 Argon 在 19 項基準中 14 項打平或領先 Astra 與 Opus 5.5,正式重返前沿競爭但整體仍略落後 OpenAI 與 Anthropic。模型預訓練完全採用自家 TPU 叢集而非 $NVDA 晶片,打破轉向外購與晶片故障傳聞。雖然前沿模型研發重回領先梯隊且具備自研 TPU 成本優勢,但組織改組對長期研發的實質影響仍需數個模型世代驗證
Gemini 4 推翻了預訓練擴展已達瓶頸的論調,證實預訓練與推論運算量仍雙雙擴大。產業調查顯示其採用 5 至 6 兆參數之循環 MoE 架構,有效運算規模達前代 5 至 6 倍,且單任務推論輸出 token 消耗翻倍。前沿模型架構持續朝巨量參數 MoE 與百萬長輸出演進,驅動預訓練與推論端對底層算力消耗維持指數型擴張