這幾天的新聞同時出現了新模型、agent 專用的原始碼基礎設施、在 Mac 上運作的語音轉文字工具,以及把閒置 Apple Silicon 組成推理平台的研究。共同條件是:模型能力只是其中一層,實際使用還取決於存取方案、資料結構、硬體限制與測試方法。


🔥 Gemini 4 Argon 開放使用,Google 公布模型價格與內部案例

Google 於 10 月 13 日宣布 Gemini 4 Argon 全球開放。開發者與企業可透過 API、AI Studio 與 Google Gemini platform 使用;Google AI Ultra 訂閱者可在 Google Antigravity、Gemini app 與 Search 的 AI Mode 使用。API 的初始價格是每百萬 input tokens 2 美元、每百萬 output tokens 10 美元,cached input tokens 另有 95% 折扣。

Google 將 Argon 定位為處理 coding、金融、法律、資安與科學等多步驟工作的模型,並表示它在 Vals Index 排名第一。這些是 Google 援引的 benchmark 與官方案例,不是獨立評測;公告也把存取分成 API、特定訂閱方案與 Google 自家產品,使用條件依入口不同。

Google 分享的內部數據包括:Argon 在 Antigravity 協助下讓 agent code submissions 增加超過 35%,code rollback 減少接近三分之一;在 Google 的 Agent Development Kit Python codebase 案例中,官方表示記憶體內 session preparation time 降低 40%。公告的案例與數字來自 Google 自己的工程環境,沒有提供外部團隊的同條件重現結果。


Anthropic 為 agent 規模化重做 source control,Scion 將 repository 內容拆成可快取物件

Anthropic 公開介紹內部 source control 系統 Scion,因應大量 agent 同時讀寫大型 monorepo 的需求。系統將 source control data 做 content-addressing,讓儲存後的物件不再變動;Scion server、cache 與 client 透過 tree 和 blob 逐項取得資料,不依賴單一大型 packfile 回應,也支援 sparse 或 virtualized checkout。

Anthropic 表示,Scion 的各層 cache hit rate 都超過 99%,整體基礎設施的 CPU 與記憶體需求約為舊有 git mirroring infrastructure 的二百分之一;CI 與 research jobs 的 checkout 從數分鐘縮短至數秒,CI 取得 25% 的 CPU capacity。這些數字是 Anthropic 內部運作結果,文章沒有提供可供外部團隊直接比較的公開 benchmark。

系統也把資料服務分成不同層級,以隔離 failure domains,避免區域 cache 故障時把壓力傳回上游 server。Anthropic 明確表示 Scion 不適合作為一般用途的 git 替代品:它需要一起遷移 code review、code search 與 CI,且內部元件高度客製化;文章也承認公司能投入的 token 與基礎設施成本,不是一般企業會接受的規模。


EmbeddingGemma 2 被改造成 Mac 本地語音轉文字工具,英文錯字率約 5%

獨立專案 Embedding Gemma Transcribe 將 Google 的 EmbeddingGemma 2 audio encoder 保持不變,只訓練一個 reader,把短片段音訊映射到模型的文字空間,再從約 229,000 個英文單字中選取最接近的結果;另一個小模型負責標點符號與大小寫。專案作者表示,reader 使用開放授權的英文語音,在 8 張 H100 上訓練不到兩小時,EmbeddingGemma 2 本身原本不是 speech-to-text model。

專案在 base M3 MacBook Air、8GB 記憶體上使用 Neural Engine 測試,聲稱一小時音訊約需 12.6 秒;同一台機器上的 IBM Granite Speech 5.0 TurboCTC 約需 25.7 秒。作者同時註明,其他模型的比較數字來自不同 Mac、硬體與音訊,不能直接視為同條件排名。

目前專案自報 word error rate 約 5%,並列出 leading speech models 約 2% 至 3% 的數字;下載版支援 macOS 14 以上與 Apple Silicon,模型首次啟動時下載 715MB。音訊在本機處理,不會離開裝置。作者也說明這是獨立專案,與 Google 沒有隸屬或背書關係。


Apple 研究 Minions:把閒置 Apple Silicon 組成分散式虛擬 GPU cloud

Apple Machine Learning Research 發表 Minions,提出把多台 macOS Apple Silicon 裝置的閒置 GPU 聚合成分散式推理平台。研究針對集中式 GPU 基礎設施的成本、彈性與等待時間限制,讓團隊在不新增 GPU 採購的情況下,利用既有 Mac 執行大型機器學習 inference workloads。

研究摘要列出的系統能力包括動態分配 GPU inference task、容錯與資源利用;Apple 將它描述為在集中式 GPU 資源受限的環境中可實際運作的平台。頁面目前提供研究摘要與論文連結,沒有在摘要中列出裝置數量、模型規模、吞吐量、網路成本或與集中式 GPU 的同條件測試結果。

因此,這項發布證明的是一套把閒置 Apple Silicon 組織成推理平台的系統設計與研究方向;裝置是否持續閒置、不同節點間的網路延遲、使用者資料隔離與 macOS 節點故障處理,仍要看論文中的完整實驗與部署條件。