【LLM 日報】2026 年 10 月 01 日 — 前沿模型擴大上下文,開源推理轉向硬體自調
過去三天的新增消息,分別把模型能力、推理基礎設施與新聞組織的 AI 導入方式往前推進。Google 的新模型仍採分階段開放,開源推理引擎把效能比較綁在實際硬體,OpenAI 支持的新聞計畫則把工程人員嵌入編輯部;三者公布的數字與案例,都有明確的測試或適用範圍。
🔥 Gemini 4 Argon 以 100 萬 token 輸出上限主打長流程任務
Google 在 9 月 30 日宣布 Gemini 4 Argon,表示模型可處理最長 100 萬個 output tokens,前一代上限為 64K。官方將它定位在軟體工程、法律與金融知識工作,以及防禦性資安任務;Google 也公布每百萬 input tokens 2 美元、output tokens 10 美元的初始價格,cached input tokens 則比 input 價格低 95%。
Google 的公告列出一個內部案例:Argon 將 libgav1 的 Rust SIMD 程式碼改寫為約 32,000 行安全 Rust,聲稱在輸出相同的前提下,速度達原 Rust port 的 2.7 倍。這是 Google 內部工作流的案例,不是獨立基準測試,也沒有在公告中提供完整硬體、編譯設定與比較實作。
模型目前先透過 Fairwind Program 提供給一批「可信任的資安防禦者」,Google 表示會在逐步擴大存取前持續測試護欄;開發者、企業與一般使用者尚未全面開放。誰符合可信任防禦者資格、評估由誰執行,以及這些條件何時改變,公告沒有交代完整標準。
- 來源:blog.google
Magnitude 以裝置實測編譯核心,宣稱比 llama.cpp 最快 2 倍
Magnitude 是一個 Apache-2.0 授權的開源推理引擎,主張在模型執行前,針對使用者的實際硬體編譯與調校 kernel,支援 Apple Silicon、NVIDIA、AMD GPU 以及 CPU。專案提供 macOS、Linux 和 Windows 桌面程式,並可連接 Pi、OpenCode、Hermes、Codex、Claude Code、Cline 等代理;也能透過 OpenAI 相容 API 連接其他工具。
GitHub README 的比較圖標示,在 Metal 上相較 llama.cpp,prefill 快 9%、decode 快 92%;在 CUDA 上則是 prefill 快 23%、decode 快 19%。專案首頁將整體效果概括為「最高 2 倍」,但頁面沒有在同一段落列出完整的模型、硬體、量化格式、批次大小與測試版本,因此這些數字不能直接當作所有裝置與模型的普遍結果。
Magnitude 表示 prompts、檔案與模型留在本機,模型下載完成後不需要網路;實際使用仍須先下載模型,裝置記憶體也會限制可執行的模型大小。儲存庫頁面顯示目前有 5.8k stars、398 forks 與 1,060 次 commit,這些是 GitHub 專案狀態,不等於推理效能或安全性的外部驗證。
- 來源:github.com
OpenAI 再投入 500 萬美元擴大新聞 AI fellowship
Lenfest Institute 與 OpenAI 宣布擴大 Lenfest AI Collaborative and Fellowship Program。OpenAI 將新增 500 萬美元,另提供最高 500 萬美元軟體額度與工程支援;計畫自 2024 年啟動以來,曾把全職 AI 工程 fellowship 派駐到 11 家美國新聞機構,下一階段將邀請更多新聞組織加入。
公告列出的已完成工作包括:Philadelphia Inquirer 用 Dewey 搜尋數十年的報導資料,並以 Scrape 把每週約 15 小時的報導監測工作轉成每日摘要;Chicago Public Media 則使用 AI 輔助西班牙語翻譯與音訊檔案轉錄。這些是參與機構與 OpenAI 公布的案例,公告沒有提供錯誤率、編輯修正量、讀者影響或各工具的長期成本比較。
計畫的工程人員會與記者、產品、營收和管理團隊共同開發工具,並由 Lenfest Institute 將部分專案整理成工具、插件、實作指南與技術資源,目標是讓數百家新聞機構使用。資金提供者同時是模型與軟體供應商,公告描述了「安全、透明與倫理」政策方向,但沒有列出獨立監督安排、採購條件或新聞機構退出合作後的資料與工具可攜性規則。
- 來源:openai.com