【LLM 日報】2026 年 10 月 07 日 — 開放模型、在地推論與可驗證的 AI 工具鏈
這批消息從模型發布、硬體設計、向量檢索到數學研究,指向同一個工程條件:模型能否被使用,不只取決於輸出能力,也取決於權重、資料、硬體與驗證材料是否真的交到使用者手上。
🔥 Mistral Large 4 公開預覽,權重預計月底釋出
Mistral 公開預覽 Mistral Large 4(ML4),稱這是一個原生多模態的 mixture-of-experts 模型,總參數 1 兆、啟用參數 490 億。官方頁面列出的模型輸入涵蓋文字、圖片與代理工作流,預覽 API 已可使用,輸入每百萬 token 標價 1.36 美元、輸出每百萬 token 4.18 美元;模型權重預計在 10 月底發布。
Mistral 表示,ML4 以 3,800 張 NVIDIA Grace Blackwell GPU 在歐洲自有資料中心從頭訓練,訓練資料涵蓋超過 160 種語言。官方公布的內部或合作評估包括 DeepSWE 1.1 61.7%、Terminal-Bench 4 28.3%、Cyber Index 的一項漏洞重現與修補測試 82%,以及 Cybench 40 題中解出 93%。這些分數來自 Mistral 列出的測試與評估流程,頁面尚未提供完整可重跑的權重與所有評測細節。
在權重釋出前,能直接檢查的範圍仍限於公開預覽與官方提供的結果。Mistral 也說,模型目前由資安領導者、經審查合作夥伴與政府機構進行紅隊測試;這些存取資格與測試範圍由 Mistral 指定,外部使用者尚不能自行部署該模型。
- 來源:mistral.ai
openTPU 用 FPGA 執行多個開源語言模型,模擬器與硬體逐 token 對照
GitHub 專案 openTPU 公開一套以 SystemVerilog、指令集、位元精確模擬器、編譯器與主機軟體組成的 AI 加速器。專案使用 Xilinx Kintex-7 PCIe 卡與兩個 DDR3 通道,README 列出可執行 LFM2.5、Qwen3、Qwen3.5、Gemma 4、Phi-4-mini 和 SmolLM3 等模型;硬體部分需要指定 FPGA 卡,沒有卡時仍可使用 Python 模擬器與 Verilator。
專案公布的測量中,4-bit 權重與 int8 head 的 Qwen3-0.6B 在卡上 decode 速度為 31.3 token/s,LFM2.5-230M 為 85.8 token/s,Qwen3.5-4B 為 5.88 token/s。測試使用 512-token prompt、之後 greedy decode 64 tokens;README 另說明部分數字只計算加速器週期,wall-clock 數字會加入主機處理時間。
openTPU 表示,實體卡輸出的 token 與模擬器逐位置一致,並公開 profiler、ISA 文件、硬體 RTL 與測試。專案目前的限制包括 4 GiB 卡上記憶體、DDR3 頻寬、較慢的 prefill,以及超過容量的 mixture-of-experts 模型需要從主機儲存串流 experts。這些條件都寫在專案的硬體與效能文件中,不能只用模型能在卡上啟動來推定它適合一般部署。
- 來源:github.com
EmbeddingGemma 2 開放多模態 embedding 模型,主打裝置端檢索
Google 發布 EmbeddingGemma 2,定位為可把文字、圖片、音訊與影片映射到同一 embedding space 的多模態模型。Google 沒有在公告中列出完整參數量,但將它描述為 sub-1B 模型;模型可從 Hugging Face 與 Kaggle 下載,並提供 MediaPipe、LiteRT、Transformers.js、WebGPU、llama.cpp、vLLM、SGLang、Ollama 與 LM Studio 等整合路徑。
Google 公布的 MTEB Code 分數由上一代 EmbeddingGemma 的 68.76 提升至 78.68,增加 9.92 分。公告也列出圖片、影片、文件和音訊的評估結果,但完整指標、資料集與模型資訊仍需查看 model card;公告中的「同尺寸最佳」等描述屬 Google 的官方說法,不等同於獨立評測結論。
模型的使用場景包括離線媒體搜尋、跨模態檢索、在地 RAG,以及搭配 Gemma 4 的裝置端流程。EmbeddingGemma 2 的權重、推論工具與部署方式已分散在多個下載與開發入口,實際能否在特定手機或瀏覽器執行,仍取決於記憶體、後端支援與量化版本。
- 來源:blog.google
OpenAI 在 GitHub 公開 722 份數學手稿與證明材料
OpenAI 在 openai/math GitHub repository 公開由內部模型產出的數學手稿與相關證明材料。README 表示,目前目錄包含 722 份 manuscripts,整理成 372 個 families;材料包括 preprints、部分 Lean formalizations、推理摘要與建置說明,並依數學領域分類。
OpenAI 說,這些結果來自以內部模型評估開放研究問題的流程。大多數結果平均使用三小時 ChatGPT Pro thinking compute,整個評估約提出 4,000 個問題,再將輸出整理成結果 families 與 manuscripts。README 明確標示材料處於不同驗證階段,不是每份結果都有 Lean 形式化,有些未形式化結果可能存在問題,修訂會以新版本保留歷史。
公開內容因此同時包含研究文字、程式與形式化驗證進度,而不是一份已全部完成同行審查的定理清單。README 列出 10 個 reasoning summaries,並提供形式化目錄與 Comparator instructions;讀者仍需逐篇確認證明、形式化狀態與後續修訂,不能只由收錄數量判定數學結果已被證明。
- 來源:github.com