【LLM 日報】2026 年 10 月 30 日 — Mistral Large 4 開放權重、NVL72 排程與模型內建 CPU
這三天的新素材把模型新聞拉到四個不同層次:Mistral 釋出可自行部署的 1 兆參數開放權重模型;Anthropic 把上市計畫送進 SEC 流程;NVL72 的效能取決於排程器是否理解機櫃內的互連拓撲;一項個人實驗則把 RISC-V CPU 直接編譯進語言模型的權重。這些消息的共同限制是,公開結果分別來自企業 benchmark、基礎設施供應商研究、監管文件或單一作者的實驗,適用範圍並不相同。
🔥 Mistral Large 4 釋出開放權重,1 兆參數模型可自行部署
Mistral 釋出 Mistral Large 4(Le Chonk)的權重。官方描述它是具多模態輸入的混合 instruct-and-reasoning MoE 模型,參數規模為 1 兆,並以 160 多種語言為目標。模型權重可從 Hugging Face 下載,官方列出的部署方式包括 vLLM、SGLang、NVIDIA NIM 與 TensorRT-LLM;也可透過 Mistral API、Mistral Studio 或 OpenRouter 使用。
Mistral 公布的結果包括:在 Cognition 的私有 FrontierCode 2.0 得分 19.7%;在 Artificial Analysis Coding Agent Index 得分 48%,平均每項任務使用的 token 比其列出的領先開放權重模型少 47%;Terminal-Bench 4.0 得分 41%,比公開預覽版高 13 個百分點。這些 benchmark 的資料、評分方式與比較模型由各發布方設定,Mistral 的公告沒有提供完整的獨立重現結果。
在資安測試中,Mistral 列出 Cyber Index 51%,以及對惡意資安請求平均拒答率 96.6%。官方同時說明,模型在真實流量中拒絕了針對線上目標的黑箱攻擊,但仍觀察到進行真實攻擊的潛在風險;專為進階資安工作流程的變體目前只提供給經過審查的企業設計夥伴,並限於自有或明確授權的系統與受控環境。誰能通過審查、審查標準如何變動,公告沒有完整列出。
開放權重授權仍有條件,完整使用規則以 Mistral Ecosystem Open-Weight license 為準。官方公布的 API 價格為每百萬 input token 0.70 美元、cached input token 0.07 美元、output token 2.10 美元;自行部署則還需要符合模型大小、硬體與服務軟體的實際要求。
- 來源:mistral.ai
Anthropic 已向 SEC 提交 IPO 的 S-1 註冊聲明
Anthropic 於 10 月 26 日表示,已向美國證券交易委員會(SEC)提交 Form S-1,為其 Class A 普通股的首次公開募股作準備。公司預計在 Nasdaq Global Select Market 掛牌,股票代號預定為「ANT」。
目前股份數量與發行價格區間都尚未確定。Anthropic 的公告指出,相關證券只有在註冊聲明生效後,才能依正式招股書提出銷售或購買要約;這次公告本身不是出售證券的要約,也不是邀請投資人購買。
S-1 是註冊流程的一部分,不等於 IPO 已完成,也不代表市場估值、募資規模或上市日期已經公布。Anthropic 的公告沒有在本文提供這些數字;正式條件仍要以 SEC 文件後續修訂與生效版本為準。
NVL72 的 27% 可用容量差距,來自排程與故障設計
SkyPilot 說明,NVIDIA Grace Blackwell NVL72 把 72 顆 GPU 放在同一個 NVLink fabric 中,但多節點工作若跨越機櫃,仍會改走頻寬較低的 InfiniBand。對 tensor parallelism 與 expert parallelism 而言,工作放置位置會直接影響通訊是否位於訓練的關鍵路徑。
文章引用 NVIDIA 對 128 個機櫃、2,304 個節點的模型:在節點不可用率約 2% 時,每個工作切成 16 節點並在每個機櫃保留兩個備用節點,估算可用容量為 2,037 個節點;使用完整 18 節點切片則為 1,602 個節點,前者高出 27%。這是依 NVIDIA 模型與 SkyPilot 提供的生產環境不可用率估算,不是所有 NVL72 叢集的實測結果。
SkyPilot 也引用 NVIDIA 團隊在 512 顆 GB300 GPU 上訓練 GR00T N1.7 的比較:採用機櫃感知、切片式排程後,每次迭代從 1.59 秒降到 1.39 秒,吞吐量增加 14.4%。SkyPilot 以 10,000 顆 GPU 推算每小時可少花約 16,700 美元;這個金額取決於硬體租用價格、工作負載與叢集使用狀態。
該方案包含 Topology-Aware Scheduler、故障節點由同機櫃備用節點替換,以及 Automatic Defragmentation。自動整理只會搶占可安全從 checkpoint 重啟的受管理工作;互動式開發環境除非管理員明確允許,否則不在搶占範圍內。這套機制的效果依賴工作是否能恢復、叢集是否允許搬移,以及管理政策如何設定。
- 來源:skypilot.ai
Qwenputer 把 RV32IM CPU 編譯進 Qwen3.5 的權重
研究者 Divyansh Agrawal 發布 Qwenputer:以 Qwen3.5 4B 為基礎,將一個 32 位元 RISC-V RV32IM 核心與記憶體機制編譯進模型的額外層和維度。它沒有呼叫外部工具或執行環境;CPU 在模型 forward pass 中產生執行軌跡,並使用 Qwen3.5 的 Gated DeltaNet 層狀態作為 RAM。
作者表示,這個 CPU 通過官方 riscv-tests,並曾連續執行 1,800 萬條指令而沒有錯誤;在約 23 萬個輸出位置與參考機器重播比較中,未發現不匹配。在 DeepMind 數學測試中,Qwenputer 的部分長整數任務得分為 97.5% 至 100%;在 NUPA 長整數算術上,得分由基礎 Qwen3.5 4B 的 48.6% 提高到 100%。這些是作者提供的實驗結果,測試規模與任務範圍不能推廣成一般推理能力提升。
模型也有實驗性的檔案儲存功能,可在對話結束後保存並於下一次載入。作者在變動事實測試中報告,Qwenputer 的正確率為 90%,以 Python 記憶工具連接的模型為 83.3%,直接貼回舊對話則為 30%。
Qwenputer 的 checkpoint 約 18.8 GB,約為基礎模型兩倍,且需要 RvChat driver 啟動 firmware、處理 trace token,不能直接用一般 generate() 執行。作者已公開模型、GitHub 程式碼與單張 24 GB GPU 的試跑指令;目前仍是實驗性系統,不是可直接替代一般 CPU 或沙盒的部署方案。
- 來源:divagr.com
- 程式碼:GitHub