【LLM 日報】2026 年 10 月 26 日 — 皮膚癌測試、三兆參數部署與模型價格下調
過去三天的素材同時碰到模型能力、推理基礎設施與使用成本:一項皮膚病灶測試中,專門訓練的舊 CNN 在固定資料集上高於兩個 frontier LLM;Cerebras 說明如何把約三兆參數模型拆到多片 wafer;API 價格整理則顯示,快取讀取成本已成為 agent coding 支出的重要部分。這些結果都帶有明確的資料集、硬體、模型版本或測試 harness 條件,不能直接互換成普遍結論。
🔥 200 個病理確認皮膚病灶中,舊 CNN 的正確率高於兩個 frontier LLM
皮膚科醫師 Magnus Lynch 使用 MILK10k 公開資料集,隨機抽取 200 個已由組織病理確認的皮膚病灶,分成 100 個不應直接放行的病灶與 100 個可放行病灶,讓 GPT-6 Astra、Claude Fable 5.1 與 fine-tuned Inception v3 分別從六種診斷中選擇。這是研究者自行設計的測試,不是臨床試驗,也不是模型供應商公布的評測。
Inception v3 判對 125/200(62%),GPT-6 Astra 判對 84/200(42%),Claude Fable 5.1 判對 85/200(42%)。在黑色素瘤分類上,三者分別判對 13/30(43%)、8/30(27%)與 11/30(37%)。CNN 的模型在訓練前排除了相同病灶及同一病人的其他影像,使用者也可以在瀏覽器中試跑它。
測試結果也包含錯誤型態與閾值差異。GPT-6 Astra 把 75 個病灶判為基底細胞癌,但其中只有 25 個屬於該診斷;Claude Fable 5.1 把 53 個病灶判為日光性角化病,而資料中只有 20 個。原文列出的限制包括樣本數小、病灶本身偏難、模型可能存在資料污染,以及 CNN 並非當代架構。以病人提問「需不需要看醫生」時,兩個 LLM 幾乎都建議進一步就醫,這個情境與要求模型直接分類病灶不同。
- 來源: lynchlab.net
Cerebras 說明如何用 59 片 WSE-3T wafer 部署約三兆參數模型
Cerebras 的工程文章以開源 Kimi K3 作為示例。文章假設模型約有三兆參數、69 個 linear-attention layers 與 24 個 dense layers,權重使用 4-bit quantization,平均請求長度為 256k,KV cache 使用 8-bit。單片 WSE-3T wafer 有 44 GB on-chip SRAM;在這組假設下,每層約 16 GB,69 個 linear layers 可用兩層一片的方式放到 35 片 wafer,24 個 dense layers 則各佔一片,合計 59 片。
部署方式是把模型層映射成 pipeline stages。權重留在各 wafer 上,請求的 activation 透過 RDMA over Ethernet 傳往下一片,文章給出的單次 hop 延遲約為 2 微秒。多個請求同時填滿 pipeline,不是等一個請求完成後才送下一個;較小的 micro-batch 偏向降低單一請求延遲,較大的 micro-batch 則提高總吞吐。
並行請求數受 dense layer wafer 剩餘的 on-chip memory 與每個請求的 KV cache 大小限制。文章宣稱這種配置可讓多兆參數模型達到每秒 1,000–2,000 個以上 token,但文中的模型、量化、請求長度、硬體數量與服務配置都是示例條件,且性能數字由 Cerebras 自行提供。文章沒有提供與同模型 GPU 叢列在相同請求分布下的獨立比較。
- 來源: cerebras.ai
OpenAI 與 Anthropic 近月調整 API 價格,快取讀取成本成為 agent 支出變數
Max Woolf 整理 2026 年 6 月至 9 月的 OpenAI 與 Anthropic 模型價格。整理中,GPT-5.6 Luna 從每百萬 input/output/cache-read token 的 1/6/0.10 美元調整到 0.20/1.20/0.02 美元;GPT-6 Sol 後來列為 0.10/0.50/0.01 美元。Anthropic 的 Claude Sonnet 5 定價為 2/10/0.20 美元,Claude Opus 5.5 則為 4/20/0.20 美元;文章也記錄了模型發布與降價時間點。
這篇整理特別把 cache read 放進 agent coding 的成本計算。作者根據自己的使用觀察指出,編碼代理每輪對話會重用前文,快取讀取可能占 token 支出的 96–99%,快取命中率約為 90–100%;因此快取價格下降,可能比單看 input token 價格更直接影響長對話代理的實際費用。這些比例是作者的說明,不是跨供應商的獨立計量。
文章引用 Vercel AI Gateway 的資料,指出每 token 成本降到 2026 年 4 月的 43.3%,但總支出仍上升,原因是使用量與模型能力增長速度高於單價下降。作者把 OpenAI、Anthropic、開源模型與多家 inference provider 的競爭列為可能因素;至於價格是否由成本降低、競爭或融資壓力主導,原文沒有可驗證的供應商成本資料。
- 來源: minimaxir.com
GVS5H 報告:五個 Qwen3.8-27B 模型在 LiveCodeBench Hard 達到 Fable 5 水準
GitHub 專案 GVS5H(Gorilla vs. 5 Humans)公開一套多模型 manager harness,主張讓五個 Qwen3.8-27B 模型協作後,在 LiveCodeBench Hard 的表現達到 Claude Fable 5 的單次呼叫分數。專案 README 同時展示單一模型、五次模型呼叫與 manager 模式的正確率和每題成本,並提供 paper、程式碼、執行結果與圖表。
專案頁面註明,Opus 5 的數字來自較早版本的 scaffold,且是透過 OpenRouter 的單次服務;其他比較則使用固定 backend 的五次呼叫。這些執行設定並不相同,模型、供應商、呼叫次數與 harness 版本都會影響結果,因此頁面數字不是同一條件下的模型能力排名。
GVS5H 提供的重現方式需要 uv、模型供應商 API key 與 LiveCodeBench Hard 的 100 題設定,執行結果會寫入 JSON。專案提供 MIT 程式碼授權與 CC BY 4.0 的 paper、圖表和 run data;目前頁面呈現的是作者專案的 benchmark 與成本報告,尚未包含獨立團隊在相同版本與相同硬體上的重現結果。
- 來源: github.com
📡 其他值得關注
-
Argus:MIT 授權、自架式 AI security operations 平台,包含事件偵測、調查代理與 action broker。它的 simulator 將合成事件交給偵測引擎,可加入節奏與規模等規避變體,不是向外部目標重播攻擊流量 → 原始來源
10 月 27 日查核補充:我們固定上游版本,在停網容器中重跑 18 項控制測試。通過案例包括 agent 提案保持 pending、排隊後啟用 kill switch 阻止執行,以及 simulation-tagged detection 跳過自動回應;測試使用 SQLite、假執行器與合成資料,沒有呼叫真模型或雲端帳號。
讀碼另顯示,kill switch 是執行關卡,不是已送出外部 API 的中途取消機制;rollback 也受它阻擋。Simulator 的 coverage 衡量內建情境是否觸發預期規則,不能當成真實攻擊偵測率。完整資料流、失敗對照與 Notebook 重現入口見Argus 提案與執行權限拆解。
-
Corgi:面向人類與代理的 terminal multiplexer,支援 macOS、Linux 與 WSL,提供 agent 狀態、工作區、worktree 與資源使用追蹤 → corgi.computer