【LLM 日報】2026 年 10 月 12 日 — 代理規模化後，驗證才是瓶頸
最近幾天的案例把 AI 放進長時間的程式重建、語言模型的輸入表示，以及關鍵基礎設施防禦。共同出現的條件是：模型可以持續產生大量工作，但結果是否正確、漏洞是否真的修好，以及誰負責檢查，仍要靠額外的驗證流程。
🔥 5000 億以上 tokens 重建第一人稱射擊遊戲，最後靠位元組比對收斂
Maurice Heumann 記錄了一個持續約三個月的遊戲反編譯專案。多個 AI agent 使用 Claude Code、Codex CLI、IDA MCP、GitHub Issues、GitHub Actions 與 Discord 協作，目標是將既有執行檔重建成可編譯、行為相符的 C++ 原始碼。作者估計整個專案使用了約 6000 億至 7000 億 tokens，但部分工作階段紀錄因虛擬機被錯誤指令清除而遺失。
初期四個 agent 讓遊戲能啟動、顯示主選單並載入地圖，但之後檢查發現，程式碼雖然可讀，語意卻經常錯誤：agent 會使用錯誤的函式簽名、型別或結構配置，也會自行加入原始程式沒有的架構變更。作者指出，原本的 reviewer agent 也無法可靠判斷正確性，因為專案沒有先定義客觀的驗收條件。
團隊後來使用原始遊戲所用的編譯器，將重建後的 OBJ 檔案與原始 EXE/PDB 的函式和資料逐一比對；CI 會檢查比對腳本的雜湊，避免 agent 修改驗證規則來排除自己的結果。最後有 99% 的函式出現在重建原始碼中，83% 達到位元組完全相同；其餘部分則以多次重寫後的語意檢查作為判定，並非全部通過同一項機器驗證。
- 來源：momo5502.com
Nature 論文改造語言模型，讓模型直接處理 bytes
Nature 發表研究，提出把既有的 subword-level language model 改造成能在 byte 層級運作的模型。方法保留原模型的大部分參數，先從原本的 tokenizer 與 embedding 建立 byte-level 輸入表示，再透過分階段訓練調整模型，使它能讀取與產生任意 byte 序列。
論文中的模型 Bolmo 在 1B 與 7B 規模進行測試，評估項目包括一般語言任務、多語言任務、程式碼、長文本，以及需要精確處理字元的測試。研究團隊報告，經過改造的模型可在不重新預訓練全部權重的條件下，保留相當程度的原模型能力，同時處理原本 tokenizer 可能切分不佳的文字、罕見字元與格式。
這個設計仍有明確成本。byte-level 序列通常比 token 序列更長，研究因此加入分層處理與動態邊界預測來控制推理效率；論文也以 1B、7B 模型和指定的評估套件為主，沒有證明同樣方法在所有模型尺寸、語言或產品工作負載中都能保持相同的效率。研究資料與程式碼則需依論文提供的模型和評估設定重現，不能只從「token-free」的描述推導出普遍優勢。
- 來源：nature.com
Anthropic 擴大網路防禦計畫，OSS Scanner 的報告不經人工審查
Anthropic 發布 Anthropic Cyber Mission，將工作分成關鍵基礎設施與開源軟體兩部分。關鍵基礎設施計畫先與少數安全服務商、設備製造商和系統整合商合作，處理電力、水務、工廠與交通系統中的漏洞；這些營運技術往往不能隨時離線更新，修補需要配合設備和現場風險。
針對開源專案，Anthropic 推出可選擇加入的 OSS Scanner。加入的專案會定期接受模型掃描，收到漏洞利用概念、說明與可用的修補建議；服務免費，但報告是模型產生後直接送給維護者，沒有逐份人工審查。Anthropic 預期真陽性率會高於 90%，同時明確表示報告可能有錯誤，包括錯誤的嚴重度評級。無法處理大量發現的專案，則繼續透過人工驗證的協調漏洞揭露流程接收結果。
Anthropic 也表示，Project Glasswing 過去經常出現漏洞被找到後，直到修補完成仍相隔數月；對營運技術而言，部分修補甚至可能要等到數年後才能安全套用。這項計畫目前仍以小規模合作與 opt-in 專案為起點，公告沒有提供實際修補率、誤報率或漏洞從發現到修復的完整追蹤資料。