過去三天的新消息把 LLM 的使用場景推向模型訓練之外:CERN 與 Mistral 規劃物理 foundation model,研究者用全新語言測量模型對程式規則的掌握,另一項安全研究則展示模型權重可在 GPU 記憶體中被修改而不改變磁碟檔案。這些案例的共同條件是,模型表現取決於資料、執行環境與外部工具的設計。


🔥 CERN 與 Mistral 規劃碰撞物理 foundation model

CERN 與 Mistral 於 10 月 15 日簽署建立長期策略合作的意向聲明,初期聚焦高能物理與 AI for science。雙方規劃訓練一個 Large Physics Model,資料來源是 CERN 大型強子對撞機(LHC)產生的數十億筆模擬質子碰撞,任務包括重建碰撞、辨識粒子、標記異常訊號,以及評估未來探測器設計。

CERN 表示,現有 LHC 碰撞重建流程由多個專用演算法逐步處理探測器訊號;這項模型的設計目標,是讓單一預訓練模型支援整條流程中的多項任務。CERN 目前約儲存 1 exabyte 的 LHC 實驗資料,High-Luminosity LHC 預計約在 2030 年啟用,碰撞數量預期增加十倍。

這份文件是意向聲明,不是已發布的模型或評測報告。公告也沒有列出模型架構、訓練資料的公開範圍、權重授權方式,或物理分析中可接受的錯誤率;目前能確認的是合作方向與預定任務。


KillSwitch 用陌生程式語言測試模型是否理解規則

程式語言作者 Dominik Picheta 發布開源的 KillSwitch,將它設計成對 LLM 和 coding agent 不友善的 esoteric programming language。語言規格包含人類較可能辨識、模型較可能照做的隱藏錯誤;識別字中的字母數量會影響程式能否執行,部分語法使用可能觸發模型安全防護的字串,程式也能以故事文字與行數作為語法的一部分。

KillSwitch 是堆疊式直譯語言,提供函式、變數與條件判斷等常見結構;直譯器與規格已放在 GitHub。作者用「實作 hello world」、「解釋程式輸出」及修改攝氏與華氏轉換等任務測試模型與 coding agent,並在 bench.killswitch-lang.org 公開排行榜。

文章列出的最高分是 66.8,作者表示 Claude Opus 5 在這組測試中表現最好,MiMo-V2.6-Pro 是最高分的 open-weight 模型。作者同時指出,目前任務仍然簡單,完成這些任務不能單獨證明模型理解了這門陌生語言;後續可能增加更複雜的測試。


Agentic Monitoring 把監控規格與執行器拆開

工程師 Ben Congdon 描述一種 agentic monitoring 原型:agent 先根據服務程式碼提出監控計畫,再由固定的 scaffold 執行監控規格,另一個 agent 負責調查觸發的事件並在需要時升級給人員。他表示,讓 agent 直接持續執行完整監控迴圈,使用的 token 較多;讓 agent 撰寫規格、由確定性的系統執行,訊號較乾淨。

這套方法會把程式碼庫與 observability stack 同時提供給 agent,讓它依照每次程式或設定變更建立查詢,再檢查日誌與指標。文章列出的限制包括:針對已經有良好維運流程的團隊,主要收益可能是減少人工工作;若套用到所有服務,通用健康指標的雜訊可能造成低精準度與告警疲勞。

文中提到的成本、偵測結果與效率數字是作者對原型和自身環境的描述,並非獨立 benchmark。作者主張這類系統需要針對監控任務設計 harness,並以帶標籤的評測資料驗證提示與降噪規則。


GPU 記憶體中的 ROME 修改可在不改檔案下改變模型輸出

Stealthium 研究團隊展示一種以 ROME(Rank-One Model Editing)為基礎的攻擊:惡意 Python 模組在模型推理期間向 GPU 發出額外 CUDA kernel,直接修改 GPU 記憶體中的部分模型權重。研究團隊表示,這種修改可以針對特定主題改變輸出,而磁碟上的 checkpoint 不必變動,也不一定會出現額外檔案、程序或網路活動。

研究團隊在一個 PyTorch transformer 示範中,讓惡意匯入的程式執行 ROME 校準與權重寫入;同一個磁碟 checkpoint 在修改前後產生不同語意的回答。其 runtime sensor 會記錄 CUDA kernel launch 與觸發它的 Python call stack,研究團隊據此把異常 kernel 與 calibration.py 的呼叫路徑連結起來。

Stealthium 另描述正在研究的 weight-change event,嘗試把 tensor 的原地寫入、受影響的程式碼路徑與程序連在一起。這是供應商在自有實驗與產品感測器上展示的偵測方法;文章沒有提供獨立測試的誤報率、效能負擔或對非 CUDA 框架的完整涵蓋範圍。