【LLM 日報】2026 年 09 月 29 日 — 代理安全從模型限制延伸到執行環境與基礎設施
今天四則消息談的是不同層次的 AI 使用環境:Nvidia 提出限制代理行為的系統設計,Cloudflare 擴大代理可操作的 API 範圍;MicroLLM Lab 展示瀏覽器內的小模型實驗,Mistral 則宣布在慕尼黑設立工業 AI 據點。前兩者關乎代理能做什麼,後兩者關乎模型在哪裡執行、由誰管理。
🔥 Nvidia 發布 Open Agent Safety Platform,從執行環境限制代理
CNBC 報導,Nvidia 推出 Open Agent Safety Platform,讓開發者在模型之外設定代理可存取的資源。當中的 OpenShell 在 CPU 上執行,負責限制代理能力;Sentry 則在網路晶片上監控代理活動。Nvidia 執行長黃仁勳把它形容為代理的「瀏覽器」:代理只應取得完成工作所需的存取權。
報導以近期模型離開沙盒、接觸外部系統的敘事作為背景;其中 Nvidia 代表稱,依目前所知,這套平台「可能」避免 7 月涉及 OpenAI 與 Hugging Face 的事件。這是供應商對假設情境的說法,CNBC 文章並未提供對該事件的獨立鑑證,也沒有用 OpenShell 重現並驗證防護結果。
Nvidia 稱部分軟體將開源,整套平台則是供合作夥伴開發產品的參考設計;報導列出 Cisco、Microsoft、Oracle 等合作夥伴,以及與 Anthropic 整合雲端管理代理的工作。這次發布說明了隔離與監控的分工,尚不能據此判定成品面對不同代理、權限設定或繞過手法時的防護效果。
- 來源:cnbc.com
Cloudflare 推出 cf CLI,讓代理搜尋並呼叫更多 API
Cloudflare 推出開放測試版 cf CLI。原本的 Wrangler 約涵蓋 280 條命令路徑,Cloudflare 則稱新工具從 API schema 產生命令,對應整套 Cloudflare API、逾 3,000 項 API 操作。前者是命令路徑、後者是 API operations,統計單位不同;這是官方公布的覆蓋範圍,不代表每項操作都經過代理操作情境的獨立驗證。
工具預設回傳 JSON;代理可用 cf cli search 依自然語言查找命令及參數。對需要人工填寫的操作,CLI 也能依 API 要求顯示並驗證輸入欄位。Cloudflare 同時引入 TypeScript 設定檔,先從 Workers 開始,並以 Vite 作為新工具的預設開發流程;尚需沿用 Wrangler 建置方式的專案仍會委由 Wrangler 處理。
Cloudflare 說這些設計是讓不熟悉 cf 的代理也能自行找到操作方式。命令較容易被找到,並不等於代理取得的憑證或權限會自動縮小;公告沒有提供代理誤用權限的獨立安全評估,也未證明搜尋、欄位驗證或開放測試版的使用流程足以防止高風險操作。
MicroLLM Lab 在瀏覽器內執行並比較小型模型
State of Utopia 的 MicroLLM Lab 是一個瀏覽器實驗頁面,可載入約 25M 至 360M 參數、經 Q4 量化的小型語言模型,在裝置上對話及測試。執行環境優先採用 WebGPU,無法使用時可退回 WASM 或 JavaScript;頁面也提供模型壓縮檔與原始碼連結。這與呼叫雲端模型的服務方式不同,下載模型及實際執行仍取決於使用者裝置與瀏覽器。
測試介面包含以 regex、精確 token 等條件判定的客觀題目、連續生成 256 token 的速度測試,以及自訂 JavaScript 評測。比較圖表使用當前瀏覽器對已載入模型所跑的結果,數字留在本機;頁面提供可下載、附硬體資訊的效能證書,但這不等於由外部機構認證的跨裝置排名。
頁面宣稱首個 token 的延遲可低於 10 毫秒;所列介面與測試項目本身沒有證明各模型能在不同裝置、任務與瀏覽器上達到該數值。測試偏重明確答案,也不能直接當作一般對話或寫作品質的比較。
Mistral 在慕尼黑設據點,布局工業 AI 與本地部署
Mistral 宣布在慕尼黑設立德國據點,安排 Physics AI、Industrial AI 研究團隊及服務企業的應用工程師。公司稱正與 BMW 合作碰撞模擬和工程 AI、與 Siemens Energy 開發工業 AI 應用,並與 Technical University of Munich 利用風洞設施研究汽車空氣動力學數位孿生。這些是公告中的合作方向,並非已公布的模擬性能比較。
公司以開放權重、在客戶自有基礎設施執行及歐洲法律管轄,描述它所主張的「主權 AI」。Mistral 稱模型可用客戶資料訓練、運作時資料不離開組織;公告未提供各合作案的部署架構或獨立資料隔離測試,因此不能把這項公司宣稱寫成所有部署都已驗證的事實。
Mistral 同時提出到 2030 年建設 1 GW 歐洲運算容量的目標,而不是宣布容量已經建成。公司表示,收購 Emmi AI 後有逾 30 名相關研究與工程人員加入,慕尼黑也將招募研究、工程和應用 AI 人才;公告沒有交代上述工業專案的準確率、延遲或成本測試結果。
- 來源:mistral.ai