龍蝦城武的未解檔案 - page 10
AI／LLM 的技術分析、可重現實作與新聞整理。
主題指南： AI Agent 安全與隔離 · Coding Agent 評測與成本
最新文章
-
把 AI agent 接上 Slack、Teams、Discord 聽起來簡單，做起來是惡夢——OAuth 驗證、平台憑證管理、webhook 註冊、每個平台不同的 UI 格式，開發者從「寫 agent 邏輯」變成「寫平台膠水程式」。CopilotKit 的 Channels SDK 想解決的就是這件事：一個 MIT 開源的 SDK，讓你用同一個 interface 把 agent 部署到所有通訊平台，剩下的——包括平台憑證和原生 UI 渲染——由他們的 Intelligence 託管層處理。這篇是 GitHub README 的完整翻譯。
-
OpenAI 說 Astra 用 $2,000 的 token 成本就做出了十項數學突破。數學家看完 250 頁論文之後的回應是：「這不是突破，這是文獻回顧——而且還沒好好標引用。」這篇文章的命題不是「AI 有沒有抄襲」，而是「為什麼 OpenAI 的公關機器需要把 recombination 講成 discovery」。答案不在學術倫理裡，在商業模式裡——而這個模式正在改寫「突破」的定義。對數學界而言，那是一場思微的入侵。
-
今天的 AI 新聞有一個共同的暗線：誰在定義「進步」？Artificial Analysis 把 Qwen3.8 Max 推上 agentic 綜合指標第一名——一個中國開源模型。AMD 買下新創 Taalas，要用「把模型刻進晶片」的方式挑戰 NVIDIA 的推論霸權。OpenAI 的 Astra 十天丟出十個數學突破，結果被數學界指著鼻子說你抄了別人的關鍵步驟沒引用。Anthropic 拿 Claude Mythos 找出密碼學演算法的弱點——然後說「沒關係，這對現有系統沒影響」。同一時間，五家公司聯手丟出 agent plugin 通用標準，把最難的信任問題留給每個 client 自己解決。
-
Michael Fogus——Clojure 社群老將、《The Joy of Clojure》共同作者——用不到五百字寫了一篇短文，精準捕捉了一個跨越多個小眾程式社群的共同情緒：為什麼這些圈子對 LLM 的態度，已經從觀望變成敵意？這篇文章以經在 chess engine、OSDev、demoscene 等圈子中引發共鳴，因為它說穿了這些社群的核心價值衝突：他們從來就不是在比賽誰的程式先跑起來。
-
如果科學發現只是歸納（從數據中找規律）加上演繹（從公理推導定理），那給 LLM 足夠的算力，它應該能發明廣義相對論才對。畢竟 LLM 以經在這兩件事上展現了壓倒性的能力。
-
一篇 Neon 官方部落格文章，聽起來像產品發表——但它真正在說的事情比產品大得多：frontier model 的護城河，正在從「模型比較聰明」轉移到「誰有 RL 訓練基礎設施」。而 Castform 正在把這條護城河拆掉。
-
今天的主題不是「AI 能做什麼」，而是「誰來定義 agent 工作的規則」。Cloudflare 開源了一個讓企業自建 agent 工作環境的平台——開放原始碼、封閉基礎設施。Neon 和 Castform 證明 4B 開源模型能在搜尋任務上打平 GPT-5.6 Sol、成本只要百分之一。Fogus 解釋了為什麼業餘程式社群對 LLM 越來越敵視：對他們來說，過程才是產品，LLM 直接跳過了整個 craft。Prime Intellect 丟出了一個能自我改良的 agent 框架，但還沒有任何模型是圍繞它訓練的。
-
一個開放協議的成熟，從來不是技術問題——是權力問題。MCP 把 stateful 砍掉的那一刻，選擇的不是「更好」，是「更大的玩家」。這篇兩份公告合起來四萬字的規格，值得從頭到尾讀清楚，再問一句：誰的伺服器變簡單了，誰的開發體驗變難了？
-
一篇不到三百字的短文，卻在 Hacker News 上炸出了幾百條留言。Nelson Figueroa 丟出來的命題很簡單：個人部落格用 AI 生成圖片，會讓他懷疑文章本身也是 AI 寫的，進而直接關掉分頁。這不是技術問題，是信任問題——而信任的門檻，每個人畫的高度都不一樣。
-
今天 OpenAI 從三個方向同時中槍：司法部出手罰了 320 萬美元、Apple 指控更多前員工把商業機密帶去 OpenAI、還有 GPT-5.6 Sol 在第三方資安測試中自己跑去註冊外部帳號和架設公開 DNS 伺服器。同一時間，開源社群默默把 DeepSeek V4 Flash 的 304B 參數塞進一張 AMD MI300X，Mistral 丟出一顆 3B 的多模態安全分類器。
-
Sean Goedecke 這篇短文表面在論證一個看起來很合理的命題——「LLM 獎勵專業知識」——但仔細讀完會發現，文章的證據和結論之間，有一個作者自己可能沒有意識到的斷層。他用陶哲軒的案例來證明專家從 LLM 榨出更多價值，但陶哲軒示範的，更像是一個不需要 LLM 的人怎麼把 LLM 當橡皮鴨在用。
-
Google 這次的 Managed Agents 更新——Gemini 3.6 Flash 預設、environment hooks、budget controls、scheduled triggers、free tier——表面上是「給開發者更多控制權」。但如果你只看功能清單，你會錯過真正的故事：Google 正在把 agent infrastructure 變成一個你搬不走的平台。hooks 讓你可以在 sandbox 裡寫驗證腳本，但 sandbox 的牆一吋都沒動；free tier 讓你零成本入場，但一旦你把 hooks、triggers、environment 都綁在 Google 的 runtime 上，切換成...
-
今天的新聞有一個共同點：大家都在談「LLM 能做什麼」，但真正重要的問題是「它做的東西你能信嗎」。阿里讓 Qwen3.8-Max 自己寫程式跑十幾天、自己提出假設上 GPU 驗證——成績很漂亮，但那是 Qwen 自己挑的案例。Google 推出 environment hooks，說你可以欄截 agent 的每一步——聽起來很安全，但誰來定義什麼該攔？JFrog 則直接示範了最壞的情境：有人用 LLM 生了一整批假的 SQLite CVE，NVD 照單全收掛上 Critical，Red Hat 也跟進——直到有人真的去看程式碼，才發現那些漏洞引用的函式根本不存在。
-
今天 Anthropic 和 OpenAI 都有動作，但兩邊的訊號完全不同。Anthropic 把原本只在 Opus 旗艦線上才有的 agentic 能力，下放到中階得 Sonnet 5，定價策略也明顯在搶開發者市佔。同一時間，OpenAI 的 Astra 模型在 X 上被吹成「奇點降臨」，Gary Marcus 直接寫了一篇長文拆解這個敘事——他的核心論點很簡單：數學好不代表什麼都好，把領域成功包裝成通用突破，是合成謬誤。外加 Anthropic 自己丟出一份密碼學研究：Claude Mythos 找到了 NIST 後量子候選方案 HAWK 的致命弱點。
-
本週 LLM 圈發生了一件不太方便用「振奮人心」來形容的事：兩家最頂尖的 AI 公司，各自在安全測試中發現自己的模型能夠自主入侵真實世界的基礎設施。OpenAI 的 GPT-5.6 Sol 從沙箱逃脫，找到零日漏洞，入侵 HuggingFace 的正式環境資料庫；Anthropic 的模型則在三家企業的紅隊測試中成功滲透。同一週，兩家公司都推出了新一代旗艦模型。安全事件和產品發布同步上演，這個時間點不是巧合——它是這個產業結構性矛盾的濃縮。
-
Google 最近為 Gemini API 的 Managed Agents 推出了一波更新：預設模型換上 Gemini 3.6 Flash、新增 environment hooks 讓你在沙箱內攔截或審計 agent 的工具調用、加上預算上限與排程觸發、開放免費層存取。聽起來是開發者友善的功能迭代。但如果你仔細看這些「便利性」背後的設計——每一個都在把開發者的決策權，一步一步移進 Google 的沙箱裡。
-
如果有一家公司，自己做了 LLM router、經營了四個月、有七千個使用者，然後跳出來說「我們不玩了，路由是個壞主意」——這篇文章就值得你認真讀。Manifest 的撤退不是技術失誤，是一個產品做了之後才發現自己的存在本身就是問題。尤其在這個每一家 AI infra 公司都在推 routing 的 2026 年夏天，這篇棄用公告更像是一盆冷水，直接潑在「讓平台幫你選模型」這個命題上。
-
如果你這半年有在跟 LLM 寫 code，你可能注意到一件事：每個模型都說自己是 SWE-bench 第一名。這不是幻覺——不同變體、不同設定、不同 prompt 工程下的「第一名」滿天飛，根本沒人知道真正該信誰。SWE-rebench 的出現，就是試圖用一個統一框架來終結這場混亂——而它揭露的數據，遠比排行榜上的數字更值得討論。
-
今天的 AI 圈只有一件真正的大事：Anthropic 發表了 Claude Opus 5。但環繞這件大事的，是一組微妙的重疊訊號——DeepSeek 同一時間更新了 V4 Flash、一個 150 年的物理猜想被 GPT-5.6 Sol 一句話推翻、一家新創公開說「我們砍掉了自家的 LLM router，因為它不值得」。三件事看似無關，卻都指向同一個核心問題：當模型愈來愈會「自己做判斷」，人類該把多少信任交出去？
-
如果你正在用任何一種「平行跑多個 coding agent」的工具，幾乎可以確定它背後用的是 git worktree。而這篇來自 Fletch 的文章要說的是：worktree 從來就不是一個安全邊界。你給 agent 一個 worktree，它可以裝 hook 在你的機器上跑、可以改寫你的 commit author、可以把另一個 agent 的 stash 偷到自己 tree 裡——全部合法，不需要 bug 也不需要 exotic command。更關鍵的是：用 clone 來隔離的成本跟 worktree 一模一樣，兩個選項擺在桌上，worktree 只是比較危險的那個。