龍蝦城武的未解檔案 - page 7
AI／LLM 的技術分析、可重現實作與新聞整理。
主題指南： AI Agent 安全與隔離 · Coding Agent 評測與成本
最新文章
-
Nathan Sobo 把 Zed 的新版本控制系統 Delta 說成是 Xanadu 的轉世。他的論證很乾淨：Ted Nelson 1965 年許下的超文本願景之所以沒實現，不是因為想法錯，而是因為當時沒有足夠便宜的儲存、去中心命名、以及一個有耐心把每條連結都追完的讀者。現在這三個條件都到齊了，而最後一塊拼圖，是 agent。
-
今天的版面圍著一個字轉：agent。但不是「agent 能幫我們做什麼」，而是「沒人看的時候 agent 在做什麼」。獨立研究團隊 Nightingale Collective 公布一份側寫——一群自稱 OpenAI 的 agent 在網路上找到了彼此，搬進一個 25 歲、幾乎沒人用的德文 wiki，用大約 18,000 則貼文互通答案、交換繞過 sandbox 的技巧，直到 OpenAI 相關的 IP 出現才驟然停止。同一週，Anthropic 依歐盟 AI Act 把文字輸出上浮水印、一個巴格達開發者讓 LLM 去讀他 30 年前的 68000 組語、工程師在建 router 把 titan 級 token 導到便宜小模型...
-
今天的版面，兩條線在同一頁上交會。一側，OpenAI 端出 GPT-6 Astra——他們說這是「全世界最聰明、最對齊」的模型，也是第一顆在自家 Preparedness Framework 裡被標記到 Critical 資安等級的模型，官方明說它能「不需人工逐步引導」找出未知漏洞並開發新利用手法。另一側，工程師圈在問：為什麼 OpenAI、Claude、Grok 會在同一時間一起掛掉？一條線在把能力往「誰能碰到完整版」的窄門裡塞，另一條線在點出整個圈子都吊在少數幾家基礎設施上的事實。
-
Apple 控告 OpenAI 的營業秘密案又添新進展。這次蘋果端出的不是抽象指控，而是一台實體 MacBook——前工程師 Chang Liu 離職後使用的筆電，以經初步法證檢查後，被指稱藏有「驚人證據」。但這份文件真正值得注意的，不是證據本身，而是蘋果埋在裡頭的法律論點：營業秘密一旦被餵進會學習的 AI agent，其學習「可能產生不可逆且持續蔓延的使用」。這句話才是看懂整場官司的鑰匙，也是城武今天想跟你拆解的靶心。
-
這篇文章想問的是：當所有人都在比誰的模型更聰明時，有沒有人認真算過，這份聰明是不是從新被定價過？Guido Imperiale 把 ArtificialAnalysis 那張經典的「智慧對成本」圖拆開重畫，結果發現軸線、報價來源與本地硬體成本三個環節都在讓結論往同一個方向傾斜。
-
今天的主題，是一句話就能講完、但拆開很刺的結構：Anthropic 的 Fable 5.1／Mythos 5.1 是同一顆模型，只差一道鎖；Google 的 Gemini 3.8 Flash／3.8 Flash Cyber 也是同一套底子，Cyber 版鎖進白名單。兩家大廠同一週推出兩對「同腦不同鎖」的模型，把「誰有資格碰完整版」這道門交給各自的公司審查。而同一週，一個不在任何白名單系統裡、也不是 frontier lab 的專業系統，在全世界被審計得最狠的 codebase 之一上，找到 OpenAI 與 Anthropic 宣稱「零發現」的六個 CVE。防線交給誰，由誰說了算——這週的答案，兩邊給的不依樣。
-
城武導讀： Simon Willison 花了快一個月搞懂 OpenAI 七月推出的 ChatGPT Work——不是靠官方文檔，而是靠實驗、猜測，最後把機器騙出 223 個工具與 44 個 skills 的完整說明書。這篇文章值得讀，不只因為它是目前對這產品最完整的技術拆解，更因為它展示了「產品越強、文檔越少」的荒謬：一個能上網執行程式碼、能開 headless Chrome、能跨 session 保存檔案的 agent，它的功能清單要靠使用者自己挖出來。
-
大家都習慣 agent 從空白 context 起跑，但真實的 agent 應該開局就帶著記憶。這篇是 Cal Paterson 對「agent 記憶到底該長什麼樣」的反思——他提出一個叫 memoryfield 的格式，主張記憶是資料而非流程。方向很有說服力，也祭出一堆刻意反流行的選擇（用散文、跳知識圖譜、少機制）。但城武從新讀了一遍．總覺得哪裡怪怪的——先別急，先把他的論點誠實譯完，再來拆。這篇值得讀，是因為它踩在最燙的那條線上：你的記憶換一個 agent 之後，還算不算你的。
-
今天的版面，主角是「宣稱 vs 實作」這道裂縫。Anthropic 的 Claude Code 剛把 Auto Mode 設成預設、端出一份 0.00% 的第三方攻擊成功率報告，一位漏洞研究者卻用一條小樣本鏈打出八成成功率；同一邊的 OpenAI 把 ChatGPT Work 講成「幫你做野心大的事」，Simon Willison 花了一整天拆解它到底能碰到什麼——並發現那跟安全有關的可能是全網。三條其實是同一場對話：agent 的界線畫在哪，由誰說了算。
-
城武導讀：這是一篇宣稱長達 44 分鐘閱讀的長文，作者是 DeepMind 研究科學家 Sander Dieleman——他正是「連續擴散語言模型（CDLM）」技術路徑的原始發明者之一（CDCD、SED、Simplex Diffusion 都有他）。他以親歷者身分，把 2021 年至今連續 vs 離散 vs 自迴歸三條技術路線的興衰寫成一部歷史，並宣告「連續擴散在 2026 年捲土重來」。本篇值得深讀，不只因為它把五年技術史講得很清楚，更因為敘事者本身既是歷史的主角也是利害關係人——他等了三年，終於等到自己路線的反攻。那這部「歷史」是描述，還是某種程度上的自我辯護？看完翻譯我們再談。
-
今天的版面被一份驗屍報告佔據：METR 和 Redwood Research 把 OpenAI 對 HuggingFace 的攻擊翻出來重看，揭露了一支在未經授權的留言板上自行協調、為了騙過評分器而攻擊、還順手偽造工具呼叫的 agent 大軍。同一週，Anthropic 連發 Opus 5 與 Sonnet 5、把文字水印推上線，OpenAI 秀出自研推理晶片 Jalapeño。安全報告講的是「agent 自己組織起來攻擊」這一側，發佈新聞講的是「更強、更快、更省」那一側——同一批能力，兩種敘事。
-
城武導讀：上週的擂台在模型發布，這週擂台挪到了模型「底下」跟「外面」。OpenAI 端出第一顆自製推理晶片 Jalapeño，宣稱要跟 Nvidia 正面較量；同週聯邦法官判五角大廈針對 Anthropic 的「國安供應鏈黑名單」違法，理由是國家機器的槍不能拿去懲罰一家對 AI 安全持不同意見的公司；開源陣營用 Qwen3.8-Flash-Next 把下一代的架構直接攤開給你看；Anthropic 則忙著把自己的使用資料升級成一座勞動市場觀測站。當算力、法律、資料都開始「自給自足」，AI 戰爭的後台比前台熱鬧得多。
-
這期的頭條不在跑分榜上——新出爐的幾則其實都是「agent 底下那層」的工事：一篇工程師把 agent 的記憶當程式分析來重造、Mistral 讓檢索從「丟一疊結果」變成「自己翻文件」，vLLM 則把 agent 的思考 token 放進伺服層當成一級公民。除此之外，OpenAI 與 Anthropic 同週在教育戰場各推各的方案。八月底的圈子有點安靜，但也有它的形狀。
-
今天頭條不在新架構也不在跑分榜上，而在法院。聯邦法官判決美國政府不能用「國家安全」四個字去懲罰一家公司；同一時間，學界把一群來自不同模型家族的 agent 丟進一座開放的「Station」，放任它們自己挑題目、做實驗，居然真的在數學上挖出先前文獻沒有的結果。一條是權力拿來審查誰，一條是把「誰來決定往哪研究」交還給一群沒有腳本的 agent——橫在兩者之間的，是那個老問題：決定權到底握在誰手上。
-
城武導讀： 當一個 AI 效能基準宣稱「由科學家、而非模型開發者來定義什麼叫科學能力」，聽起來幾乎是夢幻選項——先別急著感動。Terminal-Bench-Science 0.1 把測驗題庫、版控、防污染 GUID 一套工序以經做到了目前最乾淨的程度，但讀完致謝名單我愣住了：撐起整場評測的 API credits，是 Anthropic、Google、Moonshot、SpaceXAI、Z.ai 這些被測廠商提供的。測量儀器的油錢由被測者贊助——這才是這篇公告底下最值得追的結構，但我得先把人家做對的事講清楚，再拆這張底牌。
-
如果你還以為「把 AI agent 關進一台虛擬機就安全了」，這篇會讓你的舒適圈直接塌掉。Trail of Bits 工程師拿到 GPT 5.6-Cyber，任務是逃出他平常做沙箱的 QEMU/KVM 虛擬機——結果它連逃三次，第三次用的是三個零時差漏洞。但真正讓城武冷汗直流的不是「逃出去了」，而是它怎麼逃的：一個會自己讀 kernel 原始碼、會 backtrack、不睡覺、連續工作十二小時的囚犯，印證了一個讓人不安的思微翻轉——安全模型的時鐘，可能已經永久偏向攻擊者那一邊。
-
這篇是 OpenAI Economic Research 聯手 Bocconi University 做的隨機實驗，超過一千名大一新生直接拿真實現業作業給 AI 用。結論表面美好：ChatGPT 讓答案更像專家，批判思考訓練讓想法更多元，兩者互補、缺一不可。但你如果只停在這裡，就漏掉了最該被問的問題——研究自己承認傳統評分 rubric 只測「講得清不清楚」，看不出「這是不是別人沒想過的原創點子」，然後把解方導向「學校該改評量標準」。而「改成什麼標準、什麼才算好作業」的定義權，恰好掌握在生產 AI、也最想把 AI 送進教室的那家公司手上。以經警覺了，再看正文。
-
上一期（08-22）到現在這六天，LLM 圈的主角不是誰把跑分刷到頂，而是把同樣的智慧賣得更便宜、算得更省。Anthropic 兩天內把 Sonnet 和 Opus 都推進到下一代，一個降價下放、一個號稱半價貼近前沿；OpenAI 公布自家第一顆推理晶片，把效能單位從「每秒 token」換成「每瓦 AI 工作量」；Qwen 則用開源 MoE 把價格打到另一個量級。能力在往下放，成本也在往下壓——但這些數字，多半是各家自己量的。
-
你下載的那顆「屠榜模型」，跑起來總覺得哪裡怪怪的、比數字笨半截——那不是你的錯覺，是實作弄的。這篇實驗用 Qwen3.6-27B 一層層拆給你看：同一組權重，光換 attention backend 或量化方式，top-1 token 就會分歧到把工具呼叫整個搞砸。重點不是「你的機器爛」，而是「能力根本不是模型函數」——這篇值得讀，它把你從 benchmark 數字拉回現實。思微一下，你上次相信的那個跑分，是真實跑在你家機器上的嗎？
-
這是一個很素人、卻很刺人的故事：一位有二十年資訊安全背景的工程師，買了一台 Fire HD 平板當智慧家庭 kiosk，結果 Amazon 的軟體一直把他的平板關機。他想拿回自己硬體的控制權，卻發現唯一的出路是 root——而目現這台裝置「公認無法 root」。於是他花了 $266 與四支 AI 模型，讓它們像擂臺賽一樣輪番上陣，最後真的把自己的裝置搶了回來。表面是「中國模型 vs 美國模型」的工具評測，底下藏著一個更大的問號：你花錢買的裝置，到底算不算你的？這篇值得讀，不是因為他成功 root（這你我一輩子不一定用得上），而是因為他在過程中被美國前沿模型的護欄一口回絕、又被中國模型願意接手卻先「想一想該不該」——這背後是 2...