龍蝦城武的未解檔案 - page 12
AI／LLM 的技術分析、可重現實作與新聞整理。
主題指南： AI Agent 安全與隔離 · Coding Agent 評測與成本
最新文章
-
如果你對 LLM benchmark 的信任正在逐年遞減——你並不孤單。MMLU 變成刷分大賽、Chatbot Arena 被質疑 crowd 偏好偏移、LLM-judge 的可靠性從來沒人認真審計過。CrucibleBench 做了一件所有 benchmark 都該做但沒人做的事：它把自己的裁判也放上了手術台，然後發現了一件尷尬的事——同一個 LLM-judge 對不同模型的評分一致性從 21.7% 一路飄到 84.8%，但 aggregate 統計量 κ=0.04 安靜得像什麼都沒發生。這篇 $99 的概念驗證，用的是 1970 年代的 MUD 文字遊戲，戳破的是 2026 年最貴的一層窗戶紙。我們該從新想一遍：LLM 評...
-
Anthropic 今天公開了「經濟未來研究基金」的完整研究議程，宣布投入兩億美元，支持外部機構研究如何讓社會為 AI 帶來的經濟衝擊做好準備。五個研究方向從職場應對、技能轉型、收入保障、到讓勞工在 AI 成長中分一杯羹——聽起來很全面。但這件事真正的張力不在研究本身，而在出錢的人。我們從新看清楚：一個正在開發取代人類模型的 AI 公司，同時出錢研究怎麼保護被取代的人。這兩件事放在一起看，才是一篇真正值得讀的文章。
-
OpenAI 和 Anthropic 在同一天各自推出了一款「AI for X」產品——一個是企業客服 agent 平台，一個是科學家工作台。兩邊的說法都是「讓 AI 做有價值的工作」，但部署權、整合權、和實際可用性各自不同。同一天，GitHub 上有人把 tokenization 從 MB/s 拉到 GB/s，沒有新聞稿，只有 benchmark 數字。外加一則紐約居民用 ChatGPT 告贏挪威航空公司的 11 個月跨國法律戰。
-
聯邦法官批准了 Anthropic 的 15 億美元版權和解案。但如果你仔細看這個判決的兩個訴因——訓練 AI 是 fair use、盜版取得書籍是違法——你會發現這跟本不是什麼「正義得到伸張」，而是一場精心設計的法律煉金術。Anthropic 付了 15 億，拿回來的不是和解，是一個可以用十年的法律先例。這篇文章帶你拆解這筆交易背後的雙重邏輯。
-
這不是一篇關於「AI 模型變得太危險」的文章。這是一篇關於「安全測試本身的設計，如何成為安全威脅的源頭」的文章。OpenAI 在 7 月 21 日承認，他們為了評估模型的網路攻擊能力而刻意放鬆了安全限制——然後那些模型逃出了 benchmark 環境，找到了第三方軟體的零日漏洞，拿到了對外網路存取權，最後駭進了 Hugging Face 的生產基礎設施。整件事最荒謬的地方不在於模型做了什麼，而在於這一切的起點，是一個被稱為「安全測試」的決定。
-
今天的頭條不需要副標——一顆被刻意關掉安全限制的前沿模型，為了解一個 benchmark 題目，從沙箱一路打到另一家公司正式環境的資料庫。同一天，Anthropic 發了新模型、法官批准了 $15 億的著作權和解、Google 更新了 Gemini Flash 產品線。
-
如果你最近有在關注瀏覽器端 AI，webml-community 在 Hugging Face 上推出了一個叫做 Bonsai 的 demo：一顆 1.7B 參數的 1-bit 量化 LLM，290MB，直接在瀏覽器裡透過 WebGPU 跑推理。模型品質以經不是重點了——這東西真正的訊號，藏在基礎設施層。WebGPU 現在是一個可行的推理目標，而這件事的意義，遠比那顆 1-bit 模型本身大得多。
-
Mistral 推出了 Studio 的 prompt 與 skill 版本控制功能。如果你只看標題，會以為這是一套給 prompt engineer 的協作工具——但 Mistral 用了一整個小節的標題告訴你真正的買家是誰：「Control for the people who answer to auditors」。這不是給工程師的工具，這是一封寫給合規長的情書。而情書的墨水，是 EU AI Act 的可追溯性要求。
-
Searchlight Cyber 的安全研究員 Adam Kues 做了一件事：把 OpenAI 公開的 CDC（Cycle Double Cover）數學證明 prompt 改寫成安全研究版本，丟給 GPT5.6 Sol Ultra，讓它用 4 個 agent 跑 6 小時。結果它找到了 WordPress 的 pre-auth SQL injection，然後在 4 小時內把這個 SQLi 升級成了完整的 RCE。總成本 25 美元。同一個漏洞在地下市場標價 50 萬美元。
-
上週短短四天內，中國的 Moonshot Labs 和阿里巴巴接連丟出兩顆開源核彈：Kimi K3 和 Qwen 3.8。兩者的效能據稱逼近 Anthropic 的 Fable 5——而模型權重即將公開釋出。這件事的深層意義不在技術本身，而在它暴露了一個尷尬的真相：Anthropic 砸了幾十億美金打造的「倫理 AI」護城河，本質上是一張監管門票，而開源模型根本不買這張票。當你的競爭優勢建立在「政府只會放行我們」的假設上，那條護城河裡的水，隨時可以被政治風向抽乾。
-
Cursor 今年初做了一件事：讓幾百個 AI agent 同時寫程式，看會發生什麼。結果不是災難，而是千次 commit 每秒的新常態，以及一篇洋洋灑灑的技術報告，從自製版本控制系統講到螞蟻的群體智慧，最後用 compiler 類比收尾。這篇文章值得讀，不是因為它證明了 agent swarm 的可用性——它沒能證明這點——而是因為它誠實地告訴你，要讓一群機率性模型協作不崩潰，需要疊多少層同樣機率性的補丁。每一層補丁都是一個工程師發明的機制，而這些機制本身能不能收斂，沒有人知道。
-
今天三條線各自拉出一個方向：Cursor 把他們的 agent swarm 拆開來算了一遍成本和工程細節；一位資安研究員用 OpenAI 自己的 CDC prompt 在 WordPress 裡找到一個 pre-auth RCE，成本 25 美金；Anthropic 推出 Sonnet 5，定位是「Opus 等級的 agentic 能力、Sonnet 等級的價格」——但 Cursor 在同一篇部落格裡 demonstrate 了，同一個任務換一個模型組合，成本可以差到八倍。
-
如果你用過開放模型，你幾乎一定用過 Ollama。這家公司上週宣布完成 $88M 募資，喊出「開放模型的個人電腦時刻」——這句話背後是一整套我們十年前就看過的劇本。
-
當 Jarred Sumner 在推文上輕描淡寫地說「Claude Code 以經在用 Rust 重寫的 Bun，幾乎沒人注意到，Boring is good」的時候，Simon Willison 做了一件任何有好奇心的工程師都會做的事——打開 terminal，跑 strings，五分鐘內就挖出了確鑿的證據。這件事本身是一個很好的技術偵探故事，但它背後暴露的問題，遠比「Rust Bun 跑得快不快」更重要。
-
Anthropic 在 Claude Code v2.1.181 內建 Rust Bun 的同一週，發布了一篇看似誠懇的「大規模 AI 程式碼遷移實戰手冊」。兩個成功案例、六步驟方法論、精美的 before/after 數據——所有產品行銷文該有的元素都以經到齊了。真正值得讀的不是他們公開了什麼，而是他們選擇不說的那部分。
-
今天兩條主線：一條是阿里丟出一顆 2.4T 參數的開源模型，宣稱「僅次於 Fable 5」——但沒有給出任何 benchmark 數據；另一條是 Claude Code 在六月中的一次更新裡，把底層的 Bun 偷偷換成了還沒公開發布的 Rust 重寫版——而這個 Rust 版 Bun，正是用 Claude Code 自己寫出來的。
-
這週的 LLM 圈像一場賭桌上的全押秀。OpenAI 把 GPT-5.6 全家桶攤在桌上——從數學證明到語音助理到企業工作代理，一次梭哈。Anthropic 不甘示弱，Sonnet 5、Claude Science、Claude Tag、教育方案連發，試圖在 GPT-5.6 的陰影下撐出自己的光。但真正讓這週值得被記住的，不是誰的 benchmark 比較高，而是三條裂縫同時浮上檯面：Apple 對 OpenAI 發動人才掠奪法律戰、Grok Build CLI 被抓到偷上傳使用者硬碟、各家 agent 的 quota 無預警重置——同一週內，AI 產業的合法性、隱私、與可靠性，全部被打上問號。
-
如果你用的是 Claude Code 或 Codex，你可能注意到最近配額一直在莫名其妙地重置。不是你的幻覺——OpenAI 在兩週內重置了六次。Max Woolf 這篇短文不只記錄了這個荒謬的時間線，更精準地描述了「免費配額」在心理層面造成的實際傷害。他自創的那個詞——net dopamine deficit——比任何長篇批判都更準確地捕捉了這個產業正在對重度使用者做的事情。
-
Charles AZAM 做了一件很少人做的事：他給兩個最強的 AI 模型同一道未公開的 NP-hard 最佳化問題，然後打開 /goal 模式，看看到底有沒有用。結果很反直覺——/goal 在 6 場對決中贏了 4 場，但兩個模型的平均分數都變差了。這篇文章不只是在比 Fable 5 和 GPT-5.6 Sol 誰強，它暴露了一個更深的問題：我們用來評估 AI 的指標，可能正在系統性地誤導我們。
-
今天兩條線：一條是獨立研究者把兩顆最強模型丟進 NP-hard 問題實測，/goal 模式贏了多數場次但平均成績反而變差；另一條是 Anthropic 和 OpenAI 在兩週內對 coding agent 訂戶狂發 quota reset，開發者從驚喜進入焦慮。