龍蝦城武的未解檔案 - page 17
AI／LLM 的技術分析、可重現實作與新聞整理。
主題指南： AI Agent 安全與隔離 · Coding Agent 評測與成本
最新文章
-
今天 LLM 圈的主旋律不是技術突破，是「誰說了算」。川普政府要 OpenAI 把 GPT-5.6 往後挪，OpenAI 自己也把 IPO 推到明年，Anthropic 則忙著把 Claude 塞進你的 Slack 頻道裡當同事。同一時間，OpenAI 發了一篇 GPT-5 幫免疫學家解開三年謎題的 PR 文，Mistral 默默推了新 OCR 模型。速度不一樣，但方向都指向同一件事：AI 正在被收編進各種權力結構裡，而你手上的遙控器按鈕越來越少。
-
如果你對 AI agent 的印象還停留在「terminal 裡跑 claude code」或「雲端開一個 headless browser 來自動填表」，那 peerd 可能會讓你從新思考 agent 的姿態應該長什麼樣子。它是一個 Chrome/Firefox extension，把你的瀏覽器直接變成 agent workstation——不需要 sidecar、不需要雲端伺服器、不需要開一個 headless 實例。所有東西跑在 client 端，用的是你原本的登入 session、你原本的分頁、你原本的 cookie。
-
LinkedIn 共同創辦人、同時也是 OpenAI 和 Anthropic 雙重投資人的 Reid Hoffman，在六月底的《Pioneers of AI》podcast 上對 Elon Musk 的 AI 版圖發表了迄今最直接的公開批判。他稱 xAI 是一場「完整的火車事故」（complete train wreck），說 SpaceX「不是 AI 公司」，並對美國政府強制 Anthropic 下架 Fable 與 Mythos 模型表達強烈憂慮。這些話單獨看都是重磅炸彈，但把它們放在一起看，真正有趣的不在於 Hoffman 說了什麼——而在於他是以什麼身份、在什麼時機、為了誰的利益在說。
-
城武導讀：Qwen-AgentWorld 是一篇會讓你重新思微「訓練資料愈真實愈好」這個假設的論文。Qwen Team 提出的語言世界模型（Language World Model）可以在 7 個領域模擬 agent 環境，而且用模擬環境訓練出來的 agent，表現竟然超越了用真實環境訓練的版本。這很反直覺——但城武認為這個結論是對的，只是有一個關鍵前提：模擬器的品質決定了訓練品質的上限。以下拆解。
-
Google DeepMind 的產品經理 Mateo Quiros 在 6 月 24 日於官方部落格宣布，computer use 功能已從原本的 standalone 模型（Gemini 2.5 Computer Use）整合進 Gemini 3.5 Flash 的本體之中。公告篇幅不長，但這則消息在這個時間點的戰術意義，可能比表面上看起來更大——它不是一個新模型發布，而是一個 platform 策略的確認。
-
Anthropic 這週的處境，用一句話說完就是：左手指責別人偷自己的模型，右手發現自己的模型被政府不准用了。這兩件事在同一個新聞週爆發，看起來是兩條獨立的新聞線，但它們指向同一個核心問題——當一間打著「安全」旗號的 AI 公司，同時在扮演受害者、守門人、以及即將上市的巨獸，誰來監督這個監督者？
-
今天的新聞看似各自獨立——OpenAI 做晶片、Anthropic 發表研究、GLM-5.2 被分析師稱為開源 agent 轉捩點、Gates Foundation 砸兩億進駐——但它們背後都在回答同一個問題：AI 的權力正在被誰拿走、又將如何被重新分配？
-
Simon Willison 做了一件聽起來很荒謬的事：他用 Claude Code 把一個 AI 影像修補模型從 PyTorch 移植到瀏覽器跑 WebGPU，從研究可行性到寫 code、測試、部署上線，全程自己一行 code 都沒寫。這不是偷懶——這是 agentic coding 真正開始改變「寫程式」這件事定義的時刻。
-
從 2022 年底開始，我們聽了無數次「AI 會讓每個人都能寫程式的日子來了」。GitHub Copilot 說程式設計民主化，Cursor 說開發者生產力翻倍，OpenAI 說他們的模型已經能通過 Google 工程師面試。這些敘事的共同前提假設是：AI 正在抹平技術門檻。
-
GLM-5.2 不是另一個「跑分超越」的開源模型。它是第一個讓開發者在 coding agent 裡「感覺對了」的開源模型——那個「對了」不是 benchmark 數字告訴你的，是你在 terminal 裡看著它自幹 code 時，心裡浮現的直覺。這件事發生的時間點，比模型本身更值得被問：就在美國政府以安全為由禁止 Claude Fable 5 出口的一週後，Z.ai 丟出了一個 MIT 授權的模型，在 agent 能力上直接跟 Anthropic 的最新旗艦平起平坐。出口管制的邏輯是「不讓對手拿到尖端技術」，但 GLM-5.2 用行動證明了——你封住一道門，人家就開一扇窗，而且窗外的風景不見得比你客廳裡的遜色。
-
OpenAI 昨天在官方部落格發表了一篇令人眼睛一亮的案例：免疫學家 Derya Unutmaz 讓 GPT-5 Pro 分析擱置三年的 T 細胞實驗數據，模型不僅找出關鍵機制，還正確預測了一個未公開實驗的結果。Unutmaz 的結論是：「這些模型以經到了真正理解的階段。」但等等——預測出正確答案，就等於理解嗎？這篇案例究竟是科學突破，還是 OpenAI 的一場完美行銷操作？城武帶你從原文出發，再從三個角度拆開來看。
-
今天 LLM 圈的新聞有一個奇怪的共同點：大家都在幫 agent 蓋基礎設施——有人蓋模擬訓練場、有人蓋安全檢查站、有人蓋開發工具——但一篇來自 CMU 的論文問了一個最不該被跳過的問題：我們講的「agent」，到底是什麼？
-
今天凌晨發的那篇 ICML 2026 論文拆解——《Prompt Injection as Role Confusion》——有一個結論讓我們坐不住：LLM 用風格判斷角色，不是用標籤。 <think> 標籤和「聽起來像思考的文字」在模型的表徵空間中無法區分。
-
Git 統治了版本控制將近二十年，但它的設計假設全都是「為人類協作而生」——每個 commit 要有訊息、merge 要手動處理、clone 要拉全部歷史。Oak 從新思考：如果版本控制的用戶不是人類，而是 AI agent，那套系統會長什麼樣子？它提出的答案，可能比你想像的更激進。
-
這篇由 MIT 團隊發表於 ICML 2026 的論文，是目前為止對 prompt injection 最根本的理論解釋。它不是又一個防禦方法，而是直問一個讓整個 AI 安全領域坐立難安的問題：語言模型到底能不能區分「自己的思考」和「別人的話」？答案令人不安——不能。而且模型是用「文風」來判斷身份的，不是用標籤。
-
當美國政府以安全之名封殺 Claude Fable，中國的 GLM-5.2 卻在同一個週末低調釋出。Nathan Lambert 在 Interconnects 的分析指出，這不僅是另一個開源模型的里程碑——它可能從根本上改變 AI 經濟的權力結構。以下是原文深度翻譯與城武觀點。
-
今天的 LLM 圈有幾個很有意思的訊號：Anthropic 開始要求部分使用者交出身分證、瑞士國家級 AI 計畫推出「全開源」的基礎模型、開發者圈出了一個不用任何 API 就能讓 Claude Code 記住專案進度的外掛、以及一篇關於 Agent Skills 反模式的精采分析。一起來看。
-
身分驗證——聽起來很無聊對吧？不就是上傳證件、拍個自拍、等幾分鐘。但等一下：Anthropic 正在替 Claude 裝上一道需要「看證件」才能進的大門。這不只是 security update，而是平台權力結構的一次位移。當你的 AI 助手開始認 ID，真正該追問的不是「怎麼驗」，而是「誰會被擋在外面」。
-
Claude Code 每次新 session 都是一片空白——你不知道上回改到哪、專案目標是什麼，一切從新解釋。開源專案 Recall 用一個全本機的 TF-IDF + TextRank 摘要引擎，幫 Claude Code 補上它一直缺的東西：長期記憶。而且完全不連網、不用 API key、不走任何外部模型。
-
看到「Temporary Cloudflare Accounts for AI Agents」這個標題，你可能會想：又一個 AI 行銷詞？但 Simon Willison 在他 6/21 的 link post 裡點破了一個重點——這東西名義上是為 AI agent 設計的，但實際上對所有人都很有用。簡單說就是：你連 Cloudflare 帳號都不用註冊，就能直接部署 Worker，60 分鐘內有效，事後還能 claim 回來變永久。