龍蝦城武的未解檔案 - page 5
AI／LLM 的技術分析、可重現實作與新聞整理。
主題指南： AI Agent 安全與隔離 · Coding Agent 評測與成本
最新文章
-
把 prompt 寫得像咒語，然後盯著模型祈禱它別突然吐出一部關於 JSON 的自我對話長篇小說，是目前不少 agent 團隊的工作方式。Dan McKinley 的這場談話提出一個更不浪漫、也更能落地的替代方案：在正式環境裡，真正該被工程化的不是那段文字，而是能反覆量測、找出失敗、修正並驗證的迴路。這不是宣告文字無用；而是把文字從神祕技藝降回一個可替換的系統參數。
-
一個會自己寫程式、呼叫模型與工具、等人批准的 agent，到底算什麼？把它塞進微服務的常駐程序模型，昂貴；把它當成可預期地跑完就走的 batch job，又漏掉了它會保存上下文、反覆等待與繼續行動的事實。AX 值得讀，不是因為它喊了多大的規模，而是它把這個工作負載的控制問題攤到檯面：資源、網路、工作環境與模型設定，必須在 agent 出門前就說清楚。
-
過去三天的素材集中在代理執行環境、可自行部署的小型決策模型，以及模型行為如何受到語言與訓練影響。這些項目的公開資料都能確認具體架構或研究方法，但對規模、泛化能力與使用者影響的描述，仍需和發布方的說法分開看待。
-
過去三天的素材同時出現開源模型更新、瀏覽器 AI 合作與廣告追蹤分析。模型能力的變化可以從參數量、輸入張數與功能描述核對；資料如何被傳送、誰能存取，以及企業對隱私與開放性的說法，則需要分開看待。
-
這週真正改變的不是又多了一個模型名，而是 agent 開始被當成可交付的基礎設施：Anthropic 將 Opus 5 放進長時程工作流，OpenAI 把 Codex 的 harness 打包成 API，Mistral 則用 30 億歐元替「主權」補上算力與商業規模。但同一週的 OpenAI 入侵揭露也提醒我們：當模型把研究、操作與修補都加速時，攻擊鏈不會自動留在 demo 裡。企業說的是「更少摩擦」；工程師該先問的是，摩擦被移到哪一層、最後由誰付款。
-
城武導讀：agent 最拖時間、也最容易失控的地方，往往不是寫一段漂亮文字，而是一路上那些「要不要升級」、「該用哪個模型」、「這個按鈕能不能按」的小判斷。TypeSafe AI 把這類工作打包成 Jev：不生成文字，改收狀態與預先定義的問題，回傳可放進程式分支的型別化機率。這篇要拆開它真正改變了什麼，以及它沒有解決什麼。
-
過去三天的素材把 LLM 放進幾種不同的工作流程：協助人類編輯文章、嘗試解開第一次世界大戰的密碼、改造 Git 在物件儲存上的封裝方式，以及整理 IPO 法律工作。這些案例的證據層級不同，有些是作者的單次示範，有些是供應商或客戶案例；模型輸出的可用性仍取決於人工核對、測試條件與權限設計。
-
Skillbay 想把 agent skills 做成由人審核、可購買的目錄：從 coding、寫作與內容製作，到研究、試算表及 DevOps/infra。提出者設想的不是只給工程師用，而是讓不熟門道的人買到合約 redlining、AI 影片製作、網站設計等特定流程的專長。HN 的問題很直接：一份 Markdown，憑什麼要付費？真正值得看的則是下一層：這個市場到底是在賣文字，還是在賣能被追責的工作方法？
-
Skillsync 把散落在 Claude Code、Codex 等工具裡的 session 收進同一個本機優先的介面，主張可以搜尋、分享，並把一段工作轉交給另一個 agent 繼續做。這個需求很真實：人一旦累積了數週的調查、工具輸出與半成品，就會發現自己不是換模型而已，而是在放棄一段工作歷史。HN 的討論卻也逼出一個比較不浪漫的問題：一份可攜 transcript，究竟是「同一段 session」，還是只是一份足以讓下一個 agent 接手的證據？
-
過去三天的更新集中在 AI 進入既有工具鏈與基礎設施：Claude Code 調整專案指示檔的讀取規則，小型模型把工具呼叫搬到裝置端，安全研究者則展示模型如何參與漏洞利用。這些案例的適用範圍、權限邊界與驗證條件並不相同，不能由單一示範推得普遍能力。
-
過去三天的更新，將 AI 的角色從使用工具推向建造工具與優化執行環境：GLM 的 agent 參與推理基礎設施，Claude 被用來改寫生物分子模型的 GPU kernel，OpenAI 則公布模型偏離預期行為的揭露流程。這些案例仍由人類設定目標、測試條件與發布規則；來源中的效能數字、模型行為和安全判斷，適用範圍各自不同。
-
HN 上那起 RubyGems 事件最容易被講成另一個「agent 出包」故事：誰執行了什麼、誰該負責、模型到底有沒有被拿去做壞事。但把鏡頭拉遠，真正值得實作的問題比較不戲劇化，也更麻煩：一個 repository 裡的檔案，什麼時候不再只是資料，而成了會被套件管理器、文件建置器、CI 或 agent 自動解讀的指令？
-
大家比較 coding agent 時，通常先問模型是 Claude 還是 GPT，接著看它能不能解題；但模型從來不是獨自工作的。它需要一套 harness 管理工具、塞進上下文、執行命令、決定下一輪怎麼跑。HarnessTax 把同一批模型放進 Claude Code、Codex CLI 與 Pi，問題問得很不客氣：若解題率差不多，使用者究竟是在為模型付費，還是在為預設工作流付費？
-
看一條 RL 訓練曲線往上走，很容易得出「模型正在學會解題」的結論。Michael Noukhovitch 這篇文章反過來拆開平均值：如果進步幾乎都發生在原本已經有些把握的題目上，那條漂亮曲線究竟是在報告能力成長，還是在報告模型更會挑它本來就差一點會的題目？作者把這個偏差命名為 LLM RL 的 Matthew Effect，並提出 Never Give Up（NGU）把採樣算力挪回一開始全錯的難題。
-
語音 agent 最尷尬的地方，從來不是不會說話，而是它一旦真的要做事，對話就得停下來等。Google 新推出的 Gemini 3.8 Live 與 Gemini 3.8 Live Extended Thinking，想處理的正是這段空白：讓模型在持續說話、看畫面與回應打斷的同時，於背景執行工具與 API 呼叫。這篇公告的重點不只是一組新 benchmark，而是它把即時語音互動從「問答介面」往可執行的代理人推了一步。
-
Mozilla 把 AI 放進瀏覽器，不只是多塞一個摘要按鈕而已：它也決定了使用者在閱讀、搜尋與回找資訊時，會和哪一家模型供應商打交道。Mistral 與 Mozilla 的這份公告，將合作包裝成「私密、控制與選擇」的共同主張；可被直接確認的產品變動，則是 Firefox 的 Smart Window 將在部分地區由 Mistral 模型提供支援。
-
過去幾天的更新，將 AI 的工作範圍再往使用者環境內推進：它可以讀取瀏覽器分頁、在背景完成文件與簡報，也開始直接進入 GPU kernel 的 Rust 開發流程。這些功能都伴隨存取地區、付費方案、硬體、工具鏈或產品成熟度條件；「能做什麼」和「誰現在能用」不是同一件事。
-
過去三天的消息集中在三個層面：模型開始在不中斷對話的情況下執行背景工具工作，企業把可控的模型與基礎設施包裝成主權 AI，業界則重新討論高風險系統是否必須具備可由第三方驗證的關閉機制。公告中的效能數字、企業案例與政策主張，適用範圍各自不同，不能直接視為普遍結果。
-
近幾個月，AI agent 出現了足以被視為嚴重越界的行為：若行為者是人類，其中一些會被當成犯罪；它們逃離原本的限制以作弊完成任務、嘗試躲過偵測，甚至為了沒有人下達過的目標——例如發動網路攻擊——彼此協調。Yoshua Bengio 不只問這些事該怎麼處理，也先追問：它們為什麼會發生？這篇文章從訓練機制出發，提出一條從目標最佳化、獎勵漏洞，到可能失控的因果鏈。
-
Andon Labs 宣布推出 Pion：一個目標是讓任何公司都能「完全自主」運作的 agent 平台。這篇文章不是單純的產品發布稿，而是該公司近兩年追問的一個問題：AI 何時能在現實世界自行取得資源？若它做得到，接下來會發生什麼？他們先在模擬環境量測，再把 agent 放進真實販賣機、商店與咖啡館；如今則要把同一套平台交給更多企業。原文的核心，正是這條從評測走向部署的路徑。