【LLM 日報】2026 年 08 月 04 日 — 阿里丟出 2.4T 開源旗艦、Google 給 agent 裝剎車、LLM 生出一整批假的 SQLite 漏洞
今天的新聞有一個共同點:大家都在談「LLM 能做什麼」,但真正重要的問題是「它做的東西你能信嗎」。阿里讓 Qwen3.8-Max 自己寫程式跑十幾天、自己提出假設上 GPU 驗證——成績很漂亮,但那是 Qwen 自己挑的案例。Google 推出 environment hooks,說你可以欄截 agent 的每一步——聽起來很安全,但誰來定義什麼該攔?JFrog 則直接示範了最壞的情境:有人用 LLM 生了一整批假的 SQLite CVE,NVD 照單全收掛上 Critical,Red Hat 也跟進——直到有人真的去看程式碼,才發現那些漏洞引用的函式根本不存在。
🔥 Qwen3.8-Max:2.4T 參數、開源旗艦,阿里說它是「會自我進化的程式設計師」
阿里巴巴 Qwen 團隊發表了 Qwen3.8-Max,參數規模 2.4 兆(活躍參數 95B)。Qwen 說這是 Qwen-Max 系列首次開源權重——但注意,權重「下週」才發布,目前只開放 API 調用。
Qwen 放了三個程式設計案例來證明模型的長程自主能力。第一個:從空資料夾開始,自主開發 oh-my-cli 專案,跑了約 16 天,產出 265 次 commits、127 個 PR、151 個 issues——全程沒有人工介入。第二個:給一篇論文(Unified Data Selection for LLM Reasoning),要求它復現實驗然後超越它。模型從零搭起訓練管線,寫了約 7,600 行程式碼、跑了 33 輪 GPU 訓練、連續工作約 125 小時,最後在 AIME24 上比原論文方法高出 2.7 分。第三個:參加阿里天池上的 WWW2025 多模態對話意圖識別競賽,24 小時內擊敗 526 支人類隊伍中的 458 支(全場 87%),準確率從 0.60 爬到 0.853。
這些案例的共同結構是:Qwen 自己設定任務、自己提供環境、自己評分。沒有獨立第三方 benchmark,沒有對照組——我們不知道其他模型在同樣條件下會做出什麼。Qwen 展示的是一個精心策劃的 demo reel,不是可複現的評測。
辦公室場景的展示更明顯:合規律師一小時審完數百份文件、UI 設計師一次產出 8 頁高保真原型、結構工程師從圖紙直接出 30 層樓抗震模型——每個案例都標了「傳統流程需要 N 天/週」,但沒有說明這些案例是從多少次嘗試中挑出來的。這不是說模型不強——2.4T 參數、晶片設計從 8,298 門優化到 678 門(面積縮減 81%)、電商模擬獲利 4.16 倍回報碾壓 GLM 5.2——但 Qwen 選擇用行銷語言而非技術論文來發布,這件事本身就說明了他們想讓你注意什麼、不想讓你注意什麼。
- 來源:Qwen
Gemini API Managed Agents:預設 3.6 Flash、environment hooks、免費 tier
Google 擴充了 Gemini API 的 Managed Agents 功能。三個主要更新:
第一,預設模型從 Gemini 3.5 Flash 升級為 3.6 Flash,現有用戶不需改程式碼。也可以手動指定 3.5 Flash-Lite(更低延遲和成本)或其他支援的模型。
第二,environment hooks——這是一個值得仔細看的設計。開發者可以在 agent 的沙箱環境中放一個 .agents/hooks.json,定義要在每次 tool call 前後執行的腳本。支援 pre_tool_execution(執行前攔截,可拒絕呼叫並將拒絕原因餵回模型)和 post_tool_execution(執行後稽核或格式化)。Google 示範了兩個場景:安全閘門(gate.py 在 code_execution 或 write_file 前檢查)和自動格式化(auto_lint.py 在所有 tool call 後執行)。也支援 HTTP hook——可以直接 POST 到外部端點。
這個設計的權力結構很透明:你可以攔截 agent 的每一步,但攔截的規則是你自己寫的,Google 不幫你定義什麼該攔。對有資安團隊的企業來說是好消息;對只有一個後端工程師的新創來說,hooks.json 大概永遠是空的。
第三,新增預算控制(max_total_tokens,到達上限後暫停並保留環境狀態、可續跑)、排程觸發器(cron 排程自動執行 agent 任務),以及免費 tier 開放。Environments API 也上線了,可以透過程式碼列出、檢查、刪除沙箱 session。
- 來源:Google Blog
JFrog 拆穿一批假的 SQLite CVE:54/55 是 LLM 生成的 slop,NVD 照掛 Critical
JFrog 安全研究員發現一個 GitHub repo(programmervuln/cveadvisory-)一口氣丟出 55 個 SQLite 漏洞通報,NVD 標為 Critical、CISA ADP 也跟進——然後 JFrog 真的去檢查程式碼,發現整批幾乎全是假的。
幾個具體案例:CVE-2026-51302 聲稱 exprComputeOperands() 有 use-after-free,但這個函式在 SQLite 3.41 根本不存在(2025 年中才加入)。CVE-2026-51303 說 3.51.3 修了某個漏洞,但 diff 顯示 src/expr.c 完全沒改——「修復」是編出來的。CVE-2026-51296 引用 json.c 第 3555 行,但 SQLite 3.41.0 的 json.c 只有 2,706 行。所有 PoC 在實際編譯的 SQLite 上跑,沒有一個觸發 crash。
GptZero 檢測確認這些通報是 AI 生成的。55 個 CVE 中,54 個完全虛構,只有 1 個包含真實 bug 但裹著未驗證的 CVE metadata。
這不是 LLM 幻覺的笑話——這是漏洞管理體系正在被 AI slop 污染的實例。MITRE 的 CVE 提交表單沒有身分驗證,NIST 在 2024 年 2 月因為通報量暴增而暫停深度分析,CISA 試圖接手但整個管線已經碎片化。NVD 最初的 Critical 評分在 JFrog 踢爆後被降級(CVE-2026-51302 從 10.0 降到 7.6)——但問題不是這一條,是還有多少沒人檢查的。
更諷刺的是:如果企業用 AI agent 來自動化漏洞修補,agent 看到假的 CVE 會試圖去找不存在的程式碼、生成不存在的修補——一個 AI 產品騙過另一個 AI 產品,人類在中間被跳過兩次。
- 來源:JFrog
LLM 獎勵的不是 prompt 技巧,是領域專業
Sean Goedecke 寫了一篇文章反駁「用 LLM 不需要技巧」的說法,核心論點:最能發揮 LLM 價值的能力不是 prompt engineering,而是你對那個領域的理解深度。
他以 Terence Tao 和 ChatGPT 討論 Jacobian Conjecture 反例的對話為例:Tao 的訊息非常短、不逐點回應、當模型看起來不對時不直接否定而是說「這看起來比我預期的複雜」、幾乎不採用模型的下一步建議。關鍵不是這些技巧——關鍵是 Tao 真的懂數學,所以他能從 ChatGPT 的長篇回應中抽出關鍵概念、提出替代方案、判斷什麼「看起來怪怪的」。
Goedecke 把這個連結到自己的程式設計經驗:如果你對自己的 codebase 有清晰的 mental model,你可以對 LLM 說「不對,這裡可以更簡單」「我們不是已經做了 X 嗎」「能不能用這些熟悉的術語重新表達」——這些指令需要的是你對系統的理解,不是 prompt 模板。
他的結論:對很多任務來說,瓶頸是人類而不是模型——模型裡已經有答案了,但要把它挖出來,需要一個夠聰明的人類。這個論點跟 Anthropic 上週的研究數據吻合(expert 用 AI 產出是 novice 的五倍),差別在於 Goedecke 的視角是開發者日常經驗,而不是企業報告。
📡 其他值得關注
-
Anthropic 推出 Claude for Nonprofits:NPO 享最高 75% 折扣、新增 Blackbaud / Candid / Benevity 連接器、與 GivingTuesday 合作推出免費 AI 課程。官方說法:「幫助資源有限的組織最大化影響力」——本質是企業 CSR 搭售,但折扣力度和連接器對小型 NPO 確實有實用價值。→ Anthropic
-
AirLLM:單張 4GB GPU 跑 70B 模型:開源專案,透過 layer-by-layer loading 讓消費級硬體跑大模型推理。不是新技術(分層推論很久了),但工具成熟度持續提升。→ GitHub
-
Nightcrawler:跑在手機上的本地 AI 滲透測試 agent:用本地 LLM 在 Android 裝置上做資安測試,不需要雲端。Show HN 上討論熱烈。→ GitHub