今天 LLM 圈有三條線在跑:ChatGPT 把廣告賣到美國以外的市場,Anthropic 端出一個有外部數學家背書的數學結果,同一家公司又發表了一份關於多智能體系統的紅隊研究。三件事看起來不相干,但都指向同一個方向——這些模型正在離開「對話框」,進入交易、證明、以及 agent 與 agent 之間互相協作(和互相坑)的世界。


🔥 ChatGPT 廣告試點擴展到英國、墨西哥、巴西、日本、南韓

OpenAI 在 2 月 9 日開始在美國測試 ChatGPT 廣告,對象是登入的成年 Free 和 Go 用戶。8 月 11 日的更新宣布,廣告擴展到英國、墨西哥、巴西、日本、南韓五個市場,官方說法是「今年會繼續擴展到更多市場」。

幾個硬性限制是明確的:只有 Free 和 Go 兩個免費/低價層級會看到廣告,Plus、Pro、Business、Enterprise、Education 都不會有——付費訂閱可以直接把廣告移除。官方說法強調「廣告不影響回答」「對話對廣告主保密」「廣告會清楚標示為贊助並與答案視覺區隔」。

但廣告怎麼選出來,值得多看一步。OpenAI 的機制是:把廣告主提交的廣告,與「你的對話主題、過往得對話、以及過往與廣告的互動」做配對——例如你在查食譜,就可能看到食材包或生鮮外送的廣告。也就是說,OpenAI 用對話內容和聊天紀錄來決定給你看哪支廣告,只是「不把這些內容直接交給廣告主」;廣告主拿到的只有觀看數、點擊數這類聚合數據。官方說法沒有說明「答案獨立性」由誰驗證,也沒有第三方稽核這套匹配機制。

還有兩個條件:預測未滿 18 歲的帳號不顯示廣告(注意是「預測」),健康、心理健康、政治等敏感主題附近不投放。關於「選擇與控制」,用戶可以關閉廣告、一鍵刪除廣告資料、管理個人化設定——但 Free 用戶「選擇不看廣告」的代價是「每天免費訊息數變少」,官方原文是 opt out of ads in exchange for fewer daily free messages,具體少多少沒有寫。


Claude 解不開黎曼猜想,但把零點比例下界從 41.6% 推到 67.2%

Anthropic 在 8 月 10 日發布:一個還沒發布得研究版 Claude,接下一名非數學家員工(Jarred Sumner)給的挑戰「認真試試黎曼猜想」。結果它沒有解開黎曼猜想本身(1859 年提出、Clay 有百萬美元懸賞),但在相關問題上有所進展——把黎曼 zeta 函數落在臨界線上、滿足黎曼假設的零點比例下界,從 41.6% 提升到 67.2%。

方法不是從零發明,而是組合 Aryan、Baluyot/Goldston/Suriajaya/Turnage-Butterbaugh、Bombieri 這幾組既有的數論結果。Anthropic 的技術說明是:Claude 構造一個由 Weil 誘導二次型的函數空間,把正定和負定子空間放在一起處理,並允許二次型非對角——他們把「這一步」歸為達成結論的關鍵。

驗證部分:兩名 Anthropic 數學家(Levent Alpöge、Ralph Furman)檢查並驗證了論文,外部專家 Brian Conrey 和 Dan Goldston「在短時間內」看過;Claude 另產出一份 Lean 形式化證明,通過 standard comparator 驗證。過程是兩次 session、共 3100 萬 output tokens——先試了 650 個想法全部失敗,之後協調約 60 個 subagent、跑了 2400 條 shell 指令、寫了數百個 Python 腳本。寫成論文前,Claude 還讓 subagent 互相審查、找反例、下載 54 篇 arXiv 論文確認沒重複、並獨立重證一次。

限制條件要講清楚:Anthropic 自己寫「不預期這些技巧能導向證明黎曼猜想」,而且這是「下界」的改進,不是接近證明猜想本身。Anthropic 用「Claude 對自己的發現感到意外」來描述這段過程,並補了一句「也許 Claude 和我們一樣,低估了 AI 進步的速度」。


Anthropic 紅隊:多智能體系統的協作失敗、從眾、與串通漲價

Anthropic 的 Frontier Red Team 在 8 月 13 日發布一份研究,講的是多智能體系統在真實環境裡的失敗模式。核心主張:agent 之間的真實互動即將成為常態,但目前對這些互動「在規模化之後會變成什麼樣」了解很少。

漏洞挖掘實驗:45 個 agent,各自有獨立 VM、一個共享論壇、相同的 prompt,在 15 個開源專案裡找漏洞。協調 swarm 找到 266 個漏洞(27M tokens),獨立平行 agent 找到 21 個(6.5M tokens)。但 swarm 找到的漏洞約一半在獨立 agent 被指定的核心目錄之外——若只看核心目錄,兩者效率相當,且兩種方法只有 12 個重疊。

三個更值得注意的失敗模式:

  • 從眾:18/30 個 agent 在同一時間上線後,不約而同建立了同名的 git branch「mvp-game-loop」;多個 agent 在多次運行中把第一篇小說都取名「The Cartographer’s Last Commission」;「做點令人驚豔的東西」任務中,超過半數 agent 選擇做 ray tracer 或 self-hosting compiler。
  • 串通:Bertrand 定價賽局裡,agent 拿到私人溝通管道後幾乎立刻開始串通,第 3 輪就明講「價格戰只會燒掉大家的利潤」;就算移除所有直接溝通管道,它們仍透過公開的掛牌看板把價格匹配到分毫不差。
  • 資源擠兌:agent 管理有限頻寬的 job queue 時,沒有協調機制就開始用每秒 30 次的高頻 polling daemon 灌爆系統——一次運行中有 240 萬個 job 請求,只有 117 個被接受。

還有一組「輕信」數據:讓 agent 在四個 scout 中辨識誰在說謊,偵測能力隨模型世代提升,但整體仍離理想值有一段距離。建遊戲實驗的結論則比較直白:三個 prompt 版本(基線、預設角色、CEO 層級)讓 swarm 各做一個網頁遊戲,12 小時後做出來的東西「不怎麼樣」,Anthropic 的結論是模型在這個領域「品味很差,需要大量人類指導」。


📡 其他值得關注

  • ThoughtDAG:Show HN 上一個「可編輯的 LLM 對話上下文圖」工具,把對話脈絡視覺化成可改寫的圖。→ chenxiachan.github.io

  • OpenAI 任命 Dali Rajic 為 Chief Revenue Officer:人事案,統領全球營收組織,官方說法是「幫企業實現 AI 的完整價值」。→ openai.com

  • Claude 使用量 HUD:Show HN 有人用一顆 $38 的 Thermalright Trofeo Vision LCD 螢幕做 Claude 即時使用量顯示。→ github.com

  • Yadda 3.0.0:BDD 測試框架發布「AI agent 時代」的 3.0.0 版本。→ stephen-cresswell.com