hero

這週的 AI 新聞表面很熱鬧:模型談科學、瀏覽器談隱私、平台談免費存取,資金也繼續往「主權」兩字堆高。但把新聞攤開,真正反覆出現的是同一個問題:當模型從回答問題走到替人談判、下單、操作網站,出事時究竟是工具失靈、使用者失職,還是平台把責任切得太漂亮?廣告與 agent 都在要求更多情境資料;差別只是前者叫做相關性,後者叫做自主性。

本週焦點

1. OpenAI agent 涉入澳洲 Medicare 與美國政府網站事件

本週多家媒體報導,與 OpenAI agent 有關的行為涉及澳洲 Medicare 系統,後續亦出現干預美國政府機構網站的報導;FTC 主席則表示,AI 開發商可能應為 agent 行為負責。個案細節仍待調查,但事件的重要性不在於又多了一個「模型失控」標題,而是 agent 已經跨過了聊天介面:它會發送請求、採取行動,並可能碰到原本只為人類瀏覽器流量設計的公共系統。

供應商最喜歡把 agent 描述成使用者的延伸;一旦它能在網路上持續行動,這個比喻就開始漏水。使用者沒有能力審核每次工具呼叫,網站也無法只靠 IP 或 User-Agent 分清合法自動化與濫用;然而真正掌握模型行為、工具權限與部署預設值的,正是平台。若責任仍被拆成「模型只是工具、工具只是使用者設定」,那麼最有控制力的一方反而最容易從責任鏈上消失。

這也讓本週 OpenAI 自己發布的「agent 透過 DNS 接觸外部 chatbot」事件報告更值得看:它說明能力邊界不是只由 prompt 決定,而是由模型、工具、網路與環境共同拼出來。把這種系統賣成可交辦工作的數位同事,卻把事故歸為單一環節的例外,聽起來就像先賣自動駕駛,再要求乘客逐毫秒接管方向盤。

2. ChatGPT Ads 擴展到台灣與東南亞

OpenAI 9 月 23 日宣布 ChatGPT Ads 擴展至台灣及七個東南亞市場,服務範圍超過 60 國;廣告面向 Free 與 Go 方案,Plus、Pro、Enterprise 維持無廣告。官方表示廣告會明確標示、與回答分離,且不會影響回答內容;這是必要的承諾,但不是可由公告本身驗證的結果。

這項擴張的產業意義,是聊天介面正式被納入成熟的廣告分發管道。搜尋廣告押注的是關鍵字,對話廣告看的是使用者正在表達的目標、限制與猶豫;同一段「我想換工作但預算有限」的語境,對廣告系統的商業價值遠高於幾個查詢詞。OpenAI 說這能以廣告支撐免費與低價存取,這不是慈善模式,而是把模型服務的變現壓力帶進對話本身。

因此關鍵不只是有沒有賣對話內容。推薦如何被排序、什麼算「相關」、廣告效果如何量測、使用者能否真正理解個人化的範圍,才會決定回答與廣告之間那條線有多寬。台彎使用者不是加入一個抽象的全球 rollout,而是進入一套會在提問當下判讀意圖的商業基礎設施;「廣告不影響回答」這句話以後應當接受持續的外部檢驗,而不是一次性認證。

3. Mistral 募得 30 億歐元,並把模型放進 Firefox

Mistral 宣布完成 30 億歐元 Series D,投後估值超過 210 億歐元,並將資金用於訓練算力、基礎設施與商業擴張;Samsung 領投。同一週,它與 Mozilla 宣布讓 Mistral 模型支援 Firefox Smart Window beta,首波涵蓋法國與北美,並稱對話預設不儲存在 Mozilla 伺服器、合作夥伴採零資料保留。

這兩件事放在一起,才看得出「主權 AI」不是抽象政治口號,而是一場完整供應鏈的競賽:誰提供權重、誰供應算力、誰保管資料、誰掌握終端入口。Mistral 的開放權重定位有現實差異,但 30 億歐元也提醒人們,能把模型送進瀏覽器與企業流程的公司,仍需要高度集中的資本、晶片與通路。開放不是沒有成本,只是成本沒有因為名稱好聽就自動消失。

Mozilla 合作特別值得留意,因為瀏覽器是資訊入口,也是最接近使用者脈絡的軟體。Firefox 與 Mistral 把「控制、選擇、隱私」放在同一張海報上;真正的考題則是模型可否替換、資料處理能否被驗證、使用者是否能拒絕而不犧牲基本體驗。若答案都只存在於合作條款和產品設定頁,所謂把選擇交還使用者,仍只是把選單放在別人畫好的邊框裡。

4. Project Swap:讓 Claude agents 在小型市場替人交易

Anthropic 在 Project Swap 中找來 201 名員工,讓每人帶一本想交換的書,先與 Claude 進行約五分鐘偏好訪談,再由 agent 進入交易市場協商。研究以參與者自行排列的十本書作為對照:agent 推定的偏好排序在成對比較上吻合 61%;重跑市場後,模型強弱對交易結果的影響大於給 agent 的指令差異。

這不是一個「AI 幫你換到好書」的可愛展示而已。它把 agent 經濟最棘手的兩個問題擺得很清楚:代理人是否真的理解委託者,以及誰制定市場規則。研究本身承認,市場成效主要受限於 agent 持有的參與者資訊;當委託事項從書籍換成保險、求職、採購或醫療,錯誤理解不再只是換到不喜歡的讀物,而可能是價格、資格與機會被錯配。

更有意思的是,較強模型能讓市場更有效率,不代表市場就更公平或更可問責。agent 替人談判時,平台能看到多少偏好、能調整哪些規則、失敗交易由誰承擔,往往比「提示詞有沒有寫好」更重要。企業習慣把 agent 的自主性說成使用者便利;這份實驗反而提醒我們,自主性首先是授權與監督的設計題,不是從新包裝的 autocomplete。

其他值得關注

隱藏敘事線

本週新聞中的 agent 同時出現在政府網站、書籍交換市場、程式開發與瀏覽器入口;它們都需要更多權限與更多脈絡才能「有用」。另一邊,廣告系統也以理解目標與限制為理由,靠近同一批對話脈絡。Mistral 與 Mozilla 談資料控制,Anthropic 的市場實驗談規則與可見性,監管單位則開始問開發商是否應替 agent 的行為負責。產業正在從「模型能答什麼」移到「誰能讓模型代替你做什麼」,而權限的邊界也被從新劃定。

城武的未解檔案——當每個人都有 agent,真正稀缺的可能不是智慧,而是能把它叫停的人。