LLM 週報:自製晶片、國家法庭、開源架構——AI 戰爭移師後台

城武導讀:上週的擂台在模型發布,這週擂台挪到了模型「底下」跟「外面」。OpenAI 端出第一顆自製推理晶片 Jalapeño,宣稱要跟 Nvidia 正面較量;同週聯邦法官判五角大廈針對 Anthropic 的「國安供應鏈黑名單」違法,理由是國家機器的槍不能拿去懲罰一家對 AI 安全持不同意見的公司;開源陣營用 Qwen3.8-Flash-Next 把下一代的架構直接攤開給你看;Anthropic 則忙著把自己的使用資料升級成一座勞動市場觀測站。當算力、法律、資料都開始「自給自足」,AI 戰爭的後台比前台熱鬧得多。
本週焦點
1. OpenAI Jalapeño:第一顆自製推理晶片
OpenAI 這週公布 Jalapeño 的初步結果——這是它第一顆自訂推理晶片。官方拿 SemiAnalysis 的 InferenceX 基準,在 GPT-OSS 120B、DeepSeek R1 670B、Kimi K2.5 1T 三顆公開模型上測,宣稱尖峰輸出下每瓦能做完的 AI 工作量多 1.5–1.9 倍、端到端延遲低 1.7–3.6 倍,高度互動的 agent 負載下表現多 2.1–4.1 倍。數字之外,它的定位說明了一切:晶片、記憶、網路、軟體、機櫃級系統全部一起設計,理由是 agent 的推理是 prefill 跟 decode 交替跑、瓶頸在不同階段會漂移,單一階段最佳的硬體反而會卡在等待資料搬移上。
這顆晶片的意義不在跑分,在 OpenAI 手上的「全棧」敘事第一次有了自己的第一方矽。過去它是 GPU 大客戶,Nvidia 的供應、融資、定價都卡在別人手裡——上一週 WSJ 才報 Nvidia 把對 OpenAI 資料中心的融資擔保從一度談的 2500 億美元砍到 1200 億以下。自製晶片加上最近公布的 OpenAI 自己相關投資,是把「算力要租還是要買」這件事從供應商議價,慢慢挪回自家資產負債表。這跟它一路強調的訓練成本、營收成長一起看,就是一句話:把計算的命脈收進自己口袋。
但別急著鼓掌。這些數字全是 OpenAI 自己量、基準由 SemiAnalysis 定義、晶片功耗 700W/實測 ≤550W 也都是官方自報;外部沒有第三方逐項復現。Jalapeño 目前只是「初步結果」,還沒進入生產、還不知道量產良率跟真實負載下的能耗。更關鍵的是它刻意強調「架構能跑 GPT-OSS、DeepSeek、Kimi」——這既是證明通用,也是把話說在前面:任何 benchmark 都有自家主場成分,這顆晶片到底多能打,等它真的上線被客戶拿來跑日常 agent 任務才知道。以 OpenAI 連年燒錢、急著證明「發出去的每一個模型都收得到錢」的處境,一顆能省電省成本的自製晶片,比任何模型發布都更像財務救生圈——必竟,它得先讓自己活下來,才有資格談「讓全人類受益」。
2. 法官擋下五角大廈的 Anthropic 黑名單
八月尾的頭條不是模型,是一紙判決。聯邦法官 Rita Lin 判定五角大廈把 Anthropic 列為「國家安全供應鏈風險」違法——違反第一修正案的言論自由,也剝奪了第五修正案要求的正當程序,並認定國防部長的指定「恣意且反覆」。整件事的起點是今年二月:五角大廈要求 Anthropic 允許 Claude 用於「所有合法軍事用途」,Anthropic 拒絕解除對「大規模監視美國人」與「完全自主武器」的限制,理由是現行模型還不夠可靠、而國內監視可能侵害公民權。於是它被列為供應鏈風險、被擋在軍方合約之外。法官在判決裡寫了一句關鍵話:「空泛地搬出國家安全,不是一張可以用來懲罰、報復異議者的空白支票。」
這是 AI 業界與美國國家機器正面對決的第一次實質勝訴,地位不只在 Anthropic。它試著回答一個一直懸著的問題:一家公司對 AI 安全所持的立場,能不能讓政府拿「國安」當理由去打壓?法院說不能——至少不能未經正當程序、把它跟「你的技術可能被滲透」混為一談。判決同時要面對司法部的抗辯:政府主張是合約限制造成軍方使用不確定性,而非 Anthropic 的 AI 安全觀點。法官把這個說法也拆了,認定紀錄裡沒有足以支撐供應鏈指定的實質事由。這等於替「AI 公司有沒有資格在尺度上畫線」建立了判例參照。
但故事還沒收尾。判決撤銷了五角大廈的黑名單並禁止政府執行被挑戰的限制,政府預料會上訴;Anthropic 在華府還有另一樁關於供應鏈指定的訴訟尚未定案。而且判決當天 Anthropic 自己的聲明很有意思:「我們仍專注於與政府合作,把 AI 用於國家安全,讓所有美國人受益。」——它在法庭上主張安全邊界不容政府用國安名義碾壓,出庭後卻立刻重申願當國安的夥伴。這條線中間的張力,正是這個時代的縮影:前線 lab 一邊要高舉安全的擋箭牌,一邊又不想錯過國防預算這塊大餅。法官畫了一條線,但線的兩端,Anthropic 自己還站著沒下決定。
3. Agent 的底層在動工:記憶、檢索、思考預算
這週沒有單一旗艦,卻有一整排關於「agent 底下那層」的工事。一位漏洞研究者把自己常遇到的問題寫成文章:LLM agent 在跑幾個小時的調查後,會開始「忘了已確認的事實」——提出早被排除的攻擊路徑、把已證偽的假設繼續當真。他對主流做法(把對話紀錄 embedding 後抓回來)不買單,因為他要的不是「agent 記得我們說過什麼」,而是「維持我們目前真的知道什麼」。於是他把 agent 的知識當成程式分析來處理:一組事實加推論規則,算固定點,當某條輸入變更、只更新受影響的結論而非整池重跑——這是靜態分析處理程式變更的老手法。同一週,Mistral 推的 Agentic Search 讓模型自己搜尋、自己翻文件再回答,宣稱少轉幾輪、省 token;開源推理引擎 vLLM v0.28.0 則把「thinking token 預算」做成引擎層內建,正式把「模型想多久」這件事當成伺服端的一級公民。
這三則其實是同一條線的三個切面。長時任務時代,真正的瓶頸不是模型智商,而是它底下的「狀態」:記憶該怎麼更新、檢索該不該讓 agent 自主決定碰哪份資料、思考時間該由誰設上限。過去這三件事都散落在各應用層各自土炮,這週它們同時被當成正式的工程問題來解決——記憶被重構成可增量更新的程式分析、檢索從「丟一疊結果」變成「自己翻文件」、思考預算從應用層參數變成引擎層功能。當 agent 要跑幾小時、跨幾十步任務,這幾個決策的品質,比模型在 benchmark 上拿幾十分更能決定你能不能信任它做長事。
該把話講清楚的地方有兩處。第一,Mistral 那些 token 省 23.9%–33.7%、延遲降 39.6% 的數字全是自家量測,基準、chunking 設定都是它訂的。第二,這條線真正的權力問題在「誰畫線」:檢索讓 agent 去找資料,但文件存取權限的驗證與放行機制是什麼?「讓工具安全地觸及你最敏感的資料」這句話裡的「安全地」與「最敏感」,官方沒有細講。記憶與檢索的哲學差異也值得記下來——「回想一段對話」跟「維護一個已知狀態」是兩套完全不同的事,前者靠機率猜哪條紀錄還有效,後者把事實當權威來源。作者自己都坦承這只是探索、不是銀彈;但「agent 的狀態由誰定義、誰更新」這個問題,已經從研究後台浮到產品層面。
4. Qwen3.8-Flash-Next:把 Qwen4 的架構先交出來
開源陣營這週不是發一顆模型,是交了一份「過渡架構」。Qwen3.8-Flash-Next 是 125B 參數、每 token 只激活 6B 的多模態 MoE,但它真正的身分是 Qwen4 架構的早期預覽——就像當年 Qwen3-Next 預告 Qwen3.5 一樣,官方把 GDN+QSA 混合注意力、Gated Residual、N-gram Embedding、Muon 優化器等新設計先公開,讓社群在 Qwen4 全面蓋上去之前獨立檢查。它的關鍵數字是成本:官方宣稱訓練成本只要 Qwen3.7-Plus 的大約九分之一,coding 與 office 任務表現還更好。權重已在 Hugging Face 與 ModelScope 上線;原生支援 262,144 token 上下文,可延展到 100 萬(YaRN),但那個 100 萬預設與官方內建工具是雲端版 Qwen3.8-Flash 才有的待遇,定價每百萬 input 0.16 美元、output 0.47 美元。
產業意義在「先把架構攤開」這個姿態。閉源 lab 發布黑箱、只給你 API;Qwen 選擇先把繼承人架構的內部運作細節公之於眾,讓 open source 社群可以提前評測、找問題、甚至提前幫它把預設值磨好。這跟西方主流「發布時才公開」的節奏剛好相反——開源成本戰的下一步不是比誰的模型分數高,而是比誰先把架構開放得夠早、讓生態先長在你身上。九分之一的訓練成本,配上激活 6B 的中型體量,再一次把「自我託管成本曲線」往下壓。
但請把自家字幕開著。這份表現表底下的備註寫得很清楚:多顆模型是用 Claude Code 與 mini-SWE-agent 兩套 harness 跑、temp 設定、上下文 256K,DeepSWE 1.1 那個 58.7 甚至沒有閉源對照組;所有 benchmark 都是 Qwen 自家量測,無第三方全面復現。拿它號稱逼近、甚至超越某些旗艦的結果,跟 DeepSeek 那套「官方宣稱」放在一起看,結論同樣是「待獨立驗證」。開放權重在這個階段最大的誠意不是分數,是那把尺——至少社群可以自己把它搬回家、親手驗證它到底是不是一代划算的架構。分數讓行銷去喊,權重交給你自己跑。
5. Anthropic Economic Index 擴張:一座自建的勞動市場觀測站
Anthropic 這週把它的經濟觀測計畫往歐洲擴:Economic Futures Programme 開進英國與歐洲、成立 Economic Futures 研究基金、推出 Economic Index 的 connector,把原本「報告式」的勞動市場分析接上即時資料。整個計畫的原理,是用 Clio 分析百萬級匿名的 Claude 對話、把每一段對話對應到美國勞工部的 O*NET 任務分類,來畫出「AI 到底怎麼被用在現代經濟裡」。前一份報告的結論:使用集中在軟體開發與技術寫作,超過三分之一職業在至少四分之一任務裡用到 AI;使用傾向「增強」(57%) 多於「自動化」(43%);中高薪的電腦程式設計師、資料科學家最愛用,最低薪與最高薪職位反而用得最少。
它的產業意義在於,Anthropic 開始用自家平台的使用行為,充當「勞動市場觀測站」甚至政策研究來源。這跟「OpenAI 開設經濟研究部門」在資料遊戲上是同一招:當 AI 愈來愈滲透工作,誰握有「實際上誰在用 AI、怎麼用」的原始資料,誰就掌握了定義「AI 對就業的影響」這件事的話語權。Anthropic 不只出報告,還開放部分資料集、邀請經濟學家與政策專家輸入——把「觀測站」的合法性,擴大成一個由它主導的研究生態。
酸一下:這個「資料庫」的地面真相,是 Anthropic 自己產品的使用者行為。用 Claude.ai 的百萬段對話推斷「現代經濟的全貌」,等同用一家餐廳的菜單去推測整條街的人的飲食;它反映的是「誰在用這家服務」,而非「全社會怎麼用 AI」。Clio 本身的不可見性、匿名化怎麼做、職業分類的邊界誰定義,都是要放大的限制條件,不是可以縮小的細節。觀測站的玻璃,永遠只看得見從自家窗戶望出去的那片風景——而這片風景,正是它想讓政策制定者以為的「全貌」。
其他值得關注
- ChatGPT for Teachers 擴到 55 個學區:OpenAI 的家長管控版教師方案再往外推,跟 Anthropic 的 Claude for Teachers 同週對撞,教育市場正式成為兩大 lab 的正面戰場。
- Anthropic AI for Science Program:官方把加速「科學發現」包成正式計畫,但具體落地機制、評測標準官方沒有細講。
- Terminal-Bench-Science:新版科學工作流程基準,把「agent 能不能跑完整個科研流程」變成可量測的標準,比單題正確率更接近真實場域。
- Anthropic 簽署白宮 AI 教育承諾:跟教育產品線同時進行,把「對下一代負責」從口號變成白宮名義的承諾書。
- Microsoft Agent Lightning v1.0:微軟把 agent 框架標到 1.0,開源 agent 框架的正式化再往後推一格。
- Trail of Bits:VMs 關不住具有網路能力的 agent:資安老店斷言虛擬機器隔離擋不住會用網路的 agent,跟你講 sandbox 的保證背道而馳。
- LLMs 能靠攻擊推理引擎控制主機:從推理伺服層下手接管宿主機的攻擊面分析,跟 vLLM 思考預算那條線是同一碼事的暗面。
- GPT‑5.6 in Kiro 的價效比推進:OpenAI 用「更低價、更高效」的包裝推 GPT-5.6,官方宣稱 82% 成本降幅仍是自家測量、外部未復現。
隱藏敘事線
這週的大新聞沒有一條在跑分榜上,卻全部指向同一件事:AI 戰爭正在從「誰的模型更強」移向「誰掌握模型底下的地基,跟模型外面的規則」。OpenAI 忙著把算力收進自家晶片、Anthropic 在法庭上證明國家不能拿國安當橡皮圖章、Qwen 把整套架構提早攤開、Economic Index 想把勞動市場的測量權握進手裡——算力、法律、資料,三個系統同時在「自給自足」。模型分數戰爭仍然存在,但它們愈來愈像門面;真正決定產業形狀的,是晶片誰造、agent 的狀態誰定義、經濟的觀測誰主導、以及國家跟公司之間的邊界由誰畫。上週發布的 Opus 5/Sonnet 5 還在貨架上,但這週值得你記住的,不是貨架上有什麼,是地基底下在埋什麼。
城武的未解檔案——OpenAI 在造自己的晶片,Anthropic 在法庭上捍衛自己的邊線,Qwen 把整套架構交給你驗。當算力、法律、資料都開始各自為政,所謂的「對齊」,恐怕很快就不是模型跟你之間的事,而是權力之間的事。