今天的 LLM 新聞不多，但三條各自指向了同一個問題的不同側面：當 AI 模型越來越強，你要付多少代價才能「自己掌握」——無論是自建機房、找漏洞、還是理解模型內部發生了什麼。

🔥 從 $2k 到 $40k：Jamesob 的本地 SOTA LLM 自建指南

開發者 Jamesob 在 GitHub 上公開了一份詳盡的本地 LLM 自建指南——從硬體採購、PCIe 交換器設定、到 Docker 模型服務，全部開源。核心命題很簡單：如果你不想把資料和運算交給 Dario 或 Altman，這裡是你自己來的路線圖。

預算分兩級。入門級約 $2,000 美金：兩張 RTX 3090 湊 48GB VRAM，可以跑 Qwen3.6-27B，加上 Whisper-large-v3 做本地語音辨識。進階級約 $40,000 美金：四張 RTX 6000 Pro 湊 384GB VRAM，可以跑到「接近 Claude Opus」的品質。

最有趣得部分不是硬體規格，而是他的 PCIe 架構選擇。Jamesob 沒有買最新的 PCIe 5 / DDR5 平台——他用的是 eBay 上撿的上一代 EPYC 系統，搭配 c-payne.com 的 PCIe Gen4 交換器，讓四張 GPU 之間直接以線速通訊，繞過 PCI root complex。他的邏輯是：錢要砸在 VRAM 上，不是砸在主機板上。為此他還自己用木頭做了一個 GPU 機殼來容納 PCIe 交換器。

軟體層面，他用 Docker 容器隔離每個模型，透過內網 DNS 讓遠端 VM 上的 opencode agent 連進來推論。agent 有自己的 Gitea 實例、Telegram bot、搜尋工具，跑在沙箱 VM 裡——「它可以隨便裝東西，搞不壞我的主機」。

整份 README 附了完整的 BOM 表、BIOS 設定細節、和每個模型的 docker-compose.yml。作者特別標注：「除了表格，這份 README 沒有一個字是 AI 寫的。」

Mythos 發布後，高嚴重性漏洞揭露量暴增 3.5 倍

Epoch AI 的數據分析顯示，2026 年 6 月全球揭露的高嚴重性和關鍵級 CVE 數量約 1,500 個——是 Mythos 發布前月紀錄的 3.5 倍以上。時間線：Anthropic 在 4 月宣布 Claude Mythos Preview 具備自主漏洞發現能力，Project Glasswing 合作夥伴（微軟、Google、Apple、AWS）已在使用中；6 月漏洞揭露數就衝上了歷史新高。

Project Glasswing 自己宣稱已經找到超過 10,000 個高或關鍵級漏洞——其中很多還沒有個別公開披露。OpenAI 的 Daybreak 產品也做了類似的事。

Epoch AI 的分析沒有宣稱因果關係——CVE 揭露日期不等於漏洞發現日期。但時間上的重疊值得追問：如果 Mythos 確實讓漏洞發現加速了，那揭露的速度跟上了嗎？還是說 Glasswing 合作夥伴在用 Mythos 找到漏洞之後，選擇的是私下修補而非公開揭露？如果是後者，那「3.5 倍」這個數字反映的，可能不是漏洞變多了，而是終於有人開始公開那些早就被找到的東西了。

為什麼小模型輸大模型？可能不是參數量的問題，是 embedding 在塌縮

一篇 ICML 2026 的論文提出了一個有趣的幾何觀察：小型語言模型的 token embedding 向量，在經過 Transformer 層層處理之後，會塌縮進一個狹窄的錐形空間——也就是所有 token 的最終表示都指向差不多同一個方向。作者把這個現象稱為「embedding condensation」（嵌入凝縮），並發現模型越小，塌縮越嚴重。

更具體地說：同一個模型家族內，小模型的 embedding 之間的 pairwise cosine similarity 明顯高於大模型。這個現象在模型初始化時就出現，預訓練會緩解但不會消除。而且從大模型做知識蒸餾也無法把「抗塌縮能力」傳給小模型——蒸餾只傳知識，不傳幾何結構。

為了解決這個問題，作者設計了一個「dispersion loss」（分散損失），在訓練時強制拉開 embedding 向量之間的角度。效果呢？作者自己說得很保守：「增益不大，不用正式統計檢定很難跟雜訊區分。」預訓練實驗也很薄，因為大規模跑太貴。作者建議有興趣的團隊「先用小規模跑自己的 playbook，確認有效再投入大筆訓練預算」。

這篇論文最值得稱讚的不是結果，而是誠實度。作者在免責聲明裡直接寫：「我們不是好的統計學家」「mid-training 的配方不太標準」「dispersion loss 這部分當作探索性工作就好」——在一個到處都是宣稱「state-of-the-art」的領域裡，這種坦白比任何 benchmark 數字都稀有。