【LLM 日報】2026 年 10 月 06 日 — 聊天機器人的邊界,從日記、署名到模型訓練重新浮現
這批新消息同時涉及聊天內容的處置、生成內容的署名,以及訓練模型所需的計算方法:Claude 使用者的對話被升級給警方,ChatGPT 生成的漫畫出現真實漫畫家的筆名,研究團隊則嘗試用不依賴 backpropagation 的方法訓練 Transformer。AI 系統的輸出如何被標記、保存、轉交與驗證,和模型本身能做什麼一樣影響使用者面對的結果。
🔥 Anthropic 將 Claude 對話中的威脅內容報警,使用者面臨重罪指控
TechSpot 報導,佛羅里達州 Bonita Springs 的 Carli Michelle Heller 在 9 月 26 日於 Claude 寫下攻擊 Lee County Sheriff’s Office 的內容。根據逮捕報告,她表示自己把 Anthropic 的聊天機器人當成「日記」使用;Claude 的安全系統標記該內容後交由人工審查,審查者判定威脅可信,並通報執法機關。
警員之後確認 Heller 身分並前往住處,她在沒有衝突的情況下被拘留。她被控違反佛羅里達州 Statute 836.10,罪名涉及以書面或電子紀錄威脅殺人、傷害、發動大規模槍擊或恐怖行動;該罪名屬二級重罪。TechSpot 引述的法條要求相關文字必須以他人可以看到的方式傳送、發布或記錄。
Anthropic 的政策允許公司在有限的緊急情況下分享使用者資料,條件是公司認為披露對防止死亡或嚴重身體傷害有必要。報導沒有列出系統判定「可信威脅」的完整標準、人工審查的程序細節,或被通報者如何取得相關紀錄與提出異議。這起案件也顯示,聊天服務的「日記」用法不等於內容只供使用者本人閱讀。
- 來源:techspot.com
ChatGPT 生成的 New Yorker 風格漫畫出現真實漫畫家署名
Nieman Journalism Lab 測試 ChatGPT 生成 New Yorker 風格漫畫時,記錄到超過 15 名 New Yorker 漫畫家的真實筆名出現在生成圖片上,包括 Brendan Loper、Emily Flake、Pat Byrnes、Liza Donnelly 與已故漫畫家 Saul Steinberg。報導中的一張病毒式傳播圖片署名為「BLOPER」,但 Brendan Loper 沒有繪製或簽署該作品;圖片是使用者要求 ChatGPT 生成「New Yorker-style cartoon」後產生的。
報導指出,Loper 從 5 月起陸續收到有人發現其筆名出現在 ChatGPT 圖片中的通知。對漫畫家而言,署名除了標示作者,也可能是作品真實性的標記。Emily Flake 表示,生成圖片的線條和構圖帶有她作品的部分特徵,而署名則是她本人確實使用的筆名。
Nieman Lab 通知 OpenAI 後,ChatGPT 開始對部分相關提示顯示可能違反第三方內容相似性的 guardrails;截至文章刊出時,測試仍有部分生成圖片出現真實漫畫家的名字。OpenAI 發言人表示這是模型的 bug 或非預期行為,公司重視社群回報;但文章記錄的測試中,防護訊息並未阻止所有署名重現。
The New Yorker 母公司 Condé Nast 已與 OpenAI 簽訂多年內容授權協議,但該刊發言人表示,Condé Nast 沒有授權 LLM 開發商使用其漫畫訓練模型,也沒有在相關 AI 合約中授權使用 The New Yorker 標誌。Cornell Law School 教授 James Grimmelmann 表示,著作權案件可能取決於模型是否重現特定漫畫,而不只是一般畫風;若涉及商業用途,漫畫家也可能主張姓名或身分遭未授權使用。報導沒有判定這些個案已構成哪一項法律責任。
Dust 嘗試不用 backpropagation 預訓練 Transformer
Q Labs Research 發表 Dust,提出以 zeroth-order optimization 訓練 Transformer 語言模型的方法。Dust 不在權重上直接計算 backpropagation 的梯度,而是在每個 token 的 activation 加入高斯雜訊,根據每次擾動造成的 loss 變化給予回饋,再以多次擾動的加權平均估計梯度。作者將這種做法與傳統在權重空間搜尋的 evolution strategies 區分開來。
研究使用 FineWeb、4096-token BPE tokenizer、每批 16K token 的 GPT-style Transformer 實驗,模型基礎設定為 8 層、寬度 512,並以三個 random seeds 比較 Dust、backpropagation 與 EGGROLL-Transformer。實驗的 token 預算介於 100K 與 20M,population 介於 64 與 16K。作者報告,在 100K 與 1M token 實驗中,Dust 在數百到約 1,000 次擾動後的 test loss 低於同預算的 backprop;在 10M 與 20M token,差距會隨 population 增加而縮小。
在 20M token 實驗中,Dust 的 power-law fit 將無限 population 的 test loss 估計為 4.431,backprop 為 4.633,但研究也明確說明 20M 的曲線在 16K draws 時仍持續下降,該估計的限制區間很寬,不能當成已測得的極限。研究另以 7.3M、38M 與 243M 參數模型比較,觀察到較大模型在部分 population 下更有效率;這些結果仍來自研究團隊的訓練設定,不代表已在大規模生產預訓練取代 backpropagation。
作者估計,從 1M token 起,Dust 相較以權重搜尋的 EGGROLL 可少用約 10³ 至 10⁴ 倍的 population;這是根據實驗曲線外推的效率比較。論文測試的最大訓練規模為 1B token 的梯度方向相似度分析,並沒有展示在現代大型語言模型參數量與完整預訓練 token 規模上的結果。
- 來源:qlabs.sh
Opus 5.5 agents 找到兩種室溫反鐵磁半導體候選材料
Vals AI 發表由 Claude Opus 5.5 agents 協助尋找的兩種 Luttinger-compensated antiferromagnetic semiconductor 候選材料。這類材料預期具有接近零的總磁矩,同時能依電子 spin 分離能級,研究團隊將其視為 spintronics 記憶體材料的候選方向。計算使用 density functional theory 的 PBE+U 與 HSE06 兩種近似,結果主要依 HSE06 報告。
第一種 YBaMnFeO₅ 是團隊設計的新化合物。計算預測其 band gap 為 2.35 eV,電洞與電子的 spin window 分別為 1.0 eV 與 1.4 eV,磁性可能維持到約 420 K;以已知磁體校正後,團隊估計溫度可達約 490 K。不過,Mn 與 Fe 必須形成規則的 checkerboard 排列,模擬顯示該排列在約 950 K 會變成隨機混合,而氧化物通常需要約 900 至 1300°C 合成,因此團隊認為取得有用晶體可能困難。
第二種 KV[Cr(CN)₆] 在 1999 年已被製成,但過去研究沒有以 Luttinger-compensated semiconductor 的角度整理它的性質。Vals AI 根據計算指出,其 band gap 約 2.1 eV,電洞與電子的 spin window 分別為 2.6 eV 與 1.6 eV;1999 年樣品的磁有序性實測維持到 376 K。現有樣品是含孔隙水的粉末,測得每 formula unit 有 0.125 Bohr magnetons 的殘餘磁矩;兩種計算方法對水分如何影響 spin sorting 也沒有得出相同結果,band gap 與 spin sorting 尚未直接量測。
這些數字是完美晶體的計算預測與既有樣品資料的組合,不是已完成的元件測試。研究團隊公開了計算輸入、原始輸出、分析程式、獨立重跑工具與限制清單,下一步是重新製備 KV[Cr(CN)₆] 並直接測量其 spin sorting。
- 來源:vals.ai