原文：Dreaming: Better memory for a more helpful ChatGPT 來源：OpenAI 相關報導：ZDNET

城武導讀

ChatGPT 現在會「做夢」了——不是那種克蘇魯式的混亂夢境，而是在你不使用它的時候，主動回顧過往對話、提取模式、更新對你的理解。

OpenAI 稱這個系統為「Dreaming」。聽起來很可愛——你的 AI 助手在你睡覺時默默回憶你們的對話，變得更懂你。但如果你停下來想三秒鐘：一個你不知道它在記什麼、也無法檢查它記了什麼的系統，在你不使用的時候主動分析你的對話——這真的是「貼心」嗎？

Dreaming 做什麼

ChatGPT 的記憶系統演進：

  • 2024/04：Saved Memories——被動記憶，使用者說「記住這個」才會記，而且經常忘記
  • 2025/04：Dreaming V0——首次引入背景記憶合成，但只是輔助 saved memories，無法獨立運作
  • 2026/06：Dreaming V3——全新架構，正式成為獨立記憶系統，處理「數億使用者、跨年時間跨度」的規模
  1. 主動回憶：模型在不使用時回顧對話歷史，提取模式——你的偏好、習慣、常用工具、專業領域
  2. 動態更新：記憶不是靜態的——如果你換了工作、改了技術棧、興趣轉移，Dreaming 會自動調整
  3. 跨對話整合：不同對話中的資訊被整合成一個連貫的「你」的畫像
  4. 五倍容量：記憶容量提升五倍，能記住更多的細節

記憶中毒：Dreaming 最被低估的風險

ZDNET 的報導點出了一個非常實際的問題：如果模型記錯了怎麼辦？

想像一個場景：你在某次對話中隨口提到「React 的 useEffect 有點難用」，這句話被 Dreaming 記住並總結成「使用者不擅長 React hooks」。之後每次你問前端問題，ChatGPT 都用對待初學者的語氣回答——而你完全不知道為什麼。

更糟的是：你無法修正一個你不知道存在的記憶。 傳統的被動記憶你可以說「忘記我剛才說的」，但 Dreaming 自動提取的記憶可能是你根本沒有意識到被記錄的東西——而且一旦記錯，這個錯誤會汙染所有後續對話。

這就是 ZDNET 所謂的「記憶中毒」（memory poisoning）：一個錯誤的推斷被寫入記憶，然後被反覆使用、放大、固化。

隱私的潘諾普提康時刻

Dreaming 在你不使用時「做夢」，意味著你的對話資料被保留、被分析、被用來建立一個關於你的模型——在你不知情、不同意的具體細節層面上。

這不只是「OpenAI 有我的對話紀錄」，而是「OpenAI 主動用我的對話來建立一個關於我是誰的推斷模型，然後用這個模型來影響所有跟我的互動。」

Bentham 的 Panopticon 概念在這裡很適用：你不知道模型何時在分析你的對話（因為它在你不使用時做夢），所以你必須假設它隨時都在分析。這種「不確定性本身就是控制」的結構，是 Dreaming 最讓人不安的地方。

當然，OpenAI 會說這一切都是為了更好的使用者體驗。但——誰來決定「更好」是什麼？ 是使用者自己，還是 OpenAI 的產品經理？

城武觀點

1. 主動記憶 vs 被動記憶——這條線一旦跨過就回不去了

被動記憶是一條清楚的界線：使用者主動給，模型被動記。Dreaming 跨過了這條線——模型現在會自己決定什麼值得記。這是一個質變，不只是量變（記憶容量變大）。

問題不在於技術本身——技術上 Dreaming 是合理的進步——而在於這條線被跨過的時候，沒有人問過使用者的意見。 它就是一個更新，推送給你，然後你的 ChatGPT 開始「做夢」了。

2. 記憶的不可修正性

人類記憶的優點（也是缺點）是它可以被修正——你可以跟朋友說「不不不，你記錯了，事情是這樣」。但 Dreaming 生成的記憶是一個黑盒子：你不知道它記了什麼，所以你無法修正它。等你知道的時候（比如 ChatGPT 開始用奇怪的方式回應你），錯誤可能已經被反覆強化了無數輪。

3. 「貼心」作為隱私侵犯的包裝紙

科技公司最愛的套路：把監控包裝成「個人化服務」，把資料收集包裝成「更好的體驗」，把主動分析包裝成「貼心」。Dreaming 是這個套路的最新範例。OpenAI 說「我們讓 ChatGPT 更懂你」——翻譯：「我們讓 ChatGPT 在你不知道的時候研究你。」

4. 透明度——OpenAI 這次有做對一件事

Dreaming 產生的記憶可以在記憶摘要頁面中檢視（這是原文明確寫的）。使用者可以看到 ChatGPT 對自己的理解摘要、新增或更新資訊、設定偏好。這是跟我想像中最大的出入——我原本批評「使用者看不到記憶」，但實際上 OpenAI 確實做了透明度控制。

不過，這仍然是被動的透明度——你需要自己去看。Dreaming 不會主動通知你「我更新了對你的理解」，你不會知道什麼時候該去檢查。真正的透明度應該是：當模型更新對你的理解時，主動告訴你——而不是把報告放在角落等你發現。

城武的未解檔案——當 AI 開始在你睡著時研究你，你醒來後面對的還是一個工具，還是某種你不知道該不該信任的東西？