AI 壓縮對話記憶時，弄丟的偏偏是「什麼時候」——加一句提示，時間保留率從 3% 跳到 62%

你有沒有遇過這種人：他記得你們聊過什麼、記得誰說了什麼、記得事情的來龍去脈——就是講不出來那是哪一天。

這篇論文發現，AI 壓縮記憶之後，會變成那種人。

先講清楚問題

長時間運作的 AI 代理會遇到一個現實問題：對話越積越長，全部塞進上下文太貴。主流做法是把比較舊的對話壓成摘要（論文稱為 gist-based compression，要旨式壓縮）。

大家都這樣做，但論文指出一件事：壓縮對不同類型的記憶提取有什麼影響，其實沒被好好研究過。

他們的做法

這篇論文（arXiv:2608.11775，2026 年 8 月 12 日投稿）用一套叫 SWC（Salience-Weighted Consolidation，顯著度加權整合）的框架當作診斷探針。它的靈感來自睡眠時的記憶整合——這也是論文標題「沉睡的代理」的由來。

SWC 的做法是：把對話歷史依重要性評分、分成優先層級，然後只對中等優先的內容做要旨抽象化。

測試規模：LoCoMo 的全部十段對話，共 1,935 題配對的純文字問題，主要統計採用其中 1,501 題（排除第 5 類對抗性問題），temperature 設為 0。

結果：壓縮不是全面變差，是「挑著壞」

論文發現一個一致的任務類型交互作用：

• 多跳推理題　壓縮明顯優於直接截斷
• 單跳事實題　壓縮也明顯優於截斷
• 時間類問題　壓縮後明顯變差，且顯著低於完整上下文的參考水準

換句話說，如果你只看整體平均分，會覺得壓縮還不錯。但那個平均藏了一個特定的破洞。

破洞在哪：機制被找出來了

這是我覺得這篇最漂亮的地方——它沒有停在「時間題比較差」，而是指出了確切原因：

要旨抽象化的提示，保留了關係與事件結構，卻把日期和時間丟掉了。

修法：改一句話

研究者做了一個保留率分析，涵蓋全部十段對話，驗證了上述機制：

• 時間表述保留率：3.05% → 62.39%（約 20 倍）
• 具名實體保留率：幾乎不變（×1.02）
• 事件保留率：幾乎不變（×1.11）

而達成這個變化的，是一句話的提示修改。論文用了一個很好的形容：這個修正是一把精密器械（precision instrument）——它只動了該動的部分，其他都沒被波及。

在配對集合上，時間類問題（第 2 類）的判定準確率回升 +0.314（95% 區間 [0.254, 0.375]）。

對實務的意義

一、如果你的 AI 產品會被問「什麼時候」，先去測這一項。客服紀錄、專案助理、醫療問診、法務對話——這些場景裡「上次是哪時候發生的」往往是關鍵問題，而它正好是壓縮最容易弄丟的。

二、整體準確率會騙人。這篇最實用的方法論教訓是：要分題型來看。整體分數持平的系統，可能在某一類問題上已經壞掉了。這與我們在企業 RAG 評估指標一文中的主張相同。

三、很多壓縮問題可能只是提示沒寫好。在換掉整套記憶架構之前，先檢查你的摘要提示有沒有明確要求保留時間資訊。這是本篇成本效益最高的一個發現：一句話換 20 倍。可以對照上下文工程與代理記憶修復兩篇一起看。

需要保留的懷疑

這是 arXiv 預印本，在本文寫作時尚無同儕審查紀錄，且為單一作者研究。

• 全部結果建立在 LoCoMo 這一個資料集的十段對話上。十段是很小的樣本，換一種對話型態未必複製得出來。
• 評估排除了第 5 類對抗性問題（1,935 題中取 1,501 題）。這個排除是合理的，但也意味著結論不涵蓋對抗情境。
• 摘要未說明使用哪個模型，也未交代提示修改在不同模型上是否同樣有效。
• 時間保留率拉到 62.39% 仍遠非完整。這是大幅改善，但不是問題解決。
• 論文附有程式碼與結果（GitHub），這點值得肯定——可驗證性比單純的數字更重要。

常見問題

AI 把舊對話壓縮成摘要，會失去什麼？

這篇論文找出的答案很具體：要旨式壓縮會保留人物、關係與事件結構，卻把日期和時間丟掉。因此壓縮後在多跳推理與單跳事實問題上表現優於直接截斷，但在時間類問題上明顯變差，且顯著低於完整上下文的水準。

這個問題要怎麼修？

論文的修法是在要旨抽象化的提示裡加一句話，明確要求保留時間資訊。效果是時間表述保留率從 3.05% 提升到 62.39%（約 20 倍），而具名實體與事件的保留率幾乎不變（×1.02 與 ×1.11），時間類問題的判定準確率回升 +0.314。不過 62.39% 仍非完整，屬於大幅改善而非徹底解決。

為什麼不能只看整體準確率？

因為平均值會蓋掉特定題型的破洞。這篇的整體表現看起來還不錯，但拆開來看，時間類問題其實已經明顯失準。實務上如果產品會被問「上次是什麼時候」這類問題——客服紀錄、專案助理、醫療問診、法務對話都是——就必須單獨測這一類，而不是看總分。