TS-RAG: 為時間序列預測引入檢索增強生成

時間序列預測是深度學習裡一個老牌卻一直很活躍的方向。從 LSTM 到 Transformer，各種架構輪番上場。但有一個在大語言模型領域已經非常成熟的技術——檢索增強生成（RAG），卻很少被搬到時序預測這個賽道上。最近 arXiv 上出現了一篇論文《TS-RAG: Retrieval Augmented Generation for Time Series Forecasting》，專門討論這件事。

論文的作者是 Yixiong Xiao、Congxi Xiao 和 Jingbo Zhou。他們提出了一個名叫 TS-RAG 的框架，核心思路很直接：既然 RAG 能通過引入外部相關資訊幫大模型提升能力，那在預測時間序列時，檢索幾條相似的歷史序列作為參考，是不是也能提高準確率？

為什麼時序模型不能照搬 LLM 的做法

想法聽起來簡單，落地卻沒那麼容易。論文指出，大多數時間序列模型的處境和 LLM 完全不同：訓練資料規模有限，引數數量小，也缺乏大模型那種生成能力。因此，如果像處理文字 prompt 那樣，把檢索到的參考序列直接拼進輸入序列裡，效果很可能不理想。

這也是過去 RAG 在時序預測領域進展有限的原因之一。時序資料沒有自然的「語義」分段，簡單拼接會破壞序列本身的連續性，模型也未必消化得了。

TS-RAG 的做法：引入參考 token 融合資訊

TS-RAG 的解決方式是設計一套專門的參考 token，用來把輸入序列的資訊和檢索到的相似序列的資訊融合在一起。這樣模型既能利用外部參考，又不至於被生硬拼接的資料干擾。論文稱，這種方法能夠更穩健地捕捉複雜的時間動態。

聽起來有點抽象，但核心思想可以概括為：

• 檢索與當前輸入相似的歷史序列，為預測提供「先例」；
• 用參考 token 作為橋樑，讓模型自己學會如何利用這些檢索結果；
• 在多個真實世界預測基準上取得了一致的最優結果。

雖然論文沒有放出所有實現細節，但「參考 token」這種設計顯然是衝著「融合」而非「拼接」去的，這一點和很多 RAG 變體的思路一脈相承。

對時間序列預測來說意味著什麼

這項研究更大的意義在於，它給時序預測提供了一條新的增強路徑。當原始訓練資料不夠、模型本身又不大的時候，從外部檢索相似模式來補足，可能比一味加大模型更現實。

對工業界做預測的團隊來說，如果這套方法真能在自己的資料上覆現，那意味著可以拿歷史案例庫來增強現有模型，而不是推翻重訓。當然，這一切還要看後續有沒有開原始碼和更詳細的實驗驗證。

目前 TS-RAG 還只是 arXiv 預印本，屬於「新思路」的階段。但考慮到 RAG 在 NLP 領域已經證明了自己的價值，它在時間序列上的嘗試，值得關注。