时间序列预测是深度学习里一个老牌却一直很活跃的方向。从 LSTM 到 Transformer,各种架构轮番上场。但有一个在大语言模型领域已经非常成熟的技术——检索增强生成(RAG),却很少被搬到时序预测这个赛道上。最近 arXiv 上出现了一篇论文《TS-RAG: Retrieval Augmented Generation for Time Series Forecasting》,专门讨论这件事。
论文的作者是 Yixiong Xiao、Congxi Xiao 和 Jingbo Zhou。他们提出了一个名叫 TS-RAG 的框架,核心思路很直接:既然 RAG 能通过引入外部相关信息帮大模型提升能力,那在预测时间序列时,检索几条相似的历史序列作为参考,是不是也能提高准确率?
为什么时序模型不能照搬 LLM 的做法
想法听起来简单,落地却没那么容易。论文指出,大多数时间序列模型的处境和 LLM 完全不同:训练数据规模有限,参数数量小,也缺乏大模型那种生成能力。因此,如果像处理文本 prompt 那样,把检索到的参考序列直接拼进输入序列里,效果很可能不理想。
这也是过去 RAG 在时序预测领域进展有限的原因之一。时序数据没有自然的“语义”分段,简单拼接会破坏序列本身的连续性,模型也未必消化得了。
TS-RAG 的做法:引入参考 token 融合信息
TS-RAG 的解决方式是设计一套专门的参考 token,用来把输入序列的信息和检索到的相似序列的信息融合在一起。这样模型既能利用外部参考,又不至于被生硬拼接的数据干扰。论文称,这种方法能够更稳健地捕捉复杂的时间动态。
听起来有点抽象,但核心思想可以概括为:
- 检索与当前输入相似的历史序列,为预测提供“先例”;
- 用参考 token 作为桥梁,让模型自己学会如何利用这些检索结果;
- 在多个真实世界预测基准上取得了一致的最优结果。
虽然论文没有放出所有实现细节,但“参考 token”这种设计显然是冲着“融合”而非“拼接”去的,这一点和很多 RAG 变体的思路一脉相承。
对时间序列预测来说意味着什么
这项研究更大的意义在于,它给时序预测提供了一条新的增强路径。当原始训练数据不够、模型本身又不大的时候,从外部检索相似模式来补足,可能比一味加大模型更现实。
对工业界做预测的团队来说,如果这套方法真能在自己的数据上复现,那意味着可以拿历史案例库来增强现有模型,而不是推翻重训。当然,这一切还要看后续有没有开源代码和更详细的实验验证。
目前 TS-RAG 还只是 arXiv 预印本,属于“新思路”的阶段。但考虑到 RAG 在 NLP 领域已经证明了自己的价值,它在时间序列上的尝试,值得关注。











评论
暂无评论
成为第一个评论的人