基于LLM和Transformer的时间序列预测
本课题聚焦基于时间序列预测方法研究,并探索其在交通、电力、天气等领域的下游应用。随着深度学习技术的不断发展,尤其是大语言模型(LLM)在自然语言处理中的突破,Transformer架构也因其强大的序列建模能力而被广泛应用于时间序列数据分析。
传统的时间序列预测方法通常依赖于统计学模型或传统的机器学习方法,但这些方法在处理高维度、长时间跨度的复杂数据时往往效果有限。LLM与Transformer通过自注意力机制能够捕捉长时序依赖,尤其适用于时间序列预测中的复杂模式识别和多变量处理,此外还产生了多尺度预测模型、多专家混合模型、跨变量交互模型等多种预测范式。
本课题将围绕如何基于改进的最新的时间序列预测范式优化模型,如多尺度预测模型、多专家混合模型、跨变量交互模型,基于LLM的预测模型等,具体探讨其在以下应用场景中的潜力
