基于注意力机制的LSTM长江汛期水位预测方法研究

摘要

为提高长短期记忆网络(Long Short-Term Memory,LSTM)在水位预测任务中的准确性,以及提高LSTM对数据中时空信息的利用率,本文提出了一种基于Softmax函数的注意力模块,并将其应用在LSTM的输入前,使模型可以根据输入数据中的时间和空间信息,自主地生成带有权重的词义向量,并赋予输入序列时间和空间注意力权重值.注意力机制增强了LSTM模型对时间序列的处理能力,同时使LSTM模型能够对数据空间信息具备一定的应对能力.最后在长江汛期的水位数据上进行预测试验,以E_(MAE)、E_(RMSE)、E_(MAPE)和R^(2)作为评价指标,将所提出的模型与原始LSTM模型进对比,同时分析了权重分布情况.结果表明,该模型对水位预测的精度有明显提升,应用了时空注意力机制的LSTM(AT-LSTM)相比于原始LSTM,E_(MAE)、E_(RMSE)和E_(MAPE)分别降低了21.77%、31.15%和17.4%,R^(2)提高了9.69%.