基于状态相依模型的非线性时间序列建模及其优化方法研究

摘要

时间序列是探索现实世界运动规律的重要工具。工程技术、经济、自然科学和社会科学领域存在着大量的时间序列数据需要我们进行处理和分析。时间序列分析的一个重要问题是时间序列模型的建立。早期的线性时间序列模型常常不足以刻画复杂的实际系统,近几十年,一系列的非线性时间序列模型被陆续提出以满足更高的要求。然而,非线性模型带来的一个非常棘手的问题是其模型参数的估计。非线性时间序列的建模及其模型的优化方法已成为一个活跃而且重要研究课题。
　　 本文主要研究两类非线性时间序列的建模、预测及其模型的优化问题。一类是工业过程系统、生态系统等时间序列,其动态特性随“系统状态变量(或工作点状态)”的变化而逐渐变化。用神经网络和状态相依模型相融合的模型来描述这类时间序列,并结合基于梯度的方法和进化算法的混合优化方法来优化模型。另一类是具有强随机特性的金融时间序列,用随机波动的离散微结构模型来建模此类时间序列。此模型的状态空间形式也是状态相依模型,用进化算法来估计此模型。论文的主要研究工作及创新成果如下:
　　 (1)用一组RBF网络来逼近状态相依自回归(State-dependentautoregressive,SD-AR)模型中的函数系数可以得到RBF-AR模型。本文研究了RBF-AR模型在非线性时间序列中的建模与预测问题,分析了其稳定性条件。一种结构化非线性参数优化方法被用来辨识此模型。用RBF-AR模型预测了几组著名的时间序列,与其它一些最新提出模型的比较研究表明,采用结构化非线性参数优化方法的RBF-AR模型在预测精度上要大大优于其它一些新近提出的模型。
　　 (2)RBF-ARX模型已成功应用于非线性工业过程的建模与优化控制中。在以往的研究和应用中,用来逼近状态相依ARX模型中的函数系数所用的RBF网络全是高斯核的。本文研究了包括高斯核在内的六种基函数对RBF-ARX模型的影响。数值实验结果表明最优基函数的选择是依赖于实际问题的。因此,在实际的应用中测试和比较不同的基函数可以得到更优的结果,从而可以获得最优结构的RBF-ARX模型。
　　 (3)为进一步减少RBF-AR模型网络隐含层所需的节点数目,本文提出用带回归权重的RBF网络来逼近状态相依AR模型的函数系数,得到了一种新的变系数自回归模型(RBFRW-AR)模型。RBFRW-AR模型结合了带回归权重RBF网络函数逼近的能力和状态相依AR模型描述非线性的优势。从对各种时间序列的建模和预测结果来看,RBFRW-AR模型的预测性能要高于RBF-AR模型,也大大优于其它一些模型。RBFRW-AR模型另一个优点就是在达到相似预测精度情况下,它所需的网络隐含层的结点数目要远小于其它模型。
　　 (4)结构化的非线性参数优化方法(SNPOM)是针对RBF型模型的一种优异的基于梯度的优化算法。然而,基于梯度的搜索方法很容易陷入局部最优解。结合随机搜索方法和基于梯度的方法的混合算法可以大大增强得到全局最优解的可能,会得到比单独使用两者更好的结果。因此,针对参数空间可分为线性参数和非线性参数的RBF型模型,本文提出了几种混合的参数优化算法。对于RBF网络的参数优化,基于一种进化模型和SNPOM方法,提出了两种混合的优化算法来估计RBF网络中的参数。对于需要同时优化RBF网络的输入变量、结点和参数的情况,提出了结合遗传算法和SNPOM的混合方法。结果表明混合算法可以提高模型的性能,得到非常“紧凑”的模型,且预测精度大大优于其它算法。RBF-AR(X)和RBFRW-AR模型也属于一类RBF型模型,其模型特点为线性参数大大多于非线性参数。提出的EA-SNPOM来估计此类模型可提高它们的建模和预测精度。
　　 (5)约束优化问题广泛存在于科学和工程应用领域,用进化算法来处理这类问题已显出很强大的能力。本文提出了一种结合多目标优化和自适应惩罚函数法的约束处理技术,其主要思想是在多目标优化中引入搜索偏好。把这种约束处理技术和一个基于群的算法生成器模型相结合,得到了一种新的约束优化进化算法。对13标准测试函数的数值实验表明新算法是一种易于实现、通用性强和高稳健性的方法,它可用于处理各种约束优化问题。进一步,提出的约束优化进化算法被用来估计RBF-AR模型,以得到稳定同时又有较好预测性能的RBF-AR模型。此算法也被用于金融市场微结构模型的估计和资产分配方案的优化中。
　　 (6)金融市场一般都表现出强随机、非线性、跳跃等特性,直接对资产价格的建模和预测方法很难取得令人满意的效果。本文基于一种离散时间微结构模型研究金融市场背后隐含的两个变量:过剩需求和流动性。基于卡尔曼滤波和极大似然法,提出用进化算法来估计这种市场微结构模型,以得到其最优的结构和市场背后隐含的过剩需求和市场流动性过程。与传统方法不同,我们把过剩需求作为市场被高估或低估的决定因素,并用估计的过剩需求信息而非预测价格来指导资产分配。资产分配策略的门限参数用约束优化进化算法来估计。对中国金融市场中香港和深圳股市中的长江实业和深证综指两支时间序列作了实证分析,结果证实了建模和优化的有效性。

目录

文摘

英文文摘

声明

第一章 绪论

1.1 前言

1.2 时间序列模型的发展及国内外研究现状

1.2.1 线性时间序列模型

1.2.2 非线性时间序列模型

1.2.3 神经网络及其混合模型

1.2.4 金融市场波动率模型

1.3 模型的估计方法及国内外研究现状

1.3.1 传统基于梯度的优化方法

1.3.2 计算智能中的进化算法

1.3.3 混合优化方法

1.3.4 模型的定阶

1.4 本文的研究内容和结构安排

第二章 基于RBF-AR模型的非线性时间序列预测

2.1 概述

2.2 问题的描述

2.3 RBF-AR模型

2.4 RBF-AR模型的稳定性分析

2.5 RBF-AR模型估计方法

2.5.1 参数分类

2.5.2 初始化

2.5.3 优化

2.6 数值实验及分析

2.6.1 预测加拿大山猫时间序列

2.6.2 预测太阳黑子时间序列

2.6.3 预测Mackey-Glass混沌时间序列

2.6.4 预测Lorenz吸引子混沌时间序列

2.7 本章小结

第三章 不同基函数对RBF-ARX模型的影响研究

3.1 概述

3.2 RBF-ARX模型

3.3 基函数

3.4 比较实验

3.4.1 Mackey-Glass时间序列

3.4.2 Lorenz吸引子时间序列

3.4.3 Box-Jenkins煤气炉时间序列

3.5 本章小结

第四章 基于带回归权重RBF网络的状态相依AR模型

4.1 概述

4.2 RBFRW-AR模型

4.3 RBFRW-AR模型的稳定性

4.4 RBFRW-AR模型的估计

4.4.1 参数分类

4.4.2 初始化

4.4.3 优化

4.5 应用

4.5.1 指数自回归和平滑转移自回归过程

4.5.2 扭曲长记忆自回归时间序列

4.5.3 Mackey-Glass混沌时间序列

4.5.4 Lorenz吸引子时间序列

4.5.5 EEG时间序列

4.6 本章小结

第五章 RBF型模型的全局-局部混合优化方法

5.1 RBF神经网络参数估计的两种混合优化算法

5.1.1 RBF神经网络结构

5.1.2 第一种混合优化算法

5.1.3 第二种混合优化算法

5.1.4 中心数目的确定

5.1.5 数值实验及分析

5.2 进化优化RBF网络结构和参数

5.2.1 编码策略

5.2.2 进化优化RBF神经网络

5.2.3 预测Box-Jenkins煤气炉数据

5.2.4 预测Mackey-Glass时间序列

5.3 RBF-AR(X)模型的全局-局部混合优化方法

5.3.1 全局-局部混合优化方法

5.3.2 预测Mackey-Glass混沌时间序列

5.3.3 建模三容水箱系统

5.4 本章小结

第六章 多目标优化与自适应惩罚的混合约束优化进化算法

6.1 概述

6.2 约束优化问题及其相关定义

6.3 相关工作

6.4 提出方法的描述

6.4.1 一种自适应的决策者(ADM)

6.4.2 一种基于群的算法发生器模型

6.4.3 交叉算子

6.4.4 算法框架

6.5 数值实验及分析

6.5.1 测试函数和实验条件

6.5.2 提出方法的结果

6.5.3 与其它算法结果比较

6.5.4 自适应决策者的有效性分析

6.5.5 等式约束转换容忍值的影响

6.5.5 参数λ对算法的影响

6.6 约束进化算法优化RBF-AR模型

6.7 本章小结

第七章 基于金融市场微结构模型和进化算法的最优动态资产分配

7.1 概述

7.2 模型

7.2.1 Bouchaud-Cont模型

7.2.2 连续时间微结构模型

7.2.3 离散时间微结构模型

7.3 模型参数的估计

7.3.1 Kalman滤波和对数似然函数

7.3.2 基于一种进化模型的参数优化

7.3.3 仿真实验

7.3.4 深证综合指数时间序列建模

7.3.5 长江实业时间序列建模

7.4 动态资产分配控制

7.4.1 动态资产分配策略

7.4.2 门限参数的优化

7.4.3 深证综合指数时间序列资产分配控制

7.4.4 长江实业时间序列资产分配控制

7.5 本章小结

第八章 结论与展望

8.1 结论

8.2 展望

参考文献

附录1

攻读学位期间主要的研究成果