一种新的特征选择方法及其在路面使用性能分析中的应用

摘要

在高速公路管理信息系统中存有丰富的普查检测数据，这些普查数据可用于路面使用性能的综合评价，也可用于预测路面使用性能。实质上，这是对普查数据进行回归分析，这种回归分析需要满足以下要求：1、首先为保证评价和预测的精度，模型要具有非线性；2、受数据资料的制约，模型能够适用于处理小样本数据集：3、能够避免数据中噪音的影响；4、回归模型可以表达成简单易理解的显式，便于进行成因分析。这样的回归模型可以为公路养护的科学决策提供依据。
　　 用现有的回归方法在对上述的回归问题进行分析时，往往效果不好。比如支持向量回归机，在用规模很小的样本数据集进行训练时，得到的回归函数精度低，阶数失真。并且回归函数过于复杂，不能很好的体现输入与输出之间关系。如用神经网络回归，会产生过学习问题，不能得到回归函数，不能反映输入与输出之间关系。针对这些问题，本论文提出两种新的特征选择方法，将新方法应用于公路管理信息系统中的普查检测数据，可以得到新的路面使用性能综合评定方法，和新的路面使用性能预测方法。
　　 本论文的创新性工作主要体现在以下几点：
　　 (1)提出了一种基于矩阵相似性度量、遗传算法和支持向量机的特征选择方法。该方法使用矩阵相似性度量方法选择非线性空间，再通过遗传算法从非线性空间中选择特征，最后用线性支持向量机得到简明的回归函数或决策函数。实验证明在样本规模很小的情况下，该方法比其他方法回归精度要高。该方法所得的回归函数简单明了，便于进行成因分析，可以直观地建立起输入与输出之间的联系。同时在理论上阐明了矩阵相似性度量方法是一种有效控制VC维的方法。
　　 (2)提出了一种适用性更强的基于混合核函数、矩阵相似性度量和核主成分分析的序列极小化方法。进行核主成分分析时，使用的是混合核函数，其权值和形式参数是通过遗传算法，以矩阵相似性度量作为适应度，经过优化求得的，这样可以尽可能的控制核函数的复杂程度。使用序列极小化方法，可以对主成分做进一步的判别和选择，降低输入空间的维数，同时由于是线性的支持向量回归，不会增加学习机的VC维。经过验证该方法精度高于以往的类似方法。
　　 (3)将基于矩阵相似性度量、遗传算法和支持向量机的特征选择方法应用于路面使用性能的综合评价，可以克服样本数据规模过小的困难，将路面诸多损坏形式与路面使用性能之间的关系表达成简单易理解的多项式形式，便于进行综合评价组成分析。
　　 (4)将基于矩阵相似性度量、遗传算法和支持向量机的特征选择方法应用于路面使用性能衰变的预测。该方法可以克服路面养护信息系统中数据不完整的困难，将影响路面使用性能的诸多因素与路面使用性能之间的关系表达成简单易理解的函数形式，便于进行路面使用性能的成因分析。

目录

文摘

英文文摘

创新点摘要

第1章 绪论

1.1 特征获取的研究现状

1.1.1 特征选择

1.1.2 特征提取

1.2 本文主要研究内容

1.3 论文的结构安排

第2章 支持向量分类机与支持向量回归机

2.1 机器学习

2.1.1 机器学习的问题表示

2.1.2 经验风险最小化

2.1.3 VC维

2.1.4 期望风险的上界

2.1.5 结构风险最小化和推广能力

2.2 支持向量机

2.2.1 分类问题

2.2.2 线性可分支持向量机

2.2.3 通过对偶问题求解

2.2.4.线性支持向量机

2.2.5 非线性支持向量机

2.2.6 核函数

2.3 支持向量回归机

2.3.1 线性回归问题

2.3.2 线性硬ε带支持向量回归机

2.3.3 线性ε-支持向量回归机

2.3.4 ε-支持向量回归机

2.4 支持向量机的研究内容

2.4.1 支持向量机新算法的研究

2.4.2 支持向量机核函数选择的研究

2.4.3 海量数据优化算法的研究

2.4.4 支持向量机多类别分类方法的研究

2.4.5 基于支持向量机特征提取算法的研究

2.5 小规模样本使用SVR算法带来问题

2.5.1 实验过程

2.5.2 结果分析

2.5.3 VC推广界理论

2.5.4 小规模样本的界定

2.5.5 提高小规模训练样本学习精度的思路

2.6 本章小结

第3章 基于矩阵相似性度量、支持向量机和遗传算法的特征选择方法

3.1 映射生成非线性空间

3.1.1 多项式空间

3.1.2 倒数空间

3.1.3 对数空间

3.1.4 指数空间

3.1.5 混合空间

3.2 矩阵相似性度量选择非线性空间

3.2.1 矩阵相似性度量基本理论

3.2.2 矩阵相似度量法的合理性分析

3.2.3 矩阵相似性度量应用于选择非线性空间

3.3 遗传算法

3.3.1 遗传算法的概况

3.3.2 遗传算法的基本运算

3.4 基于矩阵相似性度量、支持向量机和遗传算法的特征选择

3.4.1 步骤

3.4.2 验证

3.5 改进的基于矩阵相似性度量、支持向量机和遗传算法的特征选择

3.5.1 步骤

3.5.2 验证

3.6 基于矩阵相似性度量、支持向量机和遗传算法的特征选择的优缺点

3.7 本章小结

第4章 基于混合核函数、矩阵相似性度量及核主成分的序列极小化方法

4.1 核主成分分析

4.1.1 KPCA的基本原理

4.1.2 核主成分分析的主要作用

4.2 序列极小化方法

4.2.1 分类问题的数学提法

4.2.2 序列极小化方法步骤

4.2.3 ε-不敏感损失函数

4.2.4 线性回归中的特征提取问题

4.3 基于核主成分的序列极小化方法

4.3.1 矩阵相似性度量应用于选择混合核函数参数

4.3.2 处理数据集步骤

4.3.3 序列极小化步骤

4.4 验证及与其他特征选择方法的比较

4.4.1 验证一

4.4.2 验证二

4.5 KPCA-RFE方法的优点

4.5.1 计算准确度分析

4.5.2 计算复杂度分析

4.6 本章小结

第5章 NLS-GA-FE方法在路面使用性能综合评价中的应用

5.1 我国高速公路使用现状

5.1.1 路面早期损坏极其严重

5.1.2 丰富的数据与贫乏的知识

5.2 路面使用性能综合评价方法简介

5.2.1 路面使用性能综合评价的意义

5.2.2 路面使用性能综合评价方法简介

5.2.3 评价方法的不足

5.3 基于SVM的路面使用性能评价模型的研究

5.3.1 多类的分类支持向量机

5.3.2 描述路面性能数据的选取

5.3.3 建模

5.3.4 评价结果分析

5.4 NLS-GA-FE方法的应用

5.5 本章小结

第6章 NLS-GA-FE方法在路面使用性能预测中的应用

6.1 路面的使用性能的预测方法

6.2 路面使用性能指标的量化

6.2.1 预测指标

6.2.2 影响因素

6.3 对影响因素进行预测

6.4 使用性能预测

6.4.1 平滑移动预测法预测参数

6.4.2 NLS-GA-FE方法预测使用性能

6.5 本章小结

第7章 结论与展望

7.1 结论

7.2 展望

参考文献

攻读学位期间发表的论文

致谢