有界约束半光滑系统的非单调投影梯度依赖域方法

摘要

最优化理论与方法是一门应用非常广泛的学科,它讨论决策问题的最佳选择之特性,构造寻求最佳解的计算方法,研究这些计算方法的理论性质及实际计算表现。随着信息化和计算机的普及,数值最优化方法得到了迅速的发展,广泛应用于实际生活的众多领域,如国防、工业生产、交通运输、金融、经济计划、工程设计、生产管理等。目前国内外已有很多文章研究解决有界约束半光滑系统,但是其中涉及解决有界约束半光滑欠定方程组的方法却很少。从现实生活中来看,有界约束欠定(即方程组个数小于变量个数)半光滑系统的应用更为广泛。因此,本论文主要针对有界约束欠定半光滑系统提出了非单调投影梯度信赖域方法和非单调投影Levenberg-Marquardt信赖域方法。
　　 本文将非单调投影梯度信赖域方法推广到解决有界约束欠定半光滑系统的情况,基于无穷范数意义下有界约束的半光滑系统构建信赖域子问题,并得到搜索方向进行回代。利用半光滑高斯-牛顿方程在可行域投影得到投影高斯牛顿的试探步,在正则解附近信赖域策略将转化为投影高斯-牛顿的完全步,从而既保证了全局收敛性,也得到了算法的局部超线性收敛速率。这将非单调投影梯度信赖域方法推广至欠定方程组的情况,使该方法有着更广泛的实际应用。同时考虑到高斯-牛顿法的不足之处,提出结合Levenberg-Marquardt方法和非单调投影梯度信赖域策略的新算法来解决有界约束欠定半光滑系统,分别讨论该算法的全局收敛性和局部收敛速率,并证明了系统在较弱的局部误差界即系统可能奇异的条件下该算法仍具有局部二次收敛速度。此外,文中利用数学软件Matlab编程,对非单调投影梯度信赖域算法进行数值实验,表明所提供算法的有效性和可靠性。
　　 本研究分为四个部分：第一章介绍了最优化理论基础知识。第二章讨论了用非单调投影梯度信赖域算法解决有界约束欠定半光滑系统问题。在合理的假设条件下,证明了算法的整体收敛性和局部超线性收敛速率,数值结果表明了所提供的算法的有效性和可行性。第三章结合Levenberg-Marquardt方法和非单调投影信赖域策略,给出求解有界约束欠定半光滑系统的第二种方法,并且给出了该算法的全局收敛性和局部收敛速率。最后,对本文的工作进行总结,并进一步提出改进方面和研究方向。

目录

文摘

英文文摘

主要符号对照表

第一章 最优化理论基础

1.1 本章概述

1.2 最优化问题简介

1.3 最优性条件

1.4 最优化方法的结构

1.5 信赖域策略

1.6 Levenberg-Marquardt方法

1.7 半光滑理论

第二章 有界约束半光滑系统的非单调投影梯度信赖域方法

2.1 引言

2.2 算法的理论分析

2.3 整体收敛性

2.4 局部收敛性

2.5 数值实验

第三章 误差界系统的投影L-M信赖域方法

3.1 引言

3.2 算法

3.3 整体收敛性

3.4 局部收敛性

第四章 小结

参考文献

攻读硕士学位期间的研究成果

致谢

答辩委员会审查意见