一类解决极大极小值问题的学习步长算法

摘要

为了解决极大极小值问题,在现有的解决此类问题的几种算法下,提出了一类改进算法,即学习步长算法.新算法将原有算法的更新格式中当前梯度项和上一步梯度项的系数,即算法的步长自动地学习出来,并可以根据当前的目标函数动态地调整步长,而不需要手动选择步长.将新算法与现有的算法在函数集上做数值实验对比,新算法的性能表现比其他算法更好.实验结果表明,针对极大极小值问题,该学习步长算法是一种有效的改进算法.