一种避免前向网络学习算法局部极小问题的方法

摘要

现有前向网络学习算法不可避免地存在局部极小问题，本文提出了一种避免局部极小问题的方法．这一方法从寻找全局极小点的思路出发，将全局优化方法运用于前向网络学习算法，只需在原来学习算法中加入一个由全局优化方法形成的初值点选择模块，以选择好的初始权使，从而自动地避免了局部极小问题的发生．文中用二种确定型方法和一种随机型方法对六位二进制码对称性判别问题进行了仿真实验，结果表明，确定型方法在权向量的维数低时效果优于随机型方法；但当权向量的维数较高时，随机型方法由于可采用并行算法以及该方法的自身特点，所以是有效的，而确定型方法却无效．