基于自适应遗传算法的神经网络结构优化算法

摘要

深度学习使用最广泛的模型是神经网络.而神经网络的结构设计是神经网络研究的热点问题之一.隐含层的设计和节点数量的确定是神经网络结构设计的核心,对神经网络的收敛速度、泛化能力等有着很大的影响.遗传算法是模拟生物遗传和进化而形成的一种自适应优化概率搜索算法,其核心思想源于生物遗传学和适者生存的自然规律,是具有"生存+检测"迭代过程的搜索算法.但是遗传算法参数的选择带有主观性、收敛慢并且容易陷入早熟收敛.为了解决这些问题,提出了一种自适应遗传算法并用于寻找最优的神经网络结构.自适应遗传算法在每次迭代寻优过程中选取前n个最优个体并加入一定量的随机个体进行种群更新,并自适应优化种群搜索步长,可在保证种群多样性的同时提高收敛速度.然后对神经网络的结构进行编码处理,应用自适应遗传算法,进行神经网络结构寻优,确定最优网络结构和参数取值以提高神经网络的准确率.实验结果表明,本算法对函数的拟合度效果优于传统机器学习方法;在breast cancer数据集上的检测准确率为97.57％,检测误差为2.07％.优于传统的机器学习方法.