基于前馈神经网络的稀疏化算法

摘要

在前馈神经网络中，任意两个神经元之间都可以存在连接，包括神经元的跨层连接，为了适应这种灵活而又复杂的拓扑结构，引入“拓扑排序”（算法1）和“偏序”，并提出了前馈神经网络的BP学习算法（算法2），自构形学习算法（算法5）。上述的稀疏化算法，不仅要修改已有的连接权值与阈值，还要建立新的连接。实验结果表明，这些稀疏化算法都能够有效地稀疏化前馈神经网络。