二进神经网络规则提取方法研究

摘要

论文介绍了二进神经网络的研究现状和基本理论,通过讨论KT方法、MOfN规则表达形式以及蕴含性规则和等价性规则的差异,提出了从分析二进神经元权值,阈值关系的角度进行规则提取研究的WTA方法.超立方体结构、汉明球、 SP函数和笛卡尔球是布尔空间中几种重要的线性可分结构系,该文为这几种线性可分结构系分别建立了在二进神经网络中的一般判别方法和构造方法,此外,还提出了LEM规则和GEM规则表达形式,定义了布尔空间中笛卡尔球的概念,证明了笛卡尔球是一类线性可分结构系,剖析了汉明球和笛卡尔球的逻辑内涵.另一个研究成果是在分析线性可分和样本连通性关系的基础上,以MIS问题为例,讨论了抑制神经元在二进神经网络规则提取中的独特作用,提出了二进神经网络的模式匹配学习算法,采用这种算法对布尔空间的样本集合进行学习,得到的二进神经网络隐层神经元都归属于一类或几类线性可分结构系,只要这几类线性可分结构系的逻辑意义是清晰的,就可以分析整个学习结果的知识内涵.

目录

文摘

英文文摘

答辩委员简介

独创性声明

致谢

第一章绪论

1.1引言

1.2人工神经网络的发展过程

1.3二进前向神经网络模型

1.3.1神经元的数学模型

1.3.2二进前向神经网络的结构

1.4二进神经网络的应用

1.5二进神经网络知识提取研究

1.6论文的内容安排

第二章二进神经网络基本理论

2.1线性可分与感知器

2.1.1线性可分概念和分类超平面

2.1.2感知器学习算法

2.1.3感知器学习算法的收敛性

2.2稳健分类

2.2.1稳健分类的定义

2.2.2“与”、“或”、“非”逻辑的稳健分类

2.2.3稳健分类超平面的一般表示

2.2.4稳健分类的几何意义

2.3二进神经网络的训练学习

2.3.1规则和非规则划分学习算法

2.3.2几何学习算法

2.3.3汉明图学习算法

2.3.4稳健网络几何学习算法

2.4二进神经网络的知识分析方法

2.4.1 KT方法

2.4.2 MofN规则表达方法

2.4.3 CH算子

第三章二进神经网络的等价性规则提取

3.1蕴含性规则和等价性规则

3.1.1 KT方法分析

3.1.2基于CH判据的等价性规则提取

3.2几类等价逻辑关系的充要性判据

3.3 WTA规则提取方法

3.3.1规则提取

3.3.2举例分析

第四章二进神经网络中的汉明球

4.1汉明球的逻辑意义

4.2汉明球的一般判别和构造方法

4.3举例与讨论

4.4稳健神经元和汉明球的关系

第五章SP函数的构造和判别

5.1 SP函数

5.2 SP函数分类超平面的一般构造方法

5.3 SP函数的一般判别方法

5.4举例分析

第六章二进神经网络中的笛卡尔球

6.1笛卡尔球

6.2笛卡尔球的逻辑意义

6.3笛卡尔球的一般判别方法

6.4举例分析

第七章线性可分与连通性

7.1布尔空间样本连通性

7.2连通性与线性可分的关系

7.3抑制神经元

7.4最多孤立样本(MIS)问题

7.4.1样本的标准排序

7.4.2 MIS问题定义

7.4.3 MIS问题的几何意义

7.4.4 MIS问题的逻辑意义

7.4.5 MIS问题的网络实现

第八章二进神经网络的模式匹配学习

8.1几类线性可分结构系

8.2线性可分结构系的分层表达

8.3模式匹配学习

8.3.1理论基础

8.3.2算法描述和流程

8.3.3算法复杂度分析

8.4举例分析

第九章结束语

9.1研究总结

9.2本文的创新处

9.3存在的问题

攻读博士学位期间发表的论文

参考文献