ID3算法、朴素贝叶斯算法和BP神经网络算法的比较和分析研究

摘要

数据挖掘是一门交叉学科，涉及数据库、统计学、人工智能和机器学习等多个领域，数据挖掘又称数据库中的知识发现，就是从大量数据中获取的有效的、潜在有用的并且最终可理解的模式的非平凡过程，显而易见数据挖掘就是从大量的数据里提取或者“挖掘”知识！分类是数据挖掘技术中一项非常重要的研究课题，利用分类可以从数据集中提取描述数据类相同的一个模型或者函数，并把数据集中的每个未知类别的对象归结到某个已知的对象类中，目前的分类算法主要是统计分类法、神经网络、决策树等。不同的分类算法会产生不同的分类器，分类器的好坏直接影响到数据挖掘的效率和准确性。因而，当对海量的大规模的数据进行分类时，选择最合适的分类算法是非常重要的。
　　但是分类的效果一般和数据的特点有关[1][2][3]，有的数据噪声大，有的有缺值，有的分布稀疏，有的字段或属性间相关性强，有的属性是离散的而有的是连续值或混合式的，没有一种方法能适合所有不同特点的数据。因此，本文针对分类算法中的经典的ID3算法、朴素贝叶斯算法、BP神经网络算法的研究现状进行总结的基础上，结合四大数据，用两种验证方式，分别对预测准确度，建立分类模型的时间，模型的简洁度进行比较分析，总结优点，看到缺陷，并提出展望。

目录

声明

摘要

图表目录

第一章 绪论

1．1 研究背景

1．2 国内外研究现状

1．3 本论文的主要研究内容

第二章 数据挖掘理论知识及ID3算法、贝叶斯算法及BP神经网络算法

2．1 数据挖掘定义

2．2 数据挖掘的过程

2．2 ID3算法

2．2．1 ID3算法原理

2．2．2 ID3算法的优缺点

2．3 朴素贝叶斯算法

2．3．1 朴素贝叶斯分类的工作过程

2．3．2 朴素贝叶斯算法的优缺点

2．4 BP神经网络算法

2．4．1 BP神经网络的原理

2．4．2 BP神经网络算法的优缺点

2．5 本章小结

第三章 基于实例的各类算法的实现和比较

3．1 数据集1：“汽车的可接受度”的分类

3．1．1 数据集1介绍

3．1．2 利用ID3分类法进行分类

3．1．3 利用朴素贝叶斯算法进行分类

3．1．4 利用BP神经网络算法分类

3．2 数据集2：“鲍鱼寿命的”分类

3．2．1 数据集2介绍

3．2．2 利用ID3算法分类

3．2．3 利用朴素贝叶斯算法分类

3．2．4 利用BP神经网络算法分类

3．3 数据集3： “居民收入”的预测分类

3．3．1 数据集3的介绍

3．3．2 利用ID3算法分类

3．3．3 朴素贝叶斯算法分类

3．3．4 利用BP神经网络算法分类

3．4 数据集4：幼儿园推荐的分类

3．4．1 数据集4的介绍

3．4．2 利用ID3算法分类

3．4．3 利用朴素贝叶斯算法处理数据集

3．4．1 利用BP神经网络算法处理数据集

3．5 本章小结

3．5．1 针对数据集比较

3．5．2 算法比较研究

第四章 总结与展望

参考文献

致谢