带混合属性的神经网络规则提取研究-计算机应用技术专业论文.docx

PAGE PAGE IV thought for continuous-valued attributes. Through the research in this dissertation, when we construct the classification using Neural Network, we can adopt the methods presented in this dissertation to handle the hybrid type inputs. These methods can improve the comprehensibility of the Neural Network, and present rules obviously, which are not only useful for decision, but also imported into knowledge base to increase the intelligent system’s rules. Keywords: Neural Networks, Rule Extraction, Continuous, Discrete, fuzzy linguistic terms. 目 录 摘 要 I ABSTRACT II 1 绪 论 1 1.1 问题的提出及研究意义 1 1.1.1 问题的提出 1 1.1.2 研究意义 1 1.2 国内外研究现状 2 1.3 本文的研究目的及研究内容 4 2 神经网络与分类的基本理论 5 2.1 神经网络概述 5 2.1.1 神经网络的特性 5 TOC \o 1-1 \h \z \u HYPERLINK \l _TOC_250002 2.1.2 BP 神经网络概述 6 HYPERLINK \l _TOC_250001 2.1.3 BP 神经网络的激励函数 7 HYPERLINK \l _TOC_250000 2.1.4 BP 网络的学习公式 8 2.2 分类 9 2.2.1 分类的定义 9 2.2.2 线性可分与分类超平面 10 2.3 小结 11 3 规则提取的历程与算法分类 12 3.1 萌芽时期与初步发展 12 3.2 里程碑 13 3.3 算法分类 13 3.3.1 结构分析型 13 3.3.2 功能分析型 18 3.4 小结 20 4 分离混合属性的规则提取 21 4.1 传统方法对混合属性的处理 21 4.2 分离混合属性的规则提取 21 4.2.1 训练和剪枝神经网络 22 4.2.2 离散化隐层节点的值 23 4.2.3 提取超平面规则 23 4.2.4 分离连续属性和离散属性 24 4.2.5 实验 25 4.3 小结 26 5 带模糊语义的规则提取 27 5.1 模糊集合与隶属函数 27 5.1.1 不确定性和不精确性 27 5.1.2 模糊集合 27 5.1.3 隶属函数 28 5.2 基于模糊语义离散化连续属性 29 5.2.1 离散化过程 29 5.2.2 与传统方法的比较 31 5.3 带模糊语义的规则提取 31 5.4 小结 34 6 总结与展望 35 6.1 主要结论 35 6.2 后续研究工作的展望 35 6.2.1 提取分类规则以外的其他应用规则 35 6.2.2 规则提取与最优化过程 36 6.2.3 人脑规则提取机制 36 致 谢 37 参 考 文 献 38 附 录 42 PAGE PAGE 10 1 绪 论 1.1 问题的提出及研究意义 问题的提出 知识阈值理论认为智能行为取决于知识的数量及其一般化的程度，一个系统 之所以有智能是因为它具有可运用的知识。可以认为智能是知识和智力的总和。 知识是一切智能行为的基础，而智力是获取知识并运用知识求解问题的能力，即 在任意给定的环境和目标的条件下，正确制订决策和实现目标的能力，它来自人 脑的思维活动[56]。在这一理论的影响下，知识工程、专家系统发展起来。符号主 义、逻辑推理，模拟人的逻辑思维。而人类的思维过程是复杂的，既有逻辑思维， 也有形象思维。连接主义专家系统有利于模拟形象思维。 神经网络作为连接主义专家系统的主要工具，由于其良好的性能，在智能领 域受到广泛应用，世界各国的科学家们对神经网络这门科学给予了极大的关注。 神经在一定程度上模拟生物神经系统的智慧和功能，对帮助智能系统提高自学习 能力，积累知识，解决知识获取的瓶颈问题都有重要意义。然而，遗憾的是，神 经网络学习到的知识隐式地蕴含网络的结构中。这些知识难于理解，不利于决策 支持。更难将这些知识储存在已有