神经网络原理及应用__培训课件.ppt

隐含层的层数与节点数的改进 最佳隐含层神经元数选择可参考如下经验公式： m为隐含层神经元数， n为输入层神经元数， 为输出层神经元数 a为1—10之间的常数 …… 隐含层的层数与节点数的改进 实际问题中，隐含层神经元数的选择首先是参考公式来确定神经元的大致范围，然后试凑法确定最佳点数 注意对于一般问题BP神经网络的分类误差随着隐含层神经元的增加呈现先减少后增加的趋势 用GA优化BP神经网络 用GA直接训练BP网络的权重算法 用GA先求BP网络的权重，再用纯BP直接训练BP的混合GA－BP算法 Thanks! 待续。。。 BP标准算法步骤 3.计算隐含层和输出层各神经元的输入和输出 BP标准算法步骤 4.利用网络期望输出和实际输出，计算误差函数对输出层的各神经元的偏导数。 BP标准算法步骤 5. 利用隐含层到输出层的连接权值、输出层的输出和隐含层的输出，计算误差函数对隐含层各神经元的偏导数。 BP标准算法步骤 BP标准算法步骤 6. 利用输出层各神经元的和隐含层各神经元的输出来修正连接权值。 BP标准算法步骤 7. 利用隐含层各神经元的和输入层各神经元的输入修正连接权。 BP标准算法步骤 8. 计算全局误差 9. 判断网络误差是否满足要求。当误差达到预设精度或学习次数大于设定的最大次数，则结束算法。否则，选取下一个学习样本及对应的期望输出，返回到第三步，进入下一轮学习。 梯度下降法 情况一、直观表达 当误差对权值的偏 导数大于零时，权值 调整量为负，实际输 出大于期望输出， 权值向减少方向调整， 使得实际输出与期望 输出的差减少。 who e 0，此时Δwho0 BP标准算法直观解释 情况二、直观表达 当误差对权值的偏导数 小于零时，权值调整量 为正，实际输出少于期 望输出，权值向增大方向 调整，使得实际输出与期 望输出的差减少。 e 0, 此时Δwho0 who BP标准算法直观解释 应用实例 分类识别 数据预测 医学诊断 蠓虫的分类识别 思路 1、触角长和翼长作为输入信息，分别记x1,x2 目标输出：(1,0) 、(0,1)。 Af类记为 (1,0)，Apf类记为(0,1)。 输出层有两个神经元 输入层 输出层 中间层 i h o 2、通过已知样本训练出合适的权值 使输出为(0,1)或(1,0)。 3、将待区分的蠓虫数据输入网络，求值。 权值求法：向后传播法 理想输出 Af类(1,0)，Apf类(0,1)记为 则有误差： 使得E(w)最小的 作为所需的权值 运用神经网络进行预测 例：现给出一药品商店一年当中12个月的药品销售量（单位：箱）如下： 月份 1 2 3 4 5 6 销量 2056 2395 2600 2298 1634 1600 月份 7 8 9 10 11 12 销量 1873 1478 1900 1500 2046 1556 训练一个BP网络，用当前的所有数据预测下一个月 的药品销售量。 抛开神经网络，对于预测问题我们会首先想到线性拟合的方法 首先我们看一下这些数据的离散分布图 但线性拟合有它的局限性，从图中可以明显看出月份与药品销量不存在线性关系， 对于离散程度特别高的数据，它们不存在线性关系，所以用线性拟合做出来的误差会很大 对于预测问题我们还可以用灰色系统、时间序列来预测 思路二 我们用前三个月的销售量预测下一个月的销售量，也就是用1-3月的销售量预测第4个月的销售量，用2-4个月的销售量预测第5个月的销售量，如此循环下去，直到用9-11月预测12月份的销售量。这样训练BP神经网络后，就可以用10-12月的数据预测来年一月的销售量。 谵妄的诊断 谵妄是由于各种原因引起的急性脑器质性综合症，其特点是急性发病，意识水平变化，病程波动，定向力、注意力、思维、精神运动、行为和情感改变。根据国外1980年以后的有关谵妄研究文献的报道，谵妄的发病率为4%~25%。目前对谵妄的发病机制还了解不多，诊断的方式常采用多个指标综合评价。 如对老年人谵妄，通常采用检查表的方式确诊，检查表中的11个项目包含： 急性起病：病人的精神状况有急性变化的证据吗？ 注意障碍：患者的注意力难以集中吗？ 思维混乱：患者的思维是凌乱或是不连贯吗？ 意识水平的改变：总体上看，您如何评价该患者的意识水平？ 定向障碍：在会面的任何时间患者存在定向障碍吗？ 记忆力减退：在面谈时患者表现出记忆方面的问题吗？ 知觉障碍：患者有知觉障碍的证据吗？ 精神运动性兴奋：面谈时患者的行为活动有不正常的增加吗？ 精神运动性迟缓：面谈时患者有运动行为水平的异常减少吗？ 波动性：患者的精神状况（注意力、思维、定向、记忆力）