人工神经网络简介.ppt

人工神经网络简介刘章

人工神经网络人工神经网络〔artificialneuralnetwork，缩写ANN〕，简称神经网络〔neuralnetwork，缩写NN〕，是一种模仿生物神经网络的结构和功能的数学模型或计算模型。神经网络由大量的人工神经元联结进行计算。大多数情况下人工神经网络能在外界信息的根底上改变内部结构，是一种自适应系统。2

主要内容神经网络模型神经网络学习方式BP神经网络简单神经网络的设计3

神经网络模型生物神经元模型神经元包含三局部：树突、细胞体、轴突。树突是树状神经纤维网络，它将电信号传递给细胞体细胞体对这些信号进行整合并进行阈值处理轴突是单根长纤维，它将信号传递给其他神经元4

神经网络模型神经元模型输入输出关系：ω是连接神经元的权值θ是神经元的阈值x可认为是神经元的净输入5

神经网络模型是传递函数，或称为鼓励函数，其作用有：两种典型的传递函数：〔1〕阈值型函数当取0或1时，为阶跃函数：1.控制输入对输出的激活作用；2.对输入输出进行函数转换；3.将可能的无限域输入转换成有限域的输出；6

神经网络模型7

神经网络模型人工神经网络的典型结构输入层隐藏层输入层根据神经元的拓扑结构形式，神经网络主要分为两大类：层次型神经网络互联型神经网络8

神经网络学习方式神经网络的学习方式神经网络的学习规那么1.有监督学习方式2.无监督学习方式1.误差纠正式学习——Detal学习规那么2.联想式学习——Hebb学习规那么9

神经网络的学习方式神经网络的学习方式1.有监督学习方式神经网络根据实际输出与期望输出的偏差，按照一定的准那么调整各神经元连接的权重。10

神经网络的学习方式神经网络的学习方法2.无监督学习方法神经网络仅仅是根据其输入调整神经元连接间的权重和阈值，此时的学习评价标准隐含在内部。11

BP神经网络反向传播网络(Back-PropagationNetwork)，简称BP网络。1.BP网络是一个多层前向反响神经网络，其神经元的传递函数是S型函数2.权值调整是采用方向传播的学习方法3.BP网络可以看做一个输入到输出的高度非线性映射12

BP神经网络BP网络的训练过程1.参数的设定和初始化设定期望误差最小值：err_goal设定最大循环次数：max_epoch设定修正权值的学习速率：一般选取lr=0.01~0.72.计算网络输出矢量A，以及网络误差E：E=T-A3.计算各层反向传播的误差变化D，并计算各层权值的修正值ω4.再次计算权重修正后的误差平方和SSE13

BP神经网络一个简单的BP网络的设计1.问题的描述逼近一个非线性函数为正弦函数%定义要逼近的非线性函数p=[-1:.05:1];t=sin(pi*p);plot(p,t,-);14

BP神经网络2.建立网络%建立相应的BP网络net=newff(minmax(p),[10.1],{tansigpurelin},trainlm)y1=sim(net,p);plot(p,t,-,p,y1,--)15

BP神经网络3.网络训练%训练网络net.trainParam.epochs=50;net.trainParam.goal=0.01;net=train(net,p,t);16

BP神经网络4网络测试%对训练后的网络仿真y2=sim(net,p);figure;plot(p,t,-,p,y1,--,p,y2,--);17

BP神经网络总结BP网络实现了一个从输入到输出的非线性映射，即F：Rn→Rm，f(x)=y。对于样本集合：输入xi(xi∈Rn)和yi(yi∈Rm),可认为存在某一映射g，使得：g(xi)=yii=1,2,...nBP神经网络就是寻找逼近映射g的最正确映射f过程。Hornik等人证明了：仅有一个非线性隐层的前馈网络就能以任意精度逼近任意复杂的函数。18

感谢您的关注