(5.3)--实验5 分类器的训练和测试.pdf

实验5分类器的训练和测试

CONTENTSPAGE

1.BP网络结构

2.BP算法的实现步骤

3.程序演示

4.实验结果分析

1.BP网络结构

n

y=fwx+b

ii

i=1

x：来自第i个神经元的输入

i

w：对应第i个神经元的连接权重

i

b：偏置量

f：激活函数

y：神经元输出

3

1.BP网络结构

•BP算法：误差反向传播算法（ErrorBackPropagationTraining），系统解决了多层神经网

络隐含层神经元连接权值学习的问题。

•BP网络：基于BP算法进行误差校正的多层前馈网络。用Sigmoid激活函数替代了阶跃函数。

信号前向传播

误差反向传播

4

2.BP算法的实现步骤

若采用批量样本更新算法对BP神经网络的权值和偏置进行更新，则BP算法步骤为：

步骤1：输入m个样本

x=xx...x...x,i=1,2,...m

12im

y=yy...y...y,k=1,2,...n

12kn

步骤2：初始化各连接权值w和偏置b，并且给定学习率。

5

2.BP算法的实现步骤

步骤3：针对l层（2lL），计算每一个样本的损失函数对各层权值的偏导

数和对偏置的偏导数，并且对样本的偏导数进行求和。

ll

1）初始化W()=0，b()=0

Ei

x计算误差损失函数()；

2）对每一个样本，

i

3）计算样本误差损失函数关于权值和偏置的偏导数

Ei