人工智能与自动化 手写体数字识别课程报告.pdfVIP

手写体数字识别课程报告 1 卷积神经网络简介 1.1 卷积神经网络总体总结 卷积神经网络 （Convolutional Neural Networks ，CNN）是由纽约大学的 Yann Lecun 于 1998 年提出的，其本质是 一个多层感知机。它是一类包含卷积计算且具有深度结构的前馈神经网络 （Feedforward Neural Networks），是深度 学习 （Deep Learning）的代表算法之一。卷积神经网络是一种特殊的多层神经网络，像其它的神经网络一样，卷积 神经网络也使用一种反向传播算法来进行训练，不同之处在于网络的结构。 1.2 卷积神经网络的基本特征 1.2.1 具有多层层次网络结构 卷积神经网络 （CNN）被认为是第一个真正成功的、采用多层层次结构网络的、具有鲁棒性的深度学习方法，它通 过挖掘数据在空间上的相关性，来减少网络中的可训练参数的数量，从而改进了前向传播网络的反向传播算法效率。 在 CNN 中，图像中的小块区域 （也叫做 “局部感知区域”）被当做层次结构中的底层的输入数据，信息通过前向传 播经过网络中的各个层，在每一层中都由过滤器构成，以便能够获得观测数据的一些显著特征。因为局部感知区域能 够获得一些基础的特征，比如图像中的边界和角落等，这种方法能够提供一定程度对位移、拉伸和旋转的相对不变 性。 CNN 中层次之间的紧密联系和空间信息，使得其特别适用于图像的处理和理解，并且能够自动的从图像抽取出丰富 的相关特性。 1.2.2 不需要对样本进行复杂预处理 卷积神经网络 （CNN）的分类模型，与传统模型的不同点在于其可以直接将一幅二维图像输入模型中，并在输出端 给出分类结果。好处显而易见，不需复杂的预处理，将特征抽取、模式分类完全放入一个黑匣子中，通过不断的优化 来获得网络所需参数，在输出层给出我们需要的分类结果。CNN 的特征提取层参数是通过训练数据学习得到的，所 以其避免了人工特征提取，而是从训练数据中进行学习。 1.2.3 局部连接，具有很强的泛化能力 卷积神经网络 （CNN）的泛化能力要显著优于其它方法，已经被广泛应用于模式分类、物体检测、物体识别等方 面。利用卷积神经网络建立模式分类器，将卷积神经网络作为通用的模式分类器，直接用于灰度图像。 卷积神经网络 （CNN）通过结合局部感知区域、共享权重、空间或者时间上的降采样来充分利用数据本身包含的局 部性等特征，优化网络结构，并且能够保证一定程度上的位移和变形的不变性。所以，CNN 可以用来识别位移、缩 放及其它形式扭曲不变性的二维或三维图像。 卷积神经网络 （CNN）是一种深度的监督学习下的机器学习模型，具有极强的适应性，善于挖掘数据局部特征，提 取全局训练特征和分类，它的权值共享结构网络使之更类似于生物神经网络，在模式识别各个领域都取得了很好的成 果。 1.2.4 共享权值，减少了网络参数 卷积神经网络 （CNN）的权值共享特性，可以减少需要求解的参数数量。在卷积层中每个神经元连接数据窗的权重 是固定的，每个神经元只关注一个特性。使用多种滤波器 （卷积核）去卷积图像，就会得到多种特征映射 （Feature Map），同一特征映射的神经元共享权值，减少了网络参数，这也是卷积网络相对于全连接网络的一大优势。 另一方面，权值共享同时降低了网络的复杂性，且多维输入信号 （语音、图像）可以直接输入网络的特点避免了特征 提取和分类过程中数据重排的过程。 隐藏