TF11——LeNet
经典卷积网络
LeNet由Yann LeCun于1998年提出，卷积网络开篇之作。
在统计神经网络层数时，一般只统计卷积计算层和全连接计算层，其余操作可以认为是卷积计算层的附属
LeNet一共有五层网络，其中C1是一层卷积，C3是一层卷积，C5、F6、Output是连续的三层全连接，卷积就是CBAPD，上图中，把前面的两层卷积用CBAPD描述出来
- 第一层是6个
5*5的卷积核，卷积步长是1，不使用全零填充，LeNet提出时还没有BN操作，这里选择不使用BN操作，LeNet时代sigmoid是主流的激活函数，用2*2的池化核，步长为2，进行最大池化，不使用全零填充，LeNet时代还没有Dropout,所以不使用Dropout层 - 第二层是16个
5*5的卷积核，卷积步长是1，不使用全零填充，不使用BN操作，igmoid是激活函数，用2*2的池化核，步长为2，进行最大池化，不使用全零填充，不使用Dropout层 - 随后Flatten拉直
- 连续三层全连接网络，神经元分别是120、84、10，前两层全连接使用sigmod激活函数，最后一层使用softmax使输出符合概率分布
对着CBAPD写出的代码如下
源码：P31_cifar10_lenet5.py
标签：TF11,使用,全零,卷积,步长,池化,LeNet 来源： https://www.cnblogs.com/studyhao1999/p/16029884.html
本站声明： 1. iCode9 技术分享网（下文简称本站）提供的所有内容，仅供技术学习、探讨和分享； 2. 关于本站的所有留言、评论、转载及引用，纯属内容发起人的个人观点，与本站观点和立场无关； 3. 关于本站的所有言论和文字，纯属内容发起人的个人观点，与本站观点和立场无关； 4. 本站文章均是网友提供，不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属；如您发现该文章侵犯了您的权益，可联系我们第一时间进行删除； 5. 本站为非盈利性的个人网站，所有内容不会用来进行牟利，也不会利用任何形式的广告来间接获益，纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。