一、学习心得及问题
心得
赵亮:对于卷积神经网络的定义有了初步的理解,卷积神经网络在图片分类、检索、分割、检测,人脸识别等领域有广泛的应用。使用局部关联、参数共享的方式解决了全连接网络过拟合的缺点。同时也了解了卷积的具体含义,对AlexNet、ZFNet、VGG等典型的神经网络结构有了初步的概念。
何静:卷积神经网络(CNN) 属于人工神经网络的一种,它的权重共享的网络结构显著降低了模型的复杂度,减少了权值的数量。卷积神经网络可以直接将图片作为网络的输入,自动提取特征,并且对图片的变形(如平移、比例缩放、倾斜)等具有高度不变形。
何芝霞:积神经网络是由卷积、池化、全连接组成,卷积神经网络可以应用在检测、分割、人脸识别方面,并且人脸识别可以达到一定的精确度。卷积是对两个实变函数的一种数学操作,池化一般处于卷积层与卷积层之间,全连接层与全连接层之间,通常全连接层在卷积神经网络尾部,此外我又了解了残差学习网络,见到了卷积神经网络的实操。
黄登伟:卷积神经网络的基本应用有图片分类、检索、检测、分割、人脸识别、人脸表情识别、图像生成、自动驾驶。
深度学习三个步骤:首先是搭建神经网络结构,然后找到一个合适的损失函数,比如交叉熵损失和均方误差等,最后是找到一个合适的优化函数,更新参数,比如反向传播(BP)和随机梯度下降(SGD)等。
传统神经网络和卷积神经网络区别:传统神经网络采用全连接网络处理图像,参数太多,导致过拟合问题;卷积神经网络是局部关联,参数共享。
卷积:卷积是对两个实变函数的一种数学操作,对于图像一般是二维卷积。卷积涉及的基本概念有input,filter,weights,感受野,特征图,padding,channel(深度),输出。
池化:(pooling)保留了主要特征的同时减少参数和计算量,防止过拟合,提高模型泛化能力,一般处于卷积层之间。常用是最大值池化。
典型结构——AlexNet。使用了relu函数,解决了梯度消失问题,计算速度提高,收敛速度更快;dropout(随机失活)随机关闭部分神经元,测试时整合所有神经元,解决了过拟合问题,减少了参数量;数据增强。参数量在全连接层增加。
典型结构——ZFNet。网络结构同AlexNet,只是改变了感受野大小、步长和滤波器个数。
典型结构——VGG。参数更多,层数更多。
典型结构——GoogleNet。网络包含22个带参数的层,参数是AlexNet的1/12,没有FC层。降低参数量,增加了非线性激活函数。多个inception结构堆叠。没有额外的全连接层。辅助分类器解决了由于模型深度过深导致的梯度消失的问题。
典型结构——ResNet(残差学习网络)。深度有152层。去掉相同的主体部分,从而突出微小的变化。实现为:f(x)+x。
路芸蔓:全连接网络在处理图像时存在参数过多导致过拟合的问题,卷积网络局部关联,参数共享,具有更高的准确性。卷积网络的基本应用有:分类;检索;人脸识别;图像生成;图像风格转化;自动驾驶。深度学习三部曲:搭建神经网络结构;找到一个合适的损失函数;找到一个合适的优化函数,更新参数。池化是保留主要特征的同时减少参数和计算量,防止过拟合,提高模型泛化能力。
肖大智:
问题:
赵亮:对于典型结构之间的关系和区别还没有掌握的很清晰
何静:1. Padding和全连接的作用是什么呀?(看网课听的迷迷糊糊的)2. 为什么AlexNet没有VGG应用广泛呢?
何芝霞:1.池化怎样提高模型的泛化能力,同时又是怎样防止过拟合 2.残差神经网络和卷积神经网络的联系
黄登伟:卷积的参数量怎么算?
路芸蔓:
肖大智:
二、代码练习
赵亮:https://www.cnblogs.com/OucStars/p/15418175.html
何静:https://blog.csdn.net/m0_52632116/article/details/120758957?spm=1001.2014.3001.5501
何芝霞:https://www.cnblogs.com/www-hezhixia-com/
黄登伟:https://www.cnblogs.com/haohaoxuexiyibeizi/p/15399733.html
路芸蔓:https://www.cnblogs.com/www-hezhixia-com/articles/15416859.html
肖大智:
标签:www,卷积,神经网络,池化,拟合,参数 来源: https://www.cnblogs.com/OucStars/p/15417882.html
本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享; 2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关; 3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关; 4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除; 5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。