在深度学习中,对训练数据进行标准化和归一化处理,可以加快模型的收敛速度,而且更重要的是在一定程度上缓解了深度网络中梯度消失的问题,从而使深层网络的训练更加容易。
归一化
归一化的作用是统一样本的统计分布性。把数据样本范围压缩至某个范围之间。
主要是为了方便处理不同的数据,因为将数据范围压缩至某个范围之内,可以使得处理过程更加便捷、快速, 并且可以消除不同数据之间量纲单位的影响,提高不同数据之间的。
标准化
标准化的作用是将数据按比例缩放,使之落入一个特定区间, 更符合标准正态分布。
联系与区别
都能取消由于量纲不同所引起的误差;都是一种线性变换;都是对向量按照比例压缩再进行平移。
归一化是将样本的特征值转换到同一量纲下,把数据映射到哪个区间,仅由特征值的极值决定;标准化是为了方便数据的下一步处理,而进行的数据缩放等变换,并不是为了方便与其他数据一同处理或比较,比如数据经过z-scores方法,将其转化为标准正态分布,使其和整体样本相关,每个样本点都能对标准化产生影响。
标签:缩放,特征,样本,标准化,归一化,数据,量纲 来源: https://www.cnblogs.com/kh401/p/16411775.html
本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享; 2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关; 3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关; 4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除; 5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。