ICode9

精准搜索请尝试: 精确搜索
首页 > 编程语言> 文章详细

python-特征缩放(标准化)以及LabelEncode和OneHotEncode数据的最佳实践是什么

2019-10-26 10:59:11  阅读:387  来源: 互联网

标签:pandas scikit-learn machine-learning data-mining python


这里我们有训练数据(x_train)和测试数据(x_test)以及all_data,它们与训练和测试数据结合在一起

因此,如果我们对数据进行标准化,那么您认为哪一种是最佳做法?

假设我们正在使用熊猫和sklearn

from sklearn.preprocessing import StandardScaler
scaler = StandardScaler()

>对火车数据进行标准化,然后应用于测试数据,然后
代码是:

06001

>对all_data进行标准化,然后应用于训练和测试数据,代码为:

06002

关于LabelEncoder和One-Hot编码分类功能的问题相同,您使用哪种方法?

先感谢您.

解决方法:

应使用情况1进行缩放,该情况1将缩放器仅适合您的训练集,然后对测试集使用相同的缩放.

您适合所有数据的情况2是数据侦听的一种形式,其中测试集中的信息正在泄漏到您的训练集中.这会导致非常错误的结果.阿布·穆斯塔法(Abu Mustafa)的数据学习课上有fantastic segment对此进行了介绍.

对于标签编码,假设您为所有类别列中的每个唯一值创建一个二进制列.测试集中但训练集中没有类别的列将全部被编码为0.即使您决定一起对整个训练和测试数据集使用标签编码,在构建模型时所有类别不在训练集中的值将设置为0且不会影响您的模型-来自这些未知类别的权重将简单地添加到偏差单位中.

标签:pandas,scikit-learn,machine-learning,data-mining,python
来源: https://codeday.me/bug/20191026/1936025.html

本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享;
2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关;
3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关;
4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除;
5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。

专注分享技术,共同学习,共同进步。侵权联系[81616952@qq.com]

Copyright (C)ICode9.com, All Rights Reserved.

ICode9版权所有