标签：二阶 区别 XGBoost CART 分类器 GBDT 一阶

1、GBDT是机器学习算法，而XGBoost是算法的工程实现

2、使用CART作为基分类器时，XGBoost显式的加入了正则项来控制模型的复杂度，防止过拟合，提高了模型 的泛化能力

3、GBDT只使用了代价函数的一阶导数信息，而XGBoost对代价函数进行二阶泰勒展开，同时使用一阶和二阶信息。

4、传统的GBDT采用CART作为基分类器，而XGBoost支持多种类型的基分类器

5、传统的GBDT迭代时采用全部的数据，而XGBoost采用了随机森林相似的策略，支持对数据进行 采样

6、传统的GBDT没有对缺失值的处理策略，而XGBoost自动学习出对缺失值的处理策略

引自：白面机器学习

标签：二阶,区别,XGBoost,CART,分类器,GBDT,一阶
来源： https://www.cnblogs.com/lyp1010/p/14060107.html

本站声明： 1. iCode9 技术分享网（下文简称本站）提供的所有内容，仅供技术学习、探讨和分享；
2. 关于本站的所有留言、评论、转载及引用，纯属内容发起人的个人观点，与本站观点和立场无关；
3. 关于本站的所有言论和文字，纯属内容发起人的个人观点，与本站观点和立场无关；
4. 本站文章均是网友提供，不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属；如您发现该文章侵犯了您的权益，可联系我们第一时间进行删除；
5. 本站为非盈利性的个人网站，所有内容不会用来进行牟利，也不会利用任何形式的广告来间接获益，纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。