ICode9

精准搜索请尝试: 精确搜索
首页 > 其他分享> 文章详细

贝叶斯误差

2022-01-03 01:03:24  阅读:268  来源: 互联网

标签:误差 预测 特征 最小 贝叶斯 分布


 

Wiki定义:贝叶斯误差(bayes error rate)是指在现有特征集上,任意可以基于特征输入进行随机输出的分类器所能达到最小误差。也可以叫做最小误差。

先直接回答题主的疑问:“书上说是从预先知道的分布预测而出现的c误差,既然已经预先知道分布了,那么为什么还有误差呢?”

回答:分布是真实的,但预测的输出只能是一个值,所以会有误差。例如,假设真实世界中90%长头发的人为女性,10%为男性(这是已知的真实分布);此时已知一个人头发长,预测该同学性别。由于只能预测男/女。此时即使你知道真实分布,预测为女,也会有10%的误差。这就是贝叶斯误差。

===========================

下面详细说一下我的理解,贝叶斯误差的定义有两个关键点:

1)给定特征集后的最小误差:即可以认为我们的训练集无限大且已经按真实分布穷举了所有可能的特征组合后,任何分类器所能达到的误差下限。产生贝叶斯误差的本质原因是特征集不足以推理出准确预测值,否则贝叶斯误差为0.



作者:苏冉旭
链接:https://www.zhihu.com/question/263546637/answer/504918763
来源:知乎

比方说做一个2分类的任务,样本特征是1维的,分布如上图,你已经知道了分布,但是由于这两类不是完全可以分得开的,因此无论用哪个分类面,都会有错。那么这个最小的错误率(c在分布相交的地方)就是Bayes Error Rate。

标签:误差,预测,特征,最小,贝叶斯,分布
来源: https://www.cnblogs.com/Zihuatanejo-zwyu/p/15758811.html

本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享;
2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关;
3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关;
4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除;
5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。

专注分享技术,共同学习,共同进步。侵权联系[81616952@qq.com]

Copyright (C)ICode9.com, All Rights Reserved.

ICode9版权所有