标签:负类 正确性 更新 正类 感知机 干货 可视化 超平面
这里我们就用一个例子,本来该点应该分为正类,错分为负类,进行更新后,直观上算法的正确性判断。
首先当我们感知机算法更新到某一点的时候,假如原来A点的正确类别是正类,y=1,算法将它判断为负类,判断为-1,如下所示:
我们能够看到此时更新到了左下角的红色正方框,此时是将它分错了,假设它为正类y=1,而我们将它分为了负类,分成了-1。
那么进行参数更新!更新方式如下:
那么为什么更新后的超平面一定就比没有更新后的超平面好呢?
下面从理论和可视化两个部分来说明一下
理论
未更新前,我们的wx+b是小于0的,才导致我们错分为了负类,正确的标签是y=1,为正类。那么进行更新后,我们再进行计算,如下:
其中y=1,已经带入式子。
我们可以通过看出,经过更新后,比原来的wx+b加上了正值,也就是说,更新后,一定使得原来分错的负值往正向走!!
这也就是在理论上证明了每次更新都会更好的结论。
可视化
这种更新方式,我们也有直观上的感觉,可以可视化理解一下,如下图:
上图中的w是学习的超平面的法线向量,可以看出它将x已经分错了。那么此时我们需要将超平面往x方向走,才能将x点最后分对。
当我们数据点应该分类为y=+1的时候,我们错分成-1(则判断wx+b<0了,那么说明wx<0,代表w与x向量夹角大于90度),这个时候应该调整,更新过程为w=w+1x,往x向量方向更接近了,往能够分对x点的方向走!如下图:
这也从可视化角度直观的说明了更新算法的正确性。
致谢:张岳老师
推荐阅读:
精选干货|近半年干货目录汇总----全是通俗易懂的硬货!欢迎阅读!
干货|台湾大学林轩田机器学习基石课程学习笔记3 -- Types of Learning
干货|台湾大学林轩田机器学习基石课程学习笔记2 -- Learning to Answer Yes/No
干货|台大林轩田机器学习基石笔记1 -- The Learning Problem
欢迎关注公众号学习交流~
标签:负类,正确性,更新,正类,感知机,干货,可视化,超平面 来源: https://blog.51cto.com/15009309/2553762
本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享; 2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关; 3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关; 4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除; 5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。