标签:似然 -- 李宏毅 分类 cross 等价 2021 max soft
视频链接:https://www.bilibili.com/video/BV1Wv411h7kN?p=14&spm_id_from=pageDriver
如何分类
分类与回归
class 不能单纯根据123来分类,会有关系远近的误导,一般采用one-hot。(单位向量)
a1/a2/a3 ×不同的weight,产生不同组的数字
对于分类,y为向量,且最后常用soft-max
yhat只有0/1 而y’是任何值,所以进行一个归一化,变成概率,且会拉远数据之间的距离,更容易分类
当只有两类时,等价于 sigmoid
Loss
最小的交叉熵等价于去最大化 likelihood(可能性 似然)
(极大似然估计,通俗理解来说,就是利用已知的样本结果信息,反推最具有可能(最大概率)导致这些样本结果出现的模型参数 通过实验选取参数)
(对于pytorch,其内置的cross-entropy包含了soft max)
loss时估计label与predict的距离
举例说明 cross的优点,有斜率不容易卡住
标签:似然,--,李宏毅,分类,cross,等价,2021,max,soft 来源: https://blog.csdn.net/weixin_43903148/article/details/121153172
本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享; 2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关; 3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关; 4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除; 5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。