ICode9

精准搜索请尝试: 精确搜索
首页 > 其他分享> 文章详细

李宏毅机器学习笔记——元学习Meta Learning

2022-01-23 15:59:26  阅读:309  来源: 互联网

标签:机器 测试 训练 李宏毅 学习 Meta Learning 资料 loop


元学习Meta Learning:学习如何去学习。learn to learn.

机器学习步骤总结

第一步:

第二步:
在这里插入图片描述
第三步:
在这里插入图片描述

元学习是什么

输入训练资料,通过方法,进行训练。学习这个方法。

利用以往的知识经验来指导新任务的学习,具有学会学习的能力。
在这里插入图片描述
hand_crafted是人设定的意思。

元学习步骤

第一步:寻找方法
在这里插入图片描述
要学的参数是Φ。之前这些component都是人定的,元学习里是求这些component.

第二步:计算Loss
在这里插入图片描述
以往的机器学习是通过计算训练资料得出Loss,而元学习是通过训练任务里的测试资料计算:
在这里插入图片描述
第三步:最优化使Loss最小
在这里插入图片描述

注意这里是测试任务里的训练资料也作为输入,通过F方法,学习出classify,然后把这个classify用到测试任务里的测试资料上,得到结果。

训练任务是为了找出最优算法,测试任务是为了最终结果。

比较机器学习和元学习差异

在目的上面:
机器学习是找到f方法。
元学习的目的是找到可以“寻到f方法”的F方法。

在这里插入图片描述
support set是训练资料,query set是测试资料。

在过程上面:
机器学习是任务内训练,元学习是跨任务学习。
在这里插入图片描述
在这里插入图片描述

outer loop和inner loop

within-task training又叫inner loop.
acros-task training又叫outer loop.
在这里插入图片描述

机器学习和元学习相同点

在这里插入图片描述

梯度下降法复习

在这里插入图片描述

学习初始化

在这里插入图片描述

标签:机器,测试,训练,李宏毅,学习,Meta,Learning,资料,loop
来源: https://blog.csdn.net/qq_40991313/article/details/122645693

本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享;
2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关;
3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关;
4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除;
5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。

专注分享技术,共同学习,共同进步。侵权联系[81616952@qq.com]

Copyright (C)ICode9.com, All Rights Reserved.

ICode9版权所有