ICode9

精准搜索请尝试: 精确搜索
首页 > 其他分享> 文章详细

Deep Exploration via Bootstrapped DQN

2022-06-07 00:03:41  阅读:206  来源: 互联网

标签:via 训练 探索 deep exploration Deep Exploration DQN 2016



发表时间:2016(NIPS 2016)
文章要点:这篇文章提出了Bootstrapped DQN算法来做深度探索。作者认为,当前的探索策略比如ϵ-greedy,并没有进行深度探索(temporally-extended (or deep) exploration)。Deep exploration指的是一个探索策略进行多步的探索,而不是像ϵ-greedy那种每步都是一个随机探索,没有连续性(Deep exploration means exploration which is directed over multiple time steps; it can also be called planning to learn or far-sighted exploration)。作者提出,同时训练多个Q网络,可以做到deep exploration。
具体做法就是训练网络的时候,不止一套Q value,而是有K套Q value,然后每个episode都用其中一个Q head来选择动作,相当于用同一个策略来探索这一整局,这样就做到了deep exploration。然后训练的时候,就有放回抽样各个Q head的样本分别训练。
总结:较老的一篇文章了,相当于是ensemble的方式,可能当时比较新颖吧。
疑问:dithering指的啥?

标签:via,训练,探索,deep,exploration,Deep,Exploration,DQN,2016
来源: https://www.cnblogs.com/initial-h/p/16350230.html

本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享;
2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关;
3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关;
4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除;
5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。

专注分享技术,共同学习,共同进步。侵权联系[81616952@qq.com]

Copyright (C)ICode9.com, All Rights Reserved.

ICode9版权所有