要点
自监督学习加速GAN训练
GAN实现开放集推理
开放集推理实现并行可持续学习
-
自监督学习训练对观测视角、环境光照等干扰项不敏感的编码器，实现鲁棒的信息压缩；
多个传感器之间构成观测维度的关联性；（如听觉和视觉之间的关联，通感）
同一传感器采集到不同方位的信息构成了空间的关联性；（如双目之间的关联，视差）
同一传感器不同时刻采集的信息构成了时间的关联性；（如光流、目标跟踪） -
GAN在经过自监督学习鲁棒压缩后的低维稠密潜空间进行对抗学习，可以更快得到判别和生成器；
GAN的输入和输出维度将大幅降低，且低维空间中的流形因为是稠密的，因此约束更宽松，更易于训练；
GAN由于自监督的跨域信息关联，能生成和辨别更真实的样本； -
开放集上的推理依赖于对输入样本的域感知能力，而这可以依赖GAN的判别器实现；
GAN不仅能生成样本，还能对样本进行域判别，计算样本分布与域分布的距离下限；
GAN的判别器响应最大的域为目标域，这样就实现了对开放集上的任意样本的推理； -
可持续学习依赖对过往学习样本分布的记忆，而开放集上的推理恰好实现了这一点；
任意多个域上的判别器都能实现开放集推理（Open Set Inference)，等价于一个综合的域上的判别器能进行开放集推理；
因此OSI能对任意多个域进行合并而不产生冲突，也意味着任意多个独立训练的模型可以不经修改的组合在一起，并行推理输出一个综合的结果；
因此OSI能实现对不同时段的样本训练的模型的持续集成；
当OSI判断新样本不在任何一个域上时，将开辟新域学习；
当OSI发现新样本在所在域上的输出不满足预期时，将对该域上的模型进行覆盖式学习；
标签：判别,开放,样本,学习,GAN,推理 来源： https://www.cnblogs.com/thisisajoke/p/13353032.html
本站声明： 1. iCode9 技术分享网（下文简称本站）提供的所有内容，仅供技术学习、探讨和分享； 2. 关于本站的所有留言、评论、转载及引用，纯属内容发起人的个人观点，与本站观点和立场无关； 3. 关于本站的所有言论和文字，纯属内容发起人的个人观点，与本站观点和立场无关； 4. 本站文章均是网友提供，不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属；如您发现该文章侵犯了您的权益，可联系我们第一时间进行删除； 5. 本站为非盈利性的个人网站，所有内容不会用来进行牟利，也不会利用任何形式的广告来间接获益，纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。