ICode9

精准搜索请尝试: 精确搜索
首页 > 其他分享> 文章详细

LARGE SCALE IMAGE COMPLETION VIA CO-MODULATED

2021-06-01 09:32:19  阅读:251  来源: 互联网

标签:COMPLETION SCALE CO 补全 条件 协调 生成 GAN 图像


在这里插入图片描述
清华和微软的工作。

解读一下题目:

  • large scale 大尺度
  • image completion 图像补全
  • co-modulated 互协调
  • generative adversarial network 生成对抗网络

梳理一下:课题中提出一种 互协调 生成对抗网络,用来解决大尺度图像的补全问题。

核心思想

  • 如何在大尺信息缺失的情况下,还能补全图像且效果不错???
    作者认为,如果模型具备从无来生成一个该风格的图像,那么该图像的缺失区域不论多大,应该都能很好的补全出来。

  • 图像生成和图像补全之间有什么关系?
    – 经典的GAN以及其应用:最初的GAN架构的提出和若干后续gan的应用,都是从一个随机噪声向量生成一张图像
    – 条件GAN模型:生成网络的输入又一个给定的向量(特定维度用于控制特定特征)拼接一个随机噪声(用于控制风格style)来生成一个我们希望有特定特征的图像
    – 图像补全:相当于是条件生成问题,而输入的条件从向量变成了张量。该问题发展过程中,到GAN火热起来后,大家也开始使用GAN进行图像补全。

  • 互协调生成对抗
    – GAN网络输入的随机噪声为一种协调
    – 条件GAN中,输入条件是另一种协调
    在本研究中,作者提出,图像补全任务的缺失图gt*(1-mask)为GAN的生成条件,为一种协调。此外再引入随机噪声,为另一种协调。如果单纯利用随机噪声,网络应该能生成一个图像。当模型具备生成图像的能力,此时给一定的条件(缺失图),那么不论缺失部分多大,应该都能很好的补全。由此作者提出了一个互协调的思想,即给条件且引入噪声。

看一下图解释

非条件协调生成

在这里插入图片描述
z 潜在特征
M:映射网络
D:decoder 解码器(图像生成器)
在这里插入图片描述

图像条件生成

在这里插入图片描述
y: 条件输入
E: 条件编码器encoder
D:解码器 decoder(生成器)

条件协调生成器

在这里插入图片描述
y:输入条件
e: 条件编码器
D:解码器decoder (生成器)
在这里插入图片描述

互协调生成器

在这里插入图片描述
y:输入条件
E:条件编码器encoder
z:潜在向量特征
M:特征映射网络
D:解码器

在这里插入图片描述

除方法之外作者还提出了一种新的图像补全的评价方法。。。就不介绍了

标签:COMPLETION,SCALE,CO,补全,条件,协调,生成,GAN,图像
来源: https://blog.csdn.net/weixin_44996354/article/details/117434184

本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享;
2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关;
3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关;
4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除;
5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。

专注分享技术,共同学习,共同进步。侵权联系[81616952@qq.com]

Copyright (C)ICode9.com, All Rights Reserved.

ICode9版权所有