标签：采样 嵌入 判别 图谱 KBGAN 生成器 生成 模型
生成式对抗网络介绍
生成对抗网络（GAN）最初被提议用于在连续空间中生成样本，例如图像。
GAN 网络由两部分组成，生成器和判别器。 生成器接受噪声输入并输出图像。 鉴别器是一个分类器，它将图像分类为“真”（来自真实数据集）或“假”（由生成器生成）。 在训练 GAN 时，生成器和判别器是在做极小极大博弈，其中生成器尝试生成“真实”图像来欺骗判别器，判别器尝试将它们与真实图像区分开来。
随机采样
随机采样方法采用随机替换头尾实体的方式用于负采样，生成的负三元组明显是错误的，因此对训练的贡献很小。
- 基于 log-softmax 损失函数的模型通常在每次迭代中为一个正三元组采样数十或数百个负三元组，其中可能有一些有用的负数，因此传统负采样的缺陷对此类模型影响不大。
- 然而，对于负正比始终为 1:1 的 margin-loss 函数，均匀采样的低质量负样本会严重损害其性能。
KBGAN
针对随机采样的缺陷，论文提出了一个对抗学习框架（KBGAN）用于提升知识图谱嵌入模型的性能。
KBGAN使用两个模型，一个作为生成器，生成高质量的负样本；一个作为判别器，用正样本和生成器生成的负样本进行训练。
生成器选用基于概率的、log-loss的模型生成更高质量的负样本，判别器选用基于距离的、margin-loss的模型，生成最终的知识图谱嵌入。
KBGAN独立于模型的具体形式，所以无论复杂性如何，所有模型都可以潜在地合并到KBGAN中。
margin-loss 函数，普遍用于基于翻译的模型，距离越小，为真的可能性越大，如 TRANSE 、TRANSH 、TRANSR 和 TRANSD 等。损失函数如下：
实验
数据集：FB15k-237、WN18、WN18RR
标签：采样,嵌入,判别,图谱,KBGAN,生成器,生成,模型 来源： https://www.cnblogs.com/yanchaoyi/p/15682197.html
本站声明： 1. iCode9 技术分享网（下文简称本站）提供的所有内容，仅供技术学习、探讨和分享； 2. 关于本站的所有留言、评论、转载及引用，纯属内容发起人的个人观点，与本站观点和立场无关； 3. 关于本站的所有言论和文字，纯属内容发起人的个人观点，与本站观点和立场无关； 4. 本站文章均是网友提供，不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属；如您发现该文章侵犯了您的权益，可联系我们第一时间进行删除； 5. 本站为非盈利性的个人网站，所有内容不会用来进行牟利，也不会利用任何形式的广告来间接获益，纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。