ICode9

精准搜索请尝试: 精确搜索
首页 > 其他分享> 文章详细

图神经网络总结

2022-04-24 13:33:16  阅读:174  来源: 互联网

标签:总结 可以 神经网络 顶点 GNN 向量 属性


  看了李沐老师在B站讲的零基础多图详解图神经网络(视频),博客地址,这里稍微总结一下。图神经网络部分看得不是很清楚,建议感兴趣的同学看一下视频或者博客

1.什么是图

  图是表示一些实体之间的一些关系,实体为顶点,关系为边,图上面可以有三种问题:1.图的分类,如分出包括两个环的图。2.顶点分类,如在一张关系图中,分出与A有关系的人和与B有关系我的人。3.边属性,如一个人在看另一个人,则边属性为看。图上包括四种属性:顶点和边的属性,全局信息及连接性,连接性可以用邻接矩阵表示,但是会存在一些问题:1.图可能会非常大。即使可以用稀疏矩阵进行存储,但是高效计算稀疏矩阵是一件比较难的事情。2.邻接矩阵矩阵和矩阵的转置乃至不同节点顺序的邻接矩阵表达的信息是一样的,所以神经网络对于这些矩阵的输出应保证一致。

2.图神经网络

  GNN是一个对图上所有四种属性进行的一个可以优化的变换,这种变换是可以保持住图的对称信息的,这里用的是信息传递的框架,GNN输入是一个图,输出也是一个图,它会对属性,也就是顶点,边,全局属性向量进行变换,但是不会改变图的连接性,如果缺少某一类属性的向量,可以通过汇聚操作,得到缺少的向量,例如缺少顶点的向量信息,可以将与顶点连接的所有边的向量和全局向量加起来,则可以得到该顶点的向量,如果缺少边的向量,则可以把该边连接的顶点向量加起来,还可以加上全局向量,得到该边的向量,从而最简单的GNN模型就是将输入一系列的GNN层,每个层包括三个MLP,对应三种不同的属性,输出一个图,根据要预测的属性加入合适的输出层,如果确实向量则加入合适的汇聚层,但是这种模型缺少连接信息,所以可以进行改进。

  在更新的时候,将要更新的顶点向量与相连的顶点向量加起来进行更新,如果顶点代表像素,与相邻像素相连的话,则该过程与卷积有些类似,不过权重是相同的,由上可知,顶点向量相加可以得到边向量,边向量相加可以得到顶点向量,从而可以通过两种加法的结合实现顶点信息与边信息的共享。

  全局信息:如果只看邻居节点,则当消息从一个点传递到一个很远的点,需要走很长的步才行,因此加入一个叫master node或者叫context vector的点U,这个点是一个虚拟的点,这个点与所有的点和所有的边相连,所以在更新的时候可以加入这个向量,起到走捷径的效果

3.评价

  图是一个非常强大的工具,但是也存在问题:1.优化较难,因为它是一个稀疏的架构。2.图神经网络对超参数非常敏感

标签:总结,可以,神经网络,顶点,GNN,向量,属性
来源: https://www.cnblogs.com/lhiker/p/16149627.html

本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享;
2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关;
3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关;
4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除;
5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。

专注分享技术,共同学习,共同进步。侵权联系[81616952@qq.com]

Copyright (C)ICode9.com, All Rights Reserved.

ICode9版权所有