深度学习|从分歧走向融合:图神经网络历经了怎样的演化之路?( 三 )


事实上 , 基于超大规模复杂数据的用户与内容理解是许多互联网内容企业所面临的共同课题 。 而图神经网络已经成为目前互联网企业高效表征用户与内容结构的关键技术 。 图神经网络已经被广泛应用在社交网络、推荐系统、科科学研究、化学分子预测、知识图谱等领域 。
走向“多图”融合
在图神经网络的发展过程中 , 总结来说最终演化出了五个子领域:图卷积网络、图自编码器、图生成网络、图循环网络和图注意力网络 。 这些子领域的发展也代表着着图神经网络的差异化的演绎方向 。
图卷积网络、图注意力网络在前文都提及过 , 图循环网络是最早出现的GNN网络模型 , 通常将图数据转换为序列 , 在训练的过程中序列会不断地递归演进和变化 。 图生成网络是生成图数据的GNN , 在使用一定的规则对节点和边进行重新组合最终生成具有特定属性和要求的目标图 , 在建模生成图的科学研究、生物工程等领域应用广泛 。
每种不同的图神经网络子领域发展都有自己对图结构数据处理的一套体系其中的适用范围有差别 , 但它们之间也并不是相互孤立和排斥 。 图自编码器中包含着图卷积层图注意力网络也大多以其他图神经网络框架为基础 。 目前比较主流的融合方式是图卷积神经网络与其他GNN子领域的结合比较多 。 在图神经网络的实际应用中未来更需要解决复杂的工程问题 , 这也需要多图的融合:根据具体图的分布和特征信息以及任务的需求选择组合合适的图神经网络来更加有效地学习图结构数据 。

图神经网络的核心在于规范化的表示图结构数据与传递层内或层间数据信息 。 经过十几年的不断发展 通过各行业内产业落地的应用以及实验室中理论的不断迭代 , GNN 在理论上和实践上都被证实是对图结构数据处理的一种有效方法和框架 。 不过虽然图神经网络在实际应用中取得了不错的成绩 , 但也存在着一些需要完善的地方 , 这也是图神经网络未来可能的发展方向 。
1.网络深度的扩展 。 在大规模数据集的不断增多发展中图节点之间的边连接数量随之增多 , 这也极大增加了训练过程中的计算复杂度可能导致过拟合的现象发生 。 如果加深网络层数就必须限制每层节点数量 。 但这也会带来新的问题:网络层数的增加会使得特征聚集的量变少导致节点之间信息传播受阻 。 这一矛盾性问题是未来研究的重点之一 。
2.图数据动态性的处理能力欠缺 。 现有的 GNN 大多处理的是静态图 , 但在实际的工程应用中 , 数据的增加和改变是常态在这些任务处理中数据图的动态变化是不能忽视的 。 如何对图的动态性进行有效的适应是未来的研究方向之一 。
3.多任务需求中 , GNN能力融合性差 。 在实际的图处理任务中 , 多数的任务都比较复杂 , 抽象出的图结构多域多模态 , 而GNN的能力范围大多数的情况下只能处理其中的某一类型 。 复杂的多网络融合问题 , GNN并不能处理 。 目前比较主流的多网络融合方式更多的是GCN与其他GNN算法相结合 。
我们知道AI的关键能力就是识别与学习 , 在日新月异的数字技术发展中 , 图神经网络的发展在理论和实践中都证明了对于深度学习能力的补充 。 随着图数据的规模越来越大 。 如果图神经网络可以在深度学习的黑箱中既能处理大规模的图数据 , 又能表达出机器思考的逻辑因果 , 那么这对于AI的研究来说 , 就是极其重要的突破 。 说不定我们最期待的机器走向通用化强人工智能可能会从图神经网络开始 。
不过这一切也是一种理想化的设定 , 图神经网络的发展虽然取得了一些成绩 , 但离我们触达通用化的强人工智能路仍道阻且长 , 技术的发展从理论到时间需要AI思维的打磨 , 产业的点点渗透与适应 , 这些都需要时间的灌溉才能开花结果 。 我们就期待着改变世界的超强大脑们带领我们普罗大众们尽快进入这个AI新世界 。