GNN for Science: 腾讯AI Lab、清华共同发文综述等变图神经网络( 四 )


分子生成:在分子生成领域 , 等变图神经网络往往用于和分子构象相关的生成 。 ConfGF 和 DSGM 基于旋转 - 平移不变 GNN 来参数化打分函数并且构造了基于打分的构象生成模型 。 GeoDiff 则借助去噪扩散概率模型 (Denoising Diffusion Probabilistic Model) 并且基于具有等变保证的 GNN 来构造模型 。 等变流(Equivariant Flow)验证了基于等变核的标准化流(Normalizing Flow)的可行性 。
对于点云的建模
点云是对象的一种表示格式 , 它通过一组分配有坐标的点来描述形状 。 在对点云建模这一领域 , 包含一些经典的数据和任务 。 ModelNet40 和 ScanObjectNN 是两个经典的点云数据集 , 其任务是做物品分类 。 因为在点云数据里面不存在显式的点和点的链接 , 在等变图神经网络建模点云的时候 , 往往会以一个距离 d 作为阈值来构造点和点之间的边 。 TFN 和 SE(3)-Transformer 都在点云数据取得了相对于传统方法具有竞争力的性能 。
未来展望
在对现有等变图神经网络的方法和应用进行了系统性总结后 。 本综述也对这一领域未来潜在发展方向进行了一些讨论:
理论的完备性:不同于经典图神经网络 , 等变神经网络还缺乏一系列的关于表达能力和泛化性的理论分析框架 。 现有的一些工作主要集中在讨论消息传播机制中存在的通用表达 。 但是对于模型的整体性质依然不够清晰 。 如何构造一个完备的理论框架以指导模型的设计是未来十分有趣的方向 。
大规模等变图神经网络 , 在前面已经提到 , 基于群表示理论的方法都具有计算复杂度太高这一缺点 , 这限制了等变图神经网络在大规模数据上的应用 。 尤其是在结合一些更复杂的结构 , 例注意力机制的时候 , 这一问题会更加严重 。 如何有效的精简现有模型并且加速计算 , 使得现有的等变图神经网络可以适用于大规模数据 , 是一个重要方向 。
对多层次结构的建模:许多现实世界的系统都表现出复杂层次结构 。 例如 , 有机分子由多个官能团组成 , 蛋白质由氨基酸组成 。 通过利用这些结构 , 我们可以设计出对多粒度多层次结构的系统进行建模 。 与现有的只有单层结构的消息传递范式相比 。 这种层次结构的等变模型可能可以更好的刻画这种层次结构信息 , 提高模型的性能和泛化性 。
【GNN for Science: 腾讯AI Lab、清华共同发文综述等变图神经网络】新的应用和数据:现有的等变图神经网络模型大多数只是在规模和复杂性优先的系统上进行性能评估 , 例如模拟的 N-body 系统和小分子 MD 数据 。 未来 , 我们需要在一些更具有挑战性的任务上评估等变图神经网络的有效性 , 这些挑战包括:更多数量的对象 , 更复杂的交互 , 更多样化的约束等等 。 近期以来 , 在蛋白质建模上的工作是一些有益的尝试 。 但是由于数据收集的困难和数据质量的限制 , 尚未有一个全面的可以评估各种方法的数据集出现 。 在未来如何将等变神经网络扩展到更多 , 更复杂的领域 , 去解决现实问题是一个很有意义的方向 。

特别声明:本站内容均来自网友提供或互联网,仅供参考,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。