百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 编程字典 > 正文

DeepMind加持的GNN框架正式开源!TensorFlow进入图神经网络时代

toyiye 2024-06-21 12:01 9 浏览 0 评论

编辑:好困 小咸鱼

【新智元导读】谷歌在垃圾邮件检测、流量估计以及YouTube内容标签等环境中使用了一种强大的工具GNN(图神经网络)。11月18日,谷歌联合DeepMind对外开源TensorFlow GNN工具,助力流量预测、谣言和假新闻检测、疾病传播建模、物理模拟等领域的基础研究。


11月18日,谷歌联合DeepMind发布了TensorFlow GNN(图神经网络)。



目前,谷歌已经在诸如垃圾邮件检测、流量估计以及YouTube内容标签等环境中用上了这个库的早期版本。



为什么要用GNN?


图(Graph)是用于表示对象之间关联关系的一种抽象数据结构,使用节点/顶点(Node/Vertex)和边(Edge)进行描述:顶点表示对象,边表示对象之间的关系。


而在现实世界和工程系统中,图无处不在。


比如,一组物体、地点或人以及它们之间的联系通常可以用图形来描述。


通常,在机器学习问题中看到的数据是结构化的或关系型的,因此也可以用图来描述。


经过几十年的基础研究,GNN已经在很多的领域都取得了进展,如流量预测、谣言和假新闻检测、疾病传播建模、物理模拟以及理解分子为什么有气味。


图模拟不同类型数据之间的关系:网页(左)、社交联系(中)或分子(右)


通过GNN,就可以回答那些关于图的多种特征的问题。比如在图中观察到的各种不同的「形状」:图中的圆圈,可能代表子分子,也可能代表密切的社会关系。


在节点级的任务中,GNN可以对图的节点进行分类,并预测图中的分区和亲和力,类似于图像分类或分割。


在边级别的任务中,可以使用GNN来发现实体之间的连接,比如用GNN「修剪」图中的边,从而识别场景中对象的状态。


TF-GNN的结构


TF-GNN为在TensorFlow中实现GNN模型提供了构建模块。


除了建模API之外,TF-GNN还围绕着处理图数据的困难任务提供了大量的工具:基于Tensor的图数据结构,数据处理管道,以及一些供用户快速上手的示例模型。


组成工作流程的TF-GNN的各个部分


TF-GNN库的初始版本包含了许多实用程序和功能,包括:


  • 一个高水平的Keras风格的API,用于创建GNN模型,可以很容易地与其他类型的模型组合。GNN经常与排名、深度检索(双编码器)或与其他类型的模型(图像、文本等)结合使用。


  • 用于异构图的GNN API。在现实世界中处理的许多图问题都包含不同类型的节点和边。因此,谷歌选择提供一种简单的方法来建模。


  • 一个定义明确的模式来声明一个图的拓扑结构,以及验证它的工具。这个模式描述了其训练数据的形状,并用于指导其他工具。


  • 一个保存了图数据的GraphTensor复合张量类型。其可以被分批处理,并有可用的图操作程序。


  • 一个对GraphTensor结构的操作库:
    • 在节点和边上进行各种有效的传播和池化操作的相关工具。
    • 一个标准的卷积库,可以被ML工程师/研究人员轻松扩展。
    • 一个高层次的API,供产品工程师快速建立GNN模型,而不必担心其细节问题。


  • 对磁盘上的图训练数据进行编码,以及用于将这些数据解析为数据结构的库。其中,模型可以从中提取各种特征。


使用示例


比如,使用TF-GNN Keras API建立一个模型,并根据用户观看的内容和喜欢的类型向其推荐电影。


通过使用ConvGNNBuilder方法来指定边缘和节点配置的类型,即对边缘使用WeightedSumConvolution。每次通过GNN时,都将通过Dense互连层来更新节点值:


import tensorflow as tf

import tensorflow_gnn as tfgnn

    # Model hyper-parameters:

h_dims = {'user': 256, 'movie': 64, 'genre': 128}

# Model builder initialization:

gnn = tfgnn.keras.ConvGNNBuilder(

  lambda edge_set_name: WeightedSumConvolution(),

  lambda node_set_name: tfgnn.keras.layers.NextStateFromConcat(

     tf.keras.layers.Dense(h_dims[node_set_name]))

)

# Two rounds of message passing to target node sets:

model = tf.keras.models.Sequential([

    gnn.Convolve({'genre'}),  # sends messages from movie to genre

    gnn.Convolve({'user'}),  # sends messages from movie and genre to users

    tfgnn.keras.layers.Readout(node_set_name="user"),

    tf.keras.layers.Dense(1)

])

此外,还可以在某些场景下让GNN使用一个更强大的自定义模型架构。


例如,指定某些电影或流派在推荐时拥有更多的权重。


那么,就可以通过自定义图卷积来生成一个更高级的GNN。


在下面的这段代码中,就用WeightedSumConvolution类来汇集边的值,并作为所有边的权重之和:


class WeightedSumConvolution(tf.keras.layers.Layer):

  """Weighted sum of source nodes states."""

  def call(self, graph: tfgnn.GraphTensor,

           edge_set_name: tfgnn.EdgeSetName) -> tfgnn.Field:

    messages = tfgnn.broadcast_node_to_edges(

        graph,

        edge_set_name,

        tfgnn.SOURCE,

        feature_name=tfgnn.DEFAULT_STATE_NAME)

    weights = graph.edge_sets[edge_set_name]['weight']

    weighted_messages = tf.expand_dims(weights, -1) * messages

    pooled_messages = tfgnn.pool_edges_to_node(

        graph,

        edge_set_name,

        tfgnn.TARGET,

        reduce_type='sum',

        feature_value=weighted_messages)

    return pooled_messages

尽管卷积是在只考虑源节点和目标节点的情况下编写的,但是TF-GNN确保了它的适用性,并且可以无缝地在异构图(具有各种类型的节点和边)上工作。


安装说明

这是目前安装tensorflow_gnn预览版的唯一方法。强烈建议使用虚拟环境。


  1. 克隆tensorflow_gnn


gt; git clone https://github.com/tensorflow/gnn.git tensorflow_gnn


  1. 安装TensorFlow


TF-GNN需要用到TensorFlow 2.7中的一个功能:tf.ExtensionTypes。


gt; pip install tensorflow
  1. 安装Bazel


构建TF-GNN的源代码需要用到Bazel。


  1. 安装GraphViz


TF-GNN将使用GraphViz作为可视化工具。安装方法因操作系统而异,例如,在Ubuntu中:


gt; sudo apt-get install graphviz graphviz-dev


  1. 安装tensorflow_gnn

gt; cd tensorflow_gnn && python3 -m pip install


参考资料:

https://blog.tensorflow.org/2021/11/introducing-tensorflow-gnn.html?m=1

https://github.com/tensorflow/gnn

相关推荐

为何越来越多的编程语言使用JSON(为什么编程)

JSON是JavascriptObjectNotation的缩写,意思是Javascript对象表示法,是一种易于人类阅读和对编程友好的文本数据传递方法,是JavaScript语言规范定义的一个子...

何时在数据库中使用 JSON(数据库用json格式存储)

在本文中,您将了解何时应考虑将JSON数据类型添加到表中以及何时应避免使用它们。每天?分享?最新?软件?开发?,Devops,敏捷?,测试?以及?项目?管理?最新?,最热门?的?文章?,每天?花?...

MySQL 从零开始:05 数据类型(mysql数据类型有哪些,并举例)

前面的讲解中已经接触到了表的创建,表的创建是对字段的声明,比如:上述语句声明了字段的名称、类型、所占空间、默认值和是否可以为空等信息。其中的int、varchar、char和decimal都...

JSON对象花样进阶(json格式对象)

一、引言在现代Web开发中,JSON(JavaScriptObjectNotation)已经成为数据交换的标准格式。无论是从前端向后端发送数据,还是从后端接收数据,JSON都是不可或缺的一部分。...

深入理解 JSON 和 Form-data(json和formdata提交区别)

在讨论现代网络开发与API设计的语境下,理解客户端和服务器间如何有效且可靠地交换数据变得尤为关键。这里,特别值得关注的是两种主流数据格式:...

JSON 语法(json 语法 priority)

JSON语法是JavaScript语法的子集。JSON语法规则JSON语法是JavaScript对象表示法语法的子集。数据在名称/值对中数据由逗号分隔花括号保存对象方括号保存数组JS...

JSON语法详解(json的语法规则)

JSON语法规则JSON语法是JavaScript对象表示法语法的子集。数据在名称/值对中数据由逗号分隔大括号保存对象中括号保存数组注意:json的key是字符串,且必须是双引号,不能是单引号...

MySQL JSON数据类型操作(mysql的json)

概述mysql自5.7.8版本开始,就支持了json结构的数据存储和查询,这表明了mysql也在不断的学习和增加nosql数据库的有点。但mysql毕竟是关系型数据库,在处理json这种非结构化的数据...

JSON的数据模式(json数据格式示例)

像XML模式一样,JSON数据格式也有Schema,这是一个基于JSON格式的规范。JSON模式也以JSON格式编写。它用于验证JSON数据。JSON模式示例以下代码显示了基本的JSON模式。{"...

前端学习——JSON格式详解(后端json格式)

JSON(JavaScriptObjectNotation)是一种轻量级的数据交换格式。易于人阅读和编写。同时也易于机器解析和生成。它基于JavaScriptProgrammingLa...

什么是 JSON:详解 JSON 及其优势(什么叫json)

现在程序员还有谁不知道JSON吗?无论对于前端还是后端,JSON都是一种常见的数据格式。那么JSON到底是什么呢?JSON的定义...

PostgreSQL JSON 类型:处理结构化数据

PostgreSQL提供JSON类型,以存储结构化数据。JSON是一种开放的数据格式,可用于存储各种类型的值。什么是JSON类型?JSON类型表示JSON(JavaScriptO...

JavaScript:JSON、三种包装类(javascript 包)

JOSN:我们希望可以将一个对象在不同的语言中进行传递,以达到通信的目的,最佳方式就是将一个对象转换为字符串的形式JSON(JavaScriptObjectNotation)-JS的对象表示法...

Python数据分析 只要1分钟 教你玩转JSON 全程干货

Json简介:Json,全名JavaScriptObjectNotation,JSON(JavaScriptObjectNotation(记号、标记))是一种轻量级的数据交换格式。它基于J...

比较一下JSON与XML两种数据格式?(json和xml哪个好)

JSON(JavaScriptObjectNotation)和XML(eXtensibleMarkupLanguage)是在日常开发中比较常用的两种数据格式,它们主要的作用就是用来进行数据的传...

取消回复欢迎 发表评论:

请填写验证码