百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 编程字典 > 正文

5个例子介绍Pandas的merge并对比SQL中join

toyiye 2024-07-16 05:39 14 浏览 0 评论


本文的重点是在合并和连接操作方面比较Pandas和SQL。Pandas是一个用于Python的数据分析和操作库。SQL是一种用于管理关系数据库中的数据的编程语言。两者都使用带标签的行和列的表格数据。

Pandas的merge函数根据公共列中的值组合dataframe。SQL中的join可以执行相同的操作。这些操作非常有用,特别是当我们在表的不同数据中具有共同的数据列(即数据点)时。

pandas的merge图解

我创建了两个简单的dataframe和表,通过示例来说明合并和连接。

“cust”包含5个客户的3条信息。列是id、年龄和类别。

“purc”包含客户id、机票号码和购买金额。

id是共同列的列,所以我们将在合并或联接时使用它。

您可能已经注意到,id列并不完全相同。有些值只存在于一个dataframe中。我们将在示例中看到处理它们的方法。

示例1

第一个示例是基于id列中的共享值进行合并或连接。使用默认设置完成了这个任务,所以我们不需要调整任何参数。

import pandas as pd 
cust.merge(purc, on='id')

Pandas的merge函数不会返回重复的列。另一方面,如果我们选择两个表中的所有列(“*”),则在SQL join中id列是重复的。

mysql> select cust.*, purc.* 
-> from cust join purc 
-> on cust.id = purc.id 

;+------+------+------+------+--------+--------+ 
| id | age | ctg | id | ticket | amount | 
+------+------+------+------+--------+--------+ 
| 3 | 22 | B | 3 | 1001 | 24.10 | 
| 4 | 29 | C | 4 | 1002 | 32.50 | 
| 5 | 17 | B | 5 | 1003 | 34.80 | 
+------+------+------+------+--------+--------+

示例2

假设我们希望左表中有所有的行,而右表中只有匹配的行。在Pandas中,on参数被更改为“left”。在SQL中,我们使用“left join”而不是“join”关键字。

cust.merge(purc, on='id', how='left')
mysql> select cust.*, purc.* 
-> from cust 
-> left join purc 
-> on cust.id = purc.id 

;+------+------+------+------+--------+--------+ 
| id | age | ctg | id | ticket | amount | 
+------+------+------+------+--------+--------+ 
| 3 | 22 | B | 3 | 1001 | 24.10 | 
| 4 | 29 | C | 4 | 1002 | 32.50 | 
| 5 | 17 | B | 5 | 1003 | 34.80 | 
| 1 | 34 | A | NULL | NULL | NULL | 
| 2 | 28 | A | NULL | NULL | NULL |

purcdataframe和表中没有id为1或2的行。因此,purc中的列中填充了这些行的空值。

示例3

如果我们想要看到两个dataframe或表中的所有行,该怎么办?

在Pandas中,这是一个简单的操作,可以通过将' outer '参数传递给on形参来完成。

cust.merge(purc, on='id', how='outer')

MySQL没有提供“完整的外连接”,但是我们可以通过两个左连接来实现。

注意:尽管关系数据库管理系统(rdbms)采用的SQL语法基本相同,但可能会有一些细微的差异。因此,最好检查特定RDBMS的文档,看看它是否支持完整的外部连接。

在MySQL中,完整的外连接可以通过两个左连接实现:

mysql> select cust.*, purc.* 
-> from cust left join purc 
-> on cust.id = purc.id 
-> union 
-> select cust.*, purc.* 
-> from purc left join cust 
-> on cust.id = purc.id 
;+------+------+------+------+--------+--------+ 
| id | age | ctg | id | ticket | amount | 
+------+------+------+------+--------+--------+ 
| 3 | 22 | B | 3 | 1001 | 24.10 | 
| 4 | 29 | C | 4 | 1002 | 32.50 | 
| 5 | 17 | B | 5 | 1003 | 34.80 | 
| 1 | 34 | A | NULL | NULL | NULL | 
| 2 | 28 | A | NULL | NULL | NULL | 
| NULL | NULL | NULL | 6 | 1004 | 19.50 | 
| NULL | NULL | NULL | 7 | 1005 | 26.20 | 
+------+------+------+------+--------+--------+

union操作符将多个查询的结果堆叠起来。这类似于Pandas的concat功能。

示例4

合并或联接不仅仅是合并数据。我们可以把它们作为数据分析的工具。例如,我们可以计算每个类别(“ctg”)的总订单金额。

cust.merge(purc, on='id', how='left')[['ctg','amount']].groupby('ctg').mean() 

ctg amount 
-------------- 
A NaN 
B 29.45 
C 32.50

因为purc表不包含任何属于类别A中的客户的购买,所以sum结果为Null。

mysql> select cust.ctg, sum(purc.amount) 
-> from cust 
-> left join purc 
-> on cust.id = purc.id 
-> group by cust.ctg 
;+------+------------------+ 
| ctg | sum(purc.amount) | 
+------+------------------+ 
| A | NULL | 
| B | 58.90 | 
| C | 32.50 | 
+------+------------------+

示例5

我们还可以在组合之前根据条件筛选行。让我们假设我们需要找到小于25岁的客户的购买量。

对于pandas 我们首先过滤dataframe,然后应用合并函数。

cust[cust.age < 25].merge(purc, on='id', how='left')[['age','amount']] 

age amount 
0 22 24.1 
1 17 34.8

mysql使用一个where子句来指定过滤条件。

mysql> select cust.age, purc.amount 
-> from cust 
-> join purc 
-> on cust.id = purc.id 
-> where cust.age < 25 
;+------+--------+ 
| age | amount | 
+------+--------+ 
| 22 | 24.10 | 
| 17 | 34.80 | 
+------+--------+

总结

我们已经介绍了一些示例来演示Pandas合并函数和SQL连接之间的区别和相似之处。

这些例子可以看作是简单的案例,但是它们可以帮助您建立直觉并理解基础知识。在理解了基础知识之后,您可以构建更高级的操作。

作者:Soner Y?ld?r?m

deephub翻译组

相关推荐

为何越来越多的编程语言使用JSON(为什么编程)

JSON是JavascriptObjectNotation的缩写,意思是Javascript对象表示法,是一种易于人类阅读和对编程友好的文本数据传递方法,是JavaScript语言规范定义的一个子...

何时在数据库中使用 JSON(数据库用json格式存储)

在本文中,您将了解何时应考虑将JSON数据类型添加到表中以及何时应避免使用它们。每天?分享?最新?软件?开发?,Devops,敏捷?,测试?以及?项目?管理?最新?,最热门?的?文章?,每天?花?...

MySQL 从零开始:05 数据类型(mysql数据类型有哪些,并举例)

前面的讲解中已经接触到了表的创建,表的创建是对字段的声明,比如:上述语句声明了字段的名称、类型、所占空间、默认值和是否可以为空等信息。其中的int、varchar、char和decimal都...

JSON对象花样进阶(json格式对象)

一、引言在现代Web开发中,JSON(JavaScriptObjectNotation)已经成为数据交换的标准格式。无论是从前端向后端发送数据,还是从后端接收数据,JSON都是不可或缺的一部分。...

深入理解 JSON 和 Form-data(json和formdata提交区别)

在讨论现代网络开发与API设计的语境下,理解客户端和服务器间如何有效且可靠地交换数据变得尤为关键。这里,特别值得关注的是两种主流数据格式:...

JSON 语法(json 语法 priority)

JSON语法是JavaScript语法的子集。JSON语法规则JSON语法是JavaScript对象表示法语法的子集。数据在名称/值对中数据由逗号分隔花括号保存对象方括号保存数组JS...

JSON语法详解(json的语法规则)

JSON语法规则JSON语法是JavaScript对象表示法语法的子集。数据在名称/值对中数据由逗号分隔大括号保存对象中括号保存数组注意:json的key是字符串,且必须是双引号,不能是单引号...

MySQL JSON数据类型操作(mysql的json)

概述mysql自5.7.8版本开始,就支持了json结构的数据存储和查询,这表明了mysql也在不断的学习和增加nosql数据库的有点。但mysql毕竟是关系型数据库,在处理json这种非结构化的数据...

JSON的数据模式(json数据格式示例)

像XML模式一样,JSON数据格式也有Schema,这是一个基于JSON格式的规范。JSON模式也以JSON格式编写。它用于验证JSON数据。JSON模式示例以下代码显示了基本的JSON模式。{"...

前端学习——JSON格式详解(后端json格式)

JSON(JavaScriptObjectNotation)是一种轻量级的数据交换格式。易于人阅读和编写。同时也易于机器解析和生成。它基于JavaScriptProgrammingLa...

什么是 JSON:详解 JSON 及其优势(什么叫json)

现在程序员还有谁不知道JSON吗?无论对于前端还是后端,JSON都是一种常见的数据格式。那么JSON到底是什么呢?JSON的定义...

PostgreSQL JSON 类型:处理结构化数据

PostgreSQL提供JSON类型,以存储结构化数据。JSON是一种开放的数据格式,可用于存储各种类型的值。什么是JSON类型?JSON类型表示JSON(JavaScriptO...

JavaScript:JSON、三种包装类(javascript 包)

JOSN:我们希望可以将一个对象在不同的语言中进行传递,以达到通信的目的,最佳方式就是将一个对象转换为字符串的形式JSON(JavaScriptObjectNotation)-JS的对象表示法...

Python数据分析 只要1分钟 教你玩转JSON 全程干货

Json简介:Json,全名JavaScriptObjectNotation,JSON(JavaScriptObjectNotation(记号、标记))是一种轻量级的数据交换格式。它基于J...

比较一下JSON与XML两种数据格式?(json和xml哪个好)

JSON(JavaScriptObjectNotation)和XML(eXtensibleMarkupLanguage)是在日常开发中比较常用的两种数据格式,它们主要的作用就是用来进行数据的传...

取消回复欢迎 发表评论:

请填写验证码