pandas數(shù)據(jù)聚合與分組運(yùn)算的實(shí)現(xiàn)
數(shù)據(jù)聚合與分組運(yùn)算
對(duì)數(shù)據(jù)集進(jìn)行分組并對(duì)各組應(yīng)用一個(gè)函數(shù)(無論是聚合還是轉(zhuǎn)換),通常是數(shù)據(jù)分析工作中的重要環(huán)節(jié)。在將數(shù)據(jù)集加載、融合、準(zhǔn)備好之后,通常就是計(jì)算分組統(tǒng)計(jì)或生成透視表。pandas提供了一個(gè)靈活高效的gruopby功能,它使你能以一種自然的方式對(duì)數(shù)據(jù)集進(jìn)行切片、切塊、摘要等操作。
關(guān)系型數(shù)據(jù)庫(kù)和SQL(Structured Query Language,結(jié)構(gòu)化查詢語(yǔ)言)能夠如此流行的原因之一就是其能夠方便地對(duì)數(shù)據(jù)進(jìn)行連接、過濾、轉(zhuǎn)換和聚合。但是,像SQL這樣的查詢語(yǔ)言所能執(zhí)行的分組運(yùn)算的種類很有限。在本章中你將會(huì)看到,由于Python和pandas強(qiáng)大的表達(dá)能力,我們可以執(zhí)行復(fù)雜得多的分組運(yùn)算(利用任何可以接受pandas對(duì)象或NumPy數(shù)組的函數(shù))。
分組與聚合的原理
在Pandas中,分組是指使用特定的條件將原數(shù)據(jù)劃分為多個(gè)組,聚合在這里指的是,對(duì)每個(gè)分組中的數(shù)據(jù)執(zhí)行某些操作,最后將計(jì)算的結(jié)果進(jìn)行整合。
分組與聚合的過程大概分為以下三步:
![[外鏈圖片轉(zhuǎn)存失敗,源站可能有防盜鏈機(jī)制,建議將圖片保存下來直接上傳(img-1DcdPD1Z-1674035110873)(10數(shù)據(jù)聚合與分組運(yùn)算.assets/image-20210402111015748.png)]](http://img.jbzj.com/file_images/article/202301/2023011909435318.png)
通過groupby()方法將數(shù)據(jù)拆分成組
groupby(by=None, axis=0, level=None, as_index=True, sort=True,group_keys=True, squeeze=False, observed=False, **kwargs)
- by:用于確定進(jìn)行分組的依據(jù)。
- axis:表示分組軸的方向。
- sort:表示是否對(duì)分組標(biāo)簽進(jìn)行排序,接收布爾值,默認(rèn)為True。
按列名進(jìn)行分組
# 通過列名進(jìn)行分組
import pandas as pd
df = pd.DataFrame({"key":['c','b','c','a','b','b','a','c','a'],
"data":[2,4,6,8,10,1,14,16,19]
})
print(df)
'''
key data
0 c 2
1 b 4
2 c 6
3 a 8
4 b 10
5 b 1
6 a 14
7 c 16
8 a 19
'''
# 按照key列進(jìn)行分組
print(df.groupby(by='key'))
'''<pandas.core.groupby.generic.DataFrameGroupBy object at 0x0000000008216688>
'''
group_obj = df.groupby('key')
for i in group_obj:
print(i)
'''
('a', key data
3 a 8
6 a 14
8 a 19)
('b', key data
1 b 4
4 b 10
5 b 1)
('c', key data
0 c 2
2 c 6
7 c 16)
'''
按Series對(duì)象進(jìn)行分組
如果Series對(duì)象與Pandas對(duì)象的索引長(zhǎng)度不相同時(shí),則只會(huì)將具有相同索引的部分?jǐn)?shù)據(jù)進(jìn)行分組
import numpy as np
import pandas as pd
df = pd.DataFrame({
'key1':['A','A','B','B','A'],
'key2':['one','two','one','two','one'],
'data1':['2','3','4','6','8'],
'data2':['3','5','6','3','7']
})
print(df)
'''
key1 key2 data1 data2
0 A one 2 3
1 A two 3 5
2 B one 4 6
3 B two 6 3
4 A one 8 7
'''
se = pd.Series(['a','b','c','a','b'])
print(se)
'''
0 a
1 b
2 c
3 a
4 b
dtype: object
'''
group_obj = df.groupby(se) # 定義series對(duì)象進(jìn)行分組
for i in group_obj:
print(i)
'''
('a', key data
0 c 2
3 a 8)
('b', key data
1 b 4
4 b 10)
('c', key data
2 c 6)
'''
按字典進(jìn)行分組
可以將這個(gè)字典傳給groupby,來構(gòu)造數(shù)組
# 通過字典進(jìn)行分組
from pandas import DataFrame,Series
num_df = DataFrame({'a':[1,2,3,4,5],
'b':[6,7,8,9,10],
'c':[11,12,13,14,15],
'd':[5,4,3,2,1],
'e':[10,9,8,7,6]})
print(num_df)
'''
a b c d e
0 1 6 11 5 10
1 2 7 12 4 9
2 3 8 13 3 8
3 4 9 14 2 7
4 5 10 15 1 6
'''
# 定義分組規(guī)則
mapping = {'a':'第一組','b':'第二組','c':'第一組','d':'第三組','e':'第二組'}
by_column = num_df.groupby(mapping, axis=1)
for i in by_column:
print(i)
'''
('第一組', a c
0 1 11
1 2 12
2 3 13
3 4 14
4 5 15)
('第三組', d
0 5
1 4
2 3
3 2
4 1)
('第二組', b e
0 6 10
1 7 9
2 8 8
3 9 7
4 10 6)
'''
按函數(shù)進(jìn)行分組
將函數(shù)作為分組鍵會(huì)更加靈活,任何一個(gè)被當(dāng)做分組鍵的函數(shù)都會(huì)在各個(gè)索引值上被調(diào)用一次,返回的值會(huì)被用作分組名稱。
使用內(nèi)置函數(shù)len進(jìn)行分組 groupby_obj = df.groupby(len)
比起使用字典或Series,使用Python函數(shù)是一種更原生的方法定義分組映射。任何被當(dāng)做分組鍵的函數(shù)都會(huì)在各個(gè)索引值上被調(diào)用一次,其返回值就會(huì)被用作分組名稱。你可以計(jì)算一個(gè)字符串長(zhǎng)度的數(shù)組,更簡(jiǎn)單的方法是傳入len函數(shù):
key_list = ['a', 'a', 'a', 'b', 'b'] num_df.groupby([len, key_list]).min()
到此這篇關(guān)于pandas數(shù)據(jù)聚合與分組運(yùn)算的實(shí)現(xiàn)的文章就介紹到這了,更多相關(guān)pandas數(shù)據(jù)聚合與分組運(yùn)算內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
Python深度學(xué)習(xí)pytorch神經(jīng)網(wǎng)絡(luò)匯聚層理解
通常當(dāng)我們處理圖像時(shí),我們希望逐漸降低隱藏表示的空間分辨率,聚集信息,這樣隨著我們?cè)谏窠?jīng)網(wǎng)絡(luò)層疊的上升,每個(gè)神經(jīng)元對(duì)其敏感的感受野(輸入)就越大2021-10-10
python通過nmap掃描在線設(shè)備并嘗試AAA登錄(實(shí)例代碼)
這篇文章主要介紹了python通過nmap掃描在線設(shè)備并嘗試AAA登錄,本文通過實(shí)例代碼給大家介紹的非常詳細(xì),具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2019-12-12
有關(guān)wxpython pyqt內(nèi)存占用問題分析
一直覺得wxpython占用內(nèi)存比較多,在工作中寫的一些小程序應(yīng)用,一對(duì)比其它的小程序,發(fā)現(xiàn)內(nèi)存相差確實(shí)有點(diǎn)大2014-06-06
python matlab庫(kù)簡(jiǎn)單用法講解
在本篇文章里小編給大家整理了一篇關(guān)于python matlab庫(kù)簡(jiǎn)單用法講解內(nèi)容,有需要的朋友們可以學(xué)習(xí)下。2020-12-12
centos6.5安裝python3.7.1之后無法使用pip的解決方案
今天小編就為大家分享一篇關(guān)于centos6.5安裝python3.7.1之后無法使用pip的解決方案,小編覺得內(nèi)容挺不錯(cuò)的,現(xiàn)在分享給大家,具有很好的參考價(jià)值,需要的朋友一起跟隨小編來看看吧2019-02-02
升級(jí)Python版本后anaconda navigator啟動(dòng)失敗解決方案(最新推薦)
anaconda navigator啟動(dòng)失敗,尤其是重裝不解決問題的,大概率是庫(kù)沖突,解決方法也很簡(jiǎn)單,只需要?jiǎng)h掉引起沖突的庫(kù),感興趣的朋友跟隨小編一起看看吧2023-11-11
Python庫(kù)skimage繪制二值圖像代碼實(shí)例
這篇文章主要介紹了Python庫(kù)skimage繪制二值圖像代碼實(shí)例,文中通過示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2020-04-04

