聊聊python中令人迷惑的duplicated和drop_duplicates()用法
更新時(shí)間：2021年05月21日 11:07:32 作者：石小秀1995
這篇文章主要介紹了聊聊python中令人迷惑的duplicated和drop_duplicates()用法，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。如有錯(cuò)誤或未考慮完全的地方，望不吝賜教
前言
在算face_track_id map有感：
開始驗(yàn)證
data={'state':[1,1,2,2,1,2,2,2],'pop':['a','b','c','d','b','c','d','d']}
frame=pd.DataFrame(data)
frame
frame.shape $ (8,2)
# 說明duplicated()是對(duì)整行進(jìn)行查重，return 重復(fù)了的數(shù)據(jù)，且只現(xiàn)實(shí)n-1條重復(fù)的數(shù)據(jù)（n是重復(fù)的次數(shù)） frame[frame.duplicated() == True]
一開始還很疑惑，明明（1，b）只出現(xiàn)了1次，哪里duplicate了。其實(shí)，人家return的結(jié)果是去掉已經(jīng)出現(xiàn)過一次的行數(shù)據(jù)了。所以看起來有點(diǎn)confuse，感覺（1，b）并沒有重復(fù)，但其實(shí)人家的函數(shù)很簡(jiǎn)潔呢，返回了重復(fù)值而且不冗余。
# 說明drop_duplicates()函數(shù)是將所有重復(fù)的數(shù)據(jù)都去掉了，且默認(rèn)保留重復(fù)數(shù)據(jù)的第一條。 # 比如（2，d）出現(xiàn)了3次，在duplicated（）中顯示了2次，在drop_dupicates（）后保留了一個(gè) frame.drop_duplicates().shape $ (4,2)
# 留下了完全唯一的數(shù)據(jù)行 frame.drop_duplicates()
補(bǔ)充：python的pandas重復(fù)值處理（duplicated()和drop_duplicates())
一、生成重復(fù)記錄數(shù)據(jù)
import numpy as np import pandas as pd #生成重復(fù)數(shù)據(jù) df=pd.DataFrame(np.ones([5,2]),columns=['col1','col2']) df['col3']=['a','b','a','c','d'] df['col4']=[3,2,3,2,2] df=df.reindex(columns=['col3','col4','col1','col2']) #將新增的一列排在第一列 df
輸出：
二、判斷重復(fù)記錄（行）
#判斷重復(fù)數(shù)據(jù) isDplicated=df.duplicated() #判斷重復(fù)數(shù)據(jù)記錄 isDplicated
輸出：
三、刪除重復(fù)值
#刪除重復(fù)值 new_df1=df.drop_duplicates() #刪除數(shù)據(jù)記錄中所有列值相同的記錄 new_df2=df.drop_duplicates(['col3']) #刪除數(shù)據(jù)記錄中col3列值相同的記錄 new_df3=df.drop_duplicates(['col4']) #刪除數(shù)據(jù)記錄中col4列值相同的記錄 new_df4=df.drop_duplicates(['col3','col4']) #刪除數(shù)據(jù)記錄中(col3和col4)列值相同的記錄 new_df1 new_df2 new_df3 new_df4
輸出：
以上為個(gè)人經(jīng)驗(yàn)，希望能給大家一個(gè)參考，也希望大家多多支持腳本之家。
相關(guān)文章
這篇文章主要介紹了python中實(shí)現(xiàn)棧的三種方法，幫助大家更好的理解和使用python，感興趣的朋友可以了解下2020-12-12
Python數(shù)據(jù)處理的三個(gè)實(shí)用技巧分享
數(shù)據(jù)處理無所不在，掌握常用技巧，事半功倍。這篇文章將使用Pandas開展數(shù)據(jù)處理分析，總結(jié)其中常用、好用的數(shù)據(jù)分析技巧，感興趣的可以學(xué)習(xí)一下2022-04-04
這篇文章主要介紹了python爬蟲scrapy框架的梨視頻案例解析,本文通過實(shí)例代碼給大家介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值，需要的朋友可以參考下2021-02-02
這篇文章主要介紹了PyQt Qt Designer工具的布局管理詳解,文中通過示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2019-08-08
Python for循環(huán)通過序列索引迭代過程解析
這篇文章主要介紹了Python for循環(huán)通過序列索引迭代過程解析,文中通過示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2020-02-02
基于Python的自媒體小助手---登錄頁面的實(shí)現(xiàn)代碼
這篇文章主要介紹了基于Python的自媒體小助手---登錄頁面的實(shí)現(xiàn)代碼，本文通過實(shí)例代碼給大家介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2020-06-06
這篇文章主要為大家詳細(xì)介紹了Python梯度下降法的簡(jiǎn)單示例，文中示例代碼介紹的非常詳細(xì)，具有一定的參考價(jià)值，感興趣的小伙伴們可以參考一下2018-08-08
pandas 實(shí)現(xiàn)將兩列中的較大值組成新的一列
這篇文章主要介紹了pandas 實(shí)現(xiàn)將兩列中的較大值組成新的一列，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過來看看吧2021-03-03
python查看矩陣的行列號(hào)以及維數(shù)方式
這篇文章主要介紹了python查看矩陣的行列號(hào)以及維數(shù)方式，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過來看看吧2020-05-05
檢測(cè)tensorflow是否使用gpu進(jìn)行計(jì)算的方式
今天小編就為大家分享一篇檢測(cè)tensorflow是否使用gpu進(jìn)行計(jì)算的方式，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過來看看吧2020-02-02