这篇文章给大家介绍如何在python中使用duplicated和drop_duplicates(),内容非常详细,感兴趣的小伙伴们可以参考借鉴,希望对大家能有所帮助。
data={'state':[1,1,2,2,1,2,2,2],'pop':['a','b','c','d','b','c','d','d']} frame=pd.DataFrame(data) frame
frame.shape $ (8,2)
# 说明duplicated()是对整行进行查重,return 重复了的数据,且只现实n-1条重复的数据(n是重复的次数) frame[frame.duplicated() == True]
一开始还很疑惑,明明(1,b)只出现了1次,哪里duplicate了。其实,人家return的结果是去掉已经出现过一次的行数据了。所以看起来有点confuse,感觉(1,b)并没有重复,但其实人家的函数很简洁呢,返回了重复值而且不冗余。
# 说明drop_duplicates()函数是将所有重复的数据都去掉了,且默认保留重复数据的第一条。 # 比如(2,d)出现了3次,在duplicated()中显示了2次,在drop_dupicates()后保留了一个 frame.drop_duplicates().shape $ (4,2)
# 留下了完全唯一的数据行 frame.drop_duplicates()
补充:python的pandas重复值处理(duplicated()和drop_duplicates())
import numpy as np import pandas as pd #生成重复数据 df=pd.DataFrame(np.ones([5,2]),columns=['col1','col2']) df['col3']=['a','b','a','c','d'] df['col4']=[3,2,3,2,2] df=df.reindex(columns=['col3','col4','col1','col2']) #将新增的一列排在第一列 df
输出:
#判断重复数据 isDplicated=df.duplicated() #判断重复数据记录 isDplicated
输出:
#删除重复值 new_df1=df.drop_duplicates() #删除数据记录中所有列值相同的记录 new_df2=df.drop_duplicates(['col3']) #删除数据记录中col3列值相同的记录 new_df3=df.drop_duplicates(['col4']) #删除数据记录中col4列值相同的记录 new_df4=df.drop_duplicates(['col3','col4']) #删除数据记录中(col3和col4)列值相同的记录 new_df1 new_df2 new_df3 new_df4
输出:
1、云计算,典型应用OpenStack。2、WEB前端开发,众多大型网站均为Python开发。3.人工智能应用,基于大数据分析和深度学习而发展出来的人工智能本质上已经无法离开python。4、系统运维工程项目,自动化运维的标配就是python+Django/flask。5、金融理财分析,量化交易,金融分析。6、大数据分析。
关于如何在python中使用duplicated和drop_duplicates()就分享到这里了,希望以上内容可以对大家有一定的帮助,可以学到更多知识。如果觉得文章不错,可以把它分享出去让更多的人看到。
免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。