首页 > 其他 > 详细

有一组列表套列表的数据,如果根据指定的多列判断去重?

时间:2019-05-31 15:51:09      阅读:102      评论:0      收藏:0      [点我收藏+]

排除index的干扰,比较其他列,如果数据重复则删除后面出现的。

In [1]: new_list_of_list = [
   ...:     ['8834769542251520',  0, '金跃跃', '9860000100001', '董事长、总经理'],
   ...:     ['8834769542251520',  1, '王晓慧', '9860000200001', '董事、副董事长、副总经理'],
   ...:     ['8834769542251520',  2, '戚海平', '9860000300001', '董事、财务总监、董事会秘书'],
   ...:     ['8834769542251520',  3, '陈榴生', '9860000400001', '董事'],
   ...:     ['8834769542251520',  4, '刘浩', '9860000500001', '董事'],
   ...:     ['8834769542251520',  5, '陈榴生', '9860000400001', '董事'],
   ...:     ['8834769542251520',  6, '刘浩', '9860000500001', '董事']
   ...:     ]

# 转换为pandas进行处理
In [2]: import pandas as pd

# pandas赋予列名
In [3]: df_new_list_of_list = pd.DataFrame(new_list_of_list, columns=["wenjian_id", "index", "name", "report_type", "duty"])

# 指定去重需要参考的列名
In [6]: df_new_list_of_list = df_new_list_of_list.drop_duplicates(subset=["wenjian_id", "name", "report_type", "duty"],keep="first")

In [7]: df_new_list_of_list
Out[7]:
         wenjian_id  index name    report_type           duty
0  8834769542251520      0  金跃跃  9860000100001        董事长、总经理
1  8834769542251520      1  王晓慧  9860000200001   董事、副董事长、副总经理
2  8834769542251520      2  戚海平  9860000300001  董事、财务总监、董事会秘书
3  8834769542251520      3  陈榴生  9860000400001             董事
4  8834769542251520      4   刘浩  9860000500001             董事

有一组列表套列表的数据,如果根据指定的多列判断去重?

原文:https://www.cnblogs.com/everfight/p/drop_duplicates.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!