pandas 模糊检测重复项 [英] Pandas fuzzy detect duplicates

查看:90
本文介绍了 pandas 模糊检测重复项的处理方法,对大家解决问题具有一定的参考价值,需要的朋友们下面随着小编来一起学习吧!

问题描述

如何在熊猫中使用模糊匹配来有效地检测重复行

How can use fuzzy matching in pandas to detect duplicate rows (efficiently)

如何在没有将row_i转换为String()然后将其与所有其他列进行比较的巨大for循环的情况下,查找一列与其他列的重复项?

How to find duplicates of one column vs. all the other ones without a gigantic for loop of converting row_i toString() and then comparing it to all the other ones?

推荐答案

不是特定于熊猫的,但在python生态系统中,重复数据删除python库似乎可以满足您的要求.特别是,它可以让您分别比较一行的每一列,然后将信息组合为一个匹配的单个概率分数.

Not pandas specific, but within the python ecosystem the dedupe python library would seem to do what you want. In particular, it allows you to compare each column of a row separately and then combine the information into a single probability score of a match.

这篇关于 pandas 模糊检测重复项的文章就介绍到这了,希望我们推荐的答案对大家有所帮助,也希望大家多多支持IT屋!

查看全文
登录 关闭
扫码关注1秒登录
发送“验证码”获取 | 15天全站免登陆