我有两个数据表,s1是100万的商品数据,s2是4000的品牌数据,任务是给商品数据里打上品牌标签,我用pandas处理
def matchStr(x): s = s1[s1["product_name"].str.contains(x,na=False)] #然后给s添加一列品牌名就好 s2["brand_name"].apply(matchStr)
这样做可以实现,但是平均处理一个品牌名是3秒左右,4000个要3个多小时才能完成,请问如何更高效的处理这个啊
先笛卡尔积s1['product_name']和s2['brand_name'],设为结果为df则:
df
df[df['brand_name'].isin('product_name')]
为结果。这样子可能会调用内部优化快一点,可以试试。
具体如何在pandas里做笛卡尔积可以参考这个答案。
pandas