list - python多进程数据输出问题

查看:139
本文介绍了list - python多进程数据输出问题的处理方法,对大家解决问题具有一定的参考价值,需要的朋友们下面随着小编来一起学习吧!

问题描述

问 题

import requests,json
from multiprocessing import Pool
info_list=[]#空list
url_list=[......]#多个url
def get_info(url):
    json_data=requests.get(url).json()
    info_list.append(json_data)
if __name__=="__main__":
    with Pool() as p:
        p.map(get_info,url_list)

我知道这样最终info_list中还是空的,因为多进程每个进程各自持有一份数据,默认无法共享数据,我尝试了Manager,Queue,但是不知道为什么还是不行,最后list中还是没有数据,大佬能给一段代码吗?
我的目的就是多进程运行,每个进程向list中添加数据,最后得到这个list值.

解决方案

  1. 你这个list不是进程安全, 会有bug

你自己debug看看是json_data没有,还是说其他的问题, 光靠这个代码真的看不出来哦

这篇关于list - python多进程数据输出问题的文章就介绍到这了,希望我们推荐的答案对大家有所帮助,也希望大家多多支持IT屋!

查看全文
登录 关闭
扫码关注1秒登录
发送“验证码”获取 | 15天全站免登陆