pool相关内容

如何在类内的python中并行化for?

我有一个python函数funz,每次返回一个长度为p的不同数组时,它都会返回. 我需要在不同的时间运行此函数,然后计算每个值的平均值. 我可以使用for循环来执行此操作,但是这会花费很多时间. 我正在尝试使用库多处理,但是遇到错误. import sklearn as sk import numpy as np from sklearn.base import BaseEsti ..
发布时间:2020-05-13 19:42:41 Python

python多处理池终止

我正在处理渲染场,我需要我的客户端能够启动渲染器的多个实例而不会阻塞,以便客户端可以接收新命令.我的工作正常,但是在终止创建的进程时遇到了麻烦. 在全局级别,我定义了我的池(以便可以从任何函数访问它): p = Pool(2) 然后我用apply_async调用渲染器: for i in range(totalInstances): p.apply_async(ren ..
发布时间:2020-05-13 19:33:40 Python

Python多重处理永远不会加入

我正在使用multiprocessing,特别是使用Pool来剥离几个“线程"来完成我所进行的一系列缓慢的工作.但是,由于某些原因,即使所有孩子似乎都已死亡,我也无法重新加入主线程. 已解决:该问题的答案似乎是仅启动多个Process对象,而不是使用Pool.原因尚不十分清楚,但我怀疑剩余的过程是池的管理者,并且在过程完成时不会死.如果还有其他人有这个问题,那就是答案. 主线程 ..
发布时间:2020-05-13 19:31:24 Python

不能腌制功能

所以我试图通过做一些多处理来加快我的计算时间 我正在尝试使用池工作程序. 我的代码顶部有 import Singal as s import multiprocessing as mp def wrapper(Channel): Noise_Frequincies = [] for i in range(1,125): Noise_Frequinc ..
发布时间:2020-05-13 19:30:45 Python

守护进程内部的Python多处理池

我对此问题提出了一个问题,但没有得到足够彻底的答案来解决该问题(很可能是由于在解释我的问题时缺乏严谨性,这是我要纠正的问题):python多处理守护程序中的僵尸进程 我正在尝试实现一个python守护程序,该守护程序使用工作池来使用Popen执行命令.我从 http://www.jejik.com/articles/借来了基本守护程序2007/02/a_simple_unix_linux_d ..
发布时间:2020-05-13 19:30:40 Python

如何解决"AttributeError:__ exit__"问题在Python中的多进程中?

我试图重写一些csv读取代码,以便能够在Python 3.2.2中的多个内核上运行它.我尝试使用多处理的Pool对象,该对象是根据工作示例改编而成的(并且已经为我的项目的另一部分工作了).我遇到了一条错误消息,发现很难破译和排除故障. 错误: Traceback (most recent call last): File "parser5_nodots_parallel.py", ..
发布时间:2020-05-13 19:29:48 Python

带有Pathos的Python多处理

我正在尝试使用Python的方法将计算指定到单独的进程中,以便使用多核处理器来加速它.我的代码的组织方式如下: class: def foo(self,name): ... setattr(self,name,something) ... def boo(self): for name in list: self.foo(na ..
发布时间:2020-05-13 19:29:45 Python

Python multiprocessing.Pool()不使用每个CPU的100%

我正在使用Python进行多处理. 例如,请考虑Python多重处理文档(在示例中,我将100更改为1000000,只是为了浪费更多时间).当我运行此命令时,我确实看到Pool()正在使用所有4个进程,但是我看不到每个CPU都移动到100%.如何使每个CPU的使用率达到100%? from multiprocessing import Pool def f(x): return x ..
发布时间:2020-05-13 19:29:13 Python

无法腌制静态方法-多处理-Python

我在我的代码中应用了一些并行化,在其中我使用了类.我知道如果没有Python提供的其他方法,就不可能选择类方法.我在此处找到了解决方案.在我的代码中,我必须使用类将它们并行化的部分.在这里,我发布了一个非常简单的代码,仅表示我的结构(相同,但是我删除了方法内容,这是很多数学计算,对于我得到的输出而言无关紧要).问题是,因为我可以腌制一种方法(shepard_interpolation),但是用另一 ..
发布时间:2020-05-13 19:28:48 Python

具有不同功能的多进程池

多进程工作池的大多数示例在不同的进程中执行单个功能,例如 def foo(args): pass if __name__ == '__main__': pool = multiprocessing.Pool(processes=30) res=pool.map_async(foo,args) 是否有一种方法可以处理池中的两个不同且独立的功能?这样您就可以分配f.e. ..
发布时间:2020-05-13 19:28:40 Python

Python:使用多处理池时,写入具有队列的单个文件

我有成千上万的文本文件,希望通过各种方式进行解析.我想将输出保存到单个文件中,而不会出现同步问题.我一直在使用多处理池来节省时间,但是我不知道如何结合使用池和队列. 以下代码将保存文件名和文件中连续"x"的最大数目.但是,我希望所有进程都将结果保存到同一文件中,而不是像示例中那样保存到不同文件中.任何帮助,将不胜感激. import multiprocessing with open ..
发布时间:2020-05-13 19:26:14 Python

在Python中将多个参数传递给pool.map()函数

我需要某种方式来使用pool.map()中的一个函数,该函数接受多个参数.根据我的理解,pool.map()的目标函数只能有一个可迭代的参数,但是有没有办法我也可以传入其他参数呢?在这种情况下,我需要传递一些配置变量,例如Lock()并将信息记录到目标函数中. 我试图做一些研究,我认为我也许可以使用部分函数来使其起作用?但是,我不完全理解它们是如何工作的.任何帮助将不胜感激!这是我想做的一个 ..
发布时间:2020-05-13 19:25:11 Python

Python多重处理-跟踪pool.map操作的过程

我有一个执行一些模拟的功能, 返回字符串格式的数组. 我想运行模拟(功能) 变化的输入参数值,超过10000个可能的输入值, 并将结果写入单个文件. 我正在使用多重处理,特别是pool.map函数 并行运行仿真. 由于运行仿真功能的全过程超过10000次 需要很长时间,我真的很想跟踪整个操作的过程. 我认为下面我当前代码中的问题是,pool.map运行该函数10000次,而 ..
发布时间:2020-05-13 19:24:52 Python

如何让Pool.map接受lambda函数

我具有以下功能: def copy_file(source_file, target_dir): pass 现在,我想使用multiprocessing一次执行此功能: p = Pool(12) p.map(lambda x: copy_file(x,target_dir), file_list) 问题是,不能腌制lambda,因此失败了.解决此问题的最简洁的方法是什么 ..
发布时间:2020-05-13 19:24:50 Python