parallel-processing相关内容

用于并行执行的 Currying groovy CPS 闭包

我们在某些工作中动态创建并行步骤.感谢 this thread 我发现如何使用参数动态创建地图以在并行步骤中使用. 但是现在我想重用用于创建这些并行步骤的部分代码.为此,我觉得我需要咖喱闭包. 但是,currying 似乎无法正常工作.在闭包内引用循环变量(valueCopy)是正确的(as described here) 但currying并没有达到我的预期. 我是不是做错了什 ..

Jenkins - java.lang.IllegalArgumentException:最后一个单元没有足够的有效位 &Gradle 错误:在根项目中找不到任务“null"

Jenkins 2.176.4-3 滚动 Gradle 4.3.1 问题区域:并行运行给定的单个 Gradle任务(或者它可以是任何简单的操作)和strong> 尤其是在运行基于 Jenkinsfile 的管道的并发运行时 我突然在 Jenkins 日志页面中收到此错误,以前从未见过此错误(在 Jenkins 中也没有发现有关此错误的 stackoverflow 帖子). ..

Jenkinsfile Pipeline DSL:如何在作业仪表板 GUI 中显示多列 - 对于所有动态创建的阶段 - 在 PIPELINE 部分中时

Jenkins 2.89.4 滚动 我看到了几乎所有的 stackoverflow 帖子,这些帖子展示了我们如何成功地运行并行步骤/阶段(使用列表/地图等)——或者直接对它们进行硬编码——或者甚至为 Jenkinsfile 创建动态阶段(如本文所示:脚本化jenkinsfile并行阶段) 我的要求是: 在“BUILD"步骤下构建 N 个项目的管道,即在每个项目上并行构建.即它在所 ..

具有池/队列的Python多个子进程在一个完成后立即恢复输出并在队列中启动下一个作业

我目前正在启动一个子进程并随时随地解析标准输出,而无需等待它完成解析标准输出. all_samples 中的示例:my_tool_subprocess = subprocess.Popen('mytool {}'.format(sample),shell=True, stdout=subprocess.PIPE)线=真而线:myline = my_tool_subprocess.stdout.r ..
发布时间:2022-01-18 16:11:18 Python

JVM 是否有能力检测并行化机会?

Java Hotspot 可以很好地优化顺序代码.但我猜测随着多核计算机的出现,运行时的信息是否可以用于检测在运行时并行化代码的机会,例如检测软件流水线是否可能在循环中和类似的事情. 在这个主题上做过任何有趣的工作吗?还是研究失败或一些难以解决的停顿问题? 解决方案 我认为 Java 的当前保证内存模型 使得在编译器或虚拟机级别上做很多(如果有的话)自动并行化非常困难.Java 语言 ..
发布时间:2022-01-16 12:40:11 Java开发

OpenMP 4 中的任务依赖性

以下代码基于 OpenMP 4.0 规范工作: out 和 inout 依赖类型.生成的任务将是所有先前生成的同级任务的依赖任务在 in、out 或 inout 中引用至少一个列表项依赖类型列表. 这意味着 task3 变得依赖于 task2.对?但这没有意义!为什么输入-输出依赖任务应该依赖于输入依赖任务? 我需要做什么才能让他们独立?ps:在 Linux 上使用 g++ 4. ..
发布时间:2022-01-15 22:47:17 C/C++开发

并行事件处理器

我想立即通知我班级的活动订阅者. 我应该滚动我自己的事件处理程序吗?使用 FCL 中的一些支持并行性;还是默认内置的System.EventHandler支持这种事件通知方式? 解决方案 你可以使用 MulticastDelegate.GetInvocationList 用于任何委托,然后并行调用所有组件委托.这可能是最简单的方法. (它返回 Delegate[] 但您可 ..
发布时间:2022-01-15 12:11:55 C#/.NET

如何在 Perl 测试套件中并行运行一些但不是所有测试?

我有一个基于 Perl 的测试套件,其中包含 10,000 多个测试,我想让它们运行得更快.我已经使用 -j 标志对 prove 进行了测试,并且我发现我的大多数但不是所有测试都准备好并行运行. 虽然我可以努力使其余测试“并行友好",但我希望总有一些测试不是.有什么好的方法来管理这个?我希望它能够轻松高效地运行整个测试集,并在需要时轻松将测试标记为“未准备好". 以下是我看到的一些选项 ..
发布时间:2022-01-14 17:26:06 其他开发

在套件级别上并行运行 JUnit 测试?

我有一堆在 JUnit 测试套件中组织的测试.这些测试极大地利用 selenium 来测试 Web 应用程序.因此,对于 selenium,这些测试的运行时间很长.由于测试数据库中有一些重叠,套件中的测试类无法并行运行,我想并行运行这些套件. JUnit ParallelComputer 只能在类或方法级别并行执行测试,JUnit 是否有任何标准方法可以通过套件执行此操作? 如果我只是 ..
发布时间:2022-01-14 17:20:38 Java开发

如何确保我的 Fortran FORALL 构造被并行化?

我得到了一个代表金属板表面温度点的二维矩阵.矩阵(板)的边缘保持恒定在 20 摄氏度,并且在一个预定义的点有一个 100 摄氏度的恒定热源.所有其他网格点最初设置为 50 摄氏度. 我的目标是获取所有内部网格点并通过对周围四个网格点 (i+1, i-1, j+1, j-1) 进行迭代平均来计算其稳态温度,直到达到收敛 (迭代之间的变化小于 0.02 摄氏度). 据我所知,我遍历网格点的 ..
发布时间:2022-01-14 10:23:07 其他开发

QtConcurrent 的 Scala 类似物

Scala(或 Java)的 QtConcurrent 的类似物是什么?即MapReduce、并行map 和foldl 的简化实现.谢谢 解决方案 你可以使用 Scala Parallel Collections.它们目前是 Scala 夜间版本的一部分,并将在 Scala 2.9 中发布.这个想法是常规集合中可用的大多数操作都是并行化的,因此可以以相同的方式使用并行集合. 目前,有 ..
发布时间:2022-01-14 08:05:20 其他开发

MongoDB:在没有并行性的情况下使用 MapReduce 有什么意义?

引用 http://www.mongodb.org/display/DOCS/MapReduce#MapReduce-Parallelism 截至目前,MapReduce 作业在单一的mongod进程是单一的螺纹.这是由于设计当前 JavaScript 的限制引擎.我们正在调查解决此问题的替代方法,但现在如果你想并行化您的 MapReduce 作业,您需要要么使用分片,要么做在您的代码中聚合 ..
发布时间:2022-01-14 08:05:11 其他开发

我应该为这项任务学习/使用 MapReduce 还是其他类型的并行化?

在与 Google 的一位朋友交谈后,我想实现某种 Job/Worker 模型来更新我的数据集. 此数据集反映了 3rd 方服务的数据,因此,要进行更新,我需要对其 API 进行多次远程调用.我认为将花费大量时间等待来自此第 3 方服务的响应.我想加快速度,并更好地利用我的计算时间,通过并行化这些请求并同时保持其中许多请求处于打开状态,因为它们等待各自的响应. 在我解释我的具体数据集并 ..
发布时间:2022-01-14 08:02:36 Python

Hadoop MapReduce vs MPI(vs Spark vs Mahout vs Mesos) - 何时使用一个而不是另一个?

我是并行计算的新手,刚开始在 Amazon AWS 上试用 MPI 和 Hadoop+MapReduce.但我对何时使用其中一种感到困惑. 例如,我看到的一个常见的经验法则可以总结为... 大数据、非迭代、容错 => MapReduce 速度、小数据、迭代、非 Mapper-Reducer 类型 => MPI 但是,我也看到了 MapReduce 在 MPI (MR-MPI) ..
发布时间:2022-01-14 08:00:26 其他开发

Map-Reduce 中的二次排序

我了解了在键进入减速器之前对特定键的值进行排序的方式.我了解到可以通过编写三个方法来完成,即 keycomarator、partitioner 和 valuegrouping. 现在,当 valuegrouping 运行时,它基本上将与自然键关联的所有值分组,对吗?因此,当它将自然键的所有值分组时,与一组排序值一起发送到减速器的实际键是什么?自然键将与不止一种类型的实体(组合键的第二部分)相 ..
发布时间:2022-01-13 23:45:44 Java开发

在 bash 中跨多个内核运行循环进程

我有一个包含以下循环的 shell 脚本. i=0上限=$非常大的变量做complexstuff RunManager 文件 $ii= 'expr $i +1'完毕 此脚本在四核机器上运行,根据 top 的说法,在执行循环的一次迭代时使用了每个内核的大约 15%.我想将它分布在四个核心上,以便循环的每次迭代执行 complexstuff 四次,每个核心上一次,这样资源的使用效率就会更高.我们谈 ..
发布时间:2022-01-13 21:43:28 其他开发

将大量数据从长格式重塑为宽格式的有效方法 - 类似于 dcast

这个问题与创建“宽"表有关,类似于您可以使用 reshape2 中的 dcast 创建的表.我知道这已经讨论过很多次了,但我的问题是关于如何让这个过程更有效率.我在下面提供了几个示例,这些示例可能会使问题看起来很冗长,但其中大部分只是用于基准测试的测试代码 从一个简单的例子开始, >z 我们需要创建一个“宽"表,该表将 col4 列的值作为列名,并将 sum(col3) 的值作为 co ..
发布时间:2022-01-13 19:39:57 其他开发

一起使用 MPI 和 OpenCV 时出现分段错误

我正在尝试学习 C++ 中的 MPI.我对 OpenCV 有一些了解,所以我尝试使用 MPI 和 OpenCV 编写程序.这听起来可能很愚蠢,但为了学习,我尝试在线程 0 上从网络摄像头捕获图像并将图像传递给线程 1 以转换为灰度并显示灰度图像. 这就是我编译代码的方式: mpic++ opencv.cpp `pkg-config opencv --libs` 代码编译成功,但是当我 ..
发布时间:2022-01-12 16:07:18 C/C++开发