是否可以在创建后将工作人员资源分配给DASK分布式工作人员? [英] Is it possible to assign worker resources to dask distributed worker after creation?

查看:0
本文介绍了是否可以在创建后将工作人员资源分配给DASK分布式工作人员?的处理方法,对大家解决问题具有一定的参考价值,需要的朋友们下面随着小编来一起学习吧!

问题描述

根据标题,如果我通过Helm或Kubernetes创建Worker,是否可以在创建Worker后分配"Worker Resources"(https://distributed.readthedocs.io/en/latest/resources.html#worker-resources)?

使用情形是命中数据库的任务,我想限制在给定运行中能够命中数据库的进程数量,而不限制群集的总大小。

推荐答案

从2019-04-09开始,没有标准的方法可以做到这一点。您已经找到了可以合理使用的Worker.set_resources方法。最终,我也希望工作人员插件能够处理这个问题,但它们并没有实现。

对于控制对数据库的访问的应用程序,听起来您真正想要的是一个信号量。您可以help build one(考虑到当前的Lock实现,它实际上相当简单),或者您可以使用Dask Queue来模拟一个。

这篇关于是否可以在创建后将工作人员资源分配给DASK分布式工作人员?的文章就介绍到这了,希望我们推荐的答案对大家有所帮助,也希望大家多多支持IT屋!

查看全文
登录 关闭
扫码关注1秒登录
发送“验证码”获取 | 15天全站免登陆