task-queue相关内容

我们可以将芹菜作为消息消费者(而不是生产者)和分发者吗?

使用celery,是否可以使用RabbitMQ侦听新邮件并计划工作进程来处理它? celerydocumentation的很多内容都是关于将其用作代理(比方说RabbitMQ)的任务生产者,在该代理中执行任务并通过代理交付。 我希望使用来自代理的消息(由其他服务生成),并使用celery处理这些消息。 推荐答案 是。您所要做的就是配置放入rabbitMQ中的消息,使芹菜将其 ..
发布时间:2022-04-15 14:10:11 其他开发

在 Google App Engine 中检查任务队列的状态

我将几个任务放入一个任务队列中,并想知道具体任务何时完成.我在 API 中没有找到关于回调或检查任务状态的任何内容,所以我想我会看看其他人在做什么,或者是否有解决方法(或官方)的方法来检查.我不关心单个任务,如果有帮助,我会放入 6 个不同的任务,并想知道所有 6 个任务何时完成. 谢谢! 解决方案 新的 REST/JSON 任务队列 API 可以让你做到这一点. http:/ ..
发布时间:2022-01-21 12:22:13 Python

异步写入 appengine blob 并在所有任务完成时完成它

我有一个难题. 我正在遍历一组按日期参数化的 URL 并获取它们.例如,这里是一个例子: somewebservice.com?start=01-01-2012&end=01-10-2012 有时,从 URL 返回的内容会被截断(缺少随机结果并附有“截断错误"消息),因为我定义了太大的范围,所以我必须将查询拆分为两个 URL somewebservice.com?start ..
发布时间:2022-01-13 23:46:19 其他开发

如何使用 q.js 承诺处理多个异步操作

注意:这个问题也在 Q.js 邮件列表中通过 此处. 我遇到了多个异步操作的情况,我接受的答案指出使用 Promises 使用诸如q.js 会更有益. 我确信重构我的代码以使用 Promises 但因为代码很长,我已经修剪了不相关的部分并将关键部分导出到一个单独的存储库中. repo 是这里,最重要的文件是this. 要求是我希望 pageSizes 在遍历所有拖放的文件后 ..
发布时间:2022-01-03 08:28:03 前端开发

PHP 中的并行处理 - 你是怎么做的?

我目前正在尝试在 php 中实现一个作业队列.然后队列将作为批处理作业进行处理,并且应该能够并行处理一些作业. 我已经做了一些研究并找到了几种实现方法,但我并没有真正了解它们的优缺点. 例如通过 fsockopen 多次调用脚本来执行并行处理,如下所述: PHP 中的简单并行处理 我发现的另一种方法是使用 curl_multi 函数. curl_multi_exec PHP ..
发布时间:2021-12-30 21:04:50 PHP

GWT 上的 Google App Engine 任务队列

我正在研究 Google App Engine 的 Java 新任务队列 API,但很难将其与我的 GWT 应用程序联系起来.如果我想使用任务队列来做一些异步处理,我应该如何使用 GWT 来做到这一点. 在我看来,我必须发送一个服务器请求,然后该请求将提交到任务队列 API.如果我正确理解任务队列,我将不得不创建另一个 servlet 来从任务队列(作为工作人员)进行处理. 我正在寻找 ..
发布时间:2021-12-28 22:13:13 其他开发

Redis 后台作业完成后如何返回flask render_template?

我在 Flask 中有这个 Web 应用程序,我想在提交表单后在其中执行一些 ML 和 AI 算法.我在 Redis 和 rq 的帮助下在后台作业中运行 ML 和 AI 算法(因为我的应用程序由 Heroku 托管,并且他们有超时问题,您必须在 30 秒内返回响应).工作完成后,我想获取算法制作的图像(一些图形)并将它们输出到网页中,但我不知道如何在工作功能中呈现模板,以及如何从烧瓶中导入应用程序 ..
发布时间:2021-12-28 09:48:48 其他开发

Google App Engine:task_retry_limit 不起作用?

我有一个 Python GAE 应用. 我希望我的任务停止运行,或者如果它们失败就重试一次.现在,尽管我的 yaml 文件告诉他们什么,他们却永远运行! 这是一个 queue.yaml 条目: - 名称:globalPurchase速率:10/s桶尺寸:100重试参数:task_retry_limit: 1 如果 globalPurchase 任务失败并显示 500 错误代码,它 ..
发布时间:2021-12-14 22:52:09 Python

Web 应用程序架构 - 需要作业/任务队列吗?

我目前正在设计一个 Web 应用程序,该应用程序将允许用户安排将针对 HTTP API(代表他们)执行的任务.任务可以重复执行,可用于调度的最小时间分辨率为一分钟.由于任务的性质,我认为异步执行它们是有意义的.但是,这部分的架构应该是怎样的? 我考虑过使用任务队列由 Web 应用程序创建任务并让它们由工作人员执行.在这种情况下,我有几个问题: 我如何处理重复性任务? 如何轻松保存任务 ..

NDB 在长时间请求期间不清除内存

我目前正在将长时间运行的作业卸载到 TaskQueue,以计算数据存储区中 NDB 实体之间的连接. 基本上,这个队列通过 GetConnectedNodes 节点中的 node_in_connected_nodes 函数处理几个与另一个 query 相关的实体键列表: class GetConnectedNodes(object):"""以分页方式从节点列表中获取连接节点的类"""def ..

Google Appengine:任务队列性能

我目前有一个在 appengine 上运行的应用程序,我正在使用延迟库执行一些作业,其中一些任务每天运行,而其中一些任务每月执行一次.大多数这些任务查询 Datastore 以检索文档,然后将实体存储在索引中(搜索 API).其中一些表每月更换一次,我必须在所有实体(4~5M)上运行这些任务. 此类任务的一个示例是: def addCompaniesToIndex(cursor=None, ..
发布时间:2021-11-16 19:54:25 Python

从 Laravel Jobs 返回数据

我正在 Laravel 上为移动应用开发 API. 方法将向其他 API 发出请求、组合和过滤数据、改变其结构等. 应用的要求之一是响应时间不超过 30 秒,或者根本不响应.所以,我必须尽可能多地重复请求.我试图通过 Laravel 队列实现这一点,并且目前在我的作业类中有类似的东西: private $apiActionName;公共函数 __construct($apiActio ..
发布时间:2021-11-15 20:58:48 PHP

使用 Task.ContinueWith 创建执行队列?

我想在后台执行多个操作,但它们必须一个接一个同步执行. 我想知道使用 Task.ContinueWith 方法来实现这一点是否是个好主意.你预见到这有什么问题吗? 我的代码如下所示: 私有对象syncRoot =new object();私人任务 latestTask;public void EnqueueAction(System.Action action){锁(同步根){如果( ..
发布时间:2021-09-04 19:30:58 C#/.NET

使用 RabbitMQ 创建动态队列

我一直在学习 RabbitMQ 的各种拓扑,但是,我找不到任何对从生产者发出的动态队列创建(又名声明队列)的引用.这个想法是根据特定事件(例如 HTTP 请求)动态创建队列.该队列将是临时的,设置了 TTL,并以事件 ID 命名.然后,消费者可以订阅主题“event.*"并合并与其相关的所有消息. 示例: 收到 HTTP POST“创建用户" 生产者创建一个队列 user.ID 推 ..
发布时间:2021-07-02 18:31:59 其他开发

创建 python 优先级队列

我想在 python 中构建一个优先级队列,其中队列包含不同的字典及其优先级编号.因此,当调用“获取函数"时,优先级最高(编号最低)的字典将被拉出队列,而当“添加函数"被调用时,新字典将被添加到队列中并根据其排序优先级数. 请帮忙... 提前致谢! 解决方案 使用标准库中的 heapq 模块. 您没有指定如何将优先级与字典相关联,但这里有一个简单的实现: import ..
发布时间:2021-06-21 19:25:02 Python

Perl 的排队系统

我正在开发一个 Perl 项目,该项目需要一个 FIFO 消息队列,以便在一台机器 (UNIX) 上的多个进程之间分配任务.队列大小可能会增长到 100 万个作业. 我试过 IPC::DirQueue,但它变成了有 50k 左右的工作排队,速度非常慢.可以在 Perl 中使用的这个模块有哪些好的替代方案? 解决方案 我在使用 ZeroMQ 解决此类问题方面取得了相当大的成功,无论是 ..
发布时间:2021-06-15 20:47:45 其他开发