task-queue相关内容
我希望有多个线程执行任务,但我也希望按顺序获得结果. 举一个简单的示例代码: from threading import Thread导入队列导入时间类任务队列(队列.队列):def __init__(self, num_workers=1):queue.Queue.__init__(self)self.num_workers = num_workersself.start_workers
..
如果我有一个循环,其中有100个任务入队,而每个任务都可能有一个任务入队,我怎么知道所有任务是否都已完成? 我已经考虑过使用ShardedCounters解决此问题.完成每个任务后,我可以增加一个计数器,然后检查是否count ==100.当然,除非我进入这种递归计数方案,否则任务会产生自己的任务.我不确定掉进那个兔子洞是个好主意,因为分片的计数器似乎不是原子的. 解决方案 您应该看
..
我有一个Python函数,可为我的邮件列表中的每个电子邮件地址添加一个任务队列(每次我将其发送数千个).问题是,即使每封邮件都是通过执行在任务队列中发送的,我仍然会收到这个可怕的错误: DeadlineExceededError:API调用mail.Send()花费的时间太长,因此无法响应. 有解决方案吗? 解决方案 最后期限发生在您的GAE实例与处理 mail.Send 调用
..
我正在运行一个Flask服务器,该服务器通过Flask-Socketio连接到iOS客户端.服务器必须处理一些复杂的数据,由于要花一些时间才能解决,因此我使用Redis Queue在后台作业中进行处理. 通信正常工作,但是我需要向客户端发出消息,并在工作完成后写入数据库,而我正在尝试通过工作功能执行此操作(如果有一种方法可以让应用程序知道何时工作完成后,该应用程序可以在一个地方处理所有通信)
..
假设我有一个非常简单的任务,像这样: @ celery.task(ignore_result = True)def print_page(page):与open('path/to/page','w')为f:f.write(页面) (请忽略上面代码中的潜在竞争条件,这是一个简化的示例) 我的问题是,以下两个代码示例是否会产生相同的结果,或者一个示例优于另一个示例: 选择A:
..
我将这个Web应用程序放在一个烧瓶中,在提交表单后,我想在其中执行一些ML和AI算法.我在Redis和rq的帮助下在后台作业中运行ML和AI算法(因为我的应用程序由Heroku托管,并且它们存在超时问题,您必须在30秒内返回响应).作业完成后,我想获取算法生成的图像(一些图形)并将其输出到网页中,但是我不知道如何在作业函数中呈现模板,以及如何从烧瓶中导入应用程序应用程序似乎无法正常工作.您对如何解
..
我要上传的文件很大.整个请求可能需要超过30秒的限制,因此我将其移至任务队列.问题是,即使在任务中,我仍然遇到此错误. 我假设这是因为这是上传文件的单个请求,因此不能不受30秒限制的影响.除了使用“后端"解决方案(我认为App引擎刚刚添加了此功能,但这是一项付费功能,看起来有点复杂)之外,还有什么方法可以规避此限制?不幸的是,我无法拆分文件. 编辑:很抱歉造成混乱.通过上传,我的意思是上传
..
我正在使用python和Google应用程序引擎.我想使用任务队列.作为任务队列处理程序的一部分,我检查当前用户是否是管理员(使用Users服务).此测试始终失败.有没有办法使该测试通过? 更新:为避免进一步的混乱,我试图查找触发任务的用户是否是管理员(这只是一个简单的示例).我了解该任务是从服务器运行的,所有用户的Cookie早已消失.所以我希望得到的答案是一种将会话转移到任务的方法
..
我什至无法获得任务队列来触发简单的打印语句. 我不知道我的应用程序结构是否正确... 最简单的任务队列示例及其结构是什么? 因为这对我不起作用: @app.route('/task', methods=["GET", "POST"]) def testtask(): print "Hi, I'm calling the task" taskqueue.add(
..
我目前正在寻找替换以下视频中描述的fork-join-queue的有缺陷的实现: https://youtu.be/zSDC_TU7rtc?t=33m37s 我意识到这段视频已经有将近八年的历史了,很高兴得知做这种事情的任何潜在的新的更好的方法,但是现在我正专注于尝试按照所述方式进行这项工作由布雷特.截至目前,我眼前的情况有点混乱. 原始开发人员与Brett所做的不同之处之一是,
..
有没有一种方法可以在google-app-engine的队列中传递多个参数? 我使用下面的代码 Queue queue = QueueFactory.getQueue("sms-queue"); queue.add(TaskOptions.Builder.url("/SQ").param("id",pId)); 在我的servlet中,此ID作为查询字符串被检索. long pID
..
我正在尝试在Google App Engine上开发Twitter应用程序.该应用程序基本上从Twitter用户及其关注者及其关注者等收集所有推文.它通常每位用户每次运行收集500条推文,然后将用户的数据插入数据库中. 推文收集过程必须每小时进行一次.目前,我正在使用cron作业执行此操作.但是,即使对于一个用户,它也会带来很多截止日期超出的错误,这不是一个好兆头.我正在使用Python.所
..
我的理解是,在每个宏任务之后 处理完整的微任务任务队列。 如果是这种情况,为什么 JavaScript Promise 微任务之后,将执行code> setTimeout 回调c>? console.log('start'); setTimeout(()=> { console.log(“ setTimeout”); }); Promise.resolve()。t
..
在NodeJS应用程序中处理后台进程的好方法是什么? 场景:在用户向应用程序发布内容后,我想处理数据,从外部资源请求其他数据等.所有这些都非常耗时,因此我希望将其删除req/res循环.理想的情况是只拥有一排作业,您可以在其中快速转储作业,并且守护程序或任务运行器将始终采用最旧的作业并对其进行处理. 在RoR中,我可以使用“延迟作业"之类的方法来完成.此API的Node等效项是什么?
..
我需要使用Amazon工具构建“任务计划程序”。主要问题是我需要一次延迟执行任务(可能要花几个小时或几周)。 我尝试研究如何使用CloudWatch和Lambda构建它功能。据我了解-我需要为一个超时执行使用单独的规则。 但是AWS仅允许我100个规则/帐户。 可能我走错了路,并且此工具不适合我的任务。 我也尝试了SQS,但它不允许我将超时设置为15分钟以上。最简单的方法-将自
..
我正在使用Google App Engine(Python)实时处理一些事件消息.简而言之,我有100多个任务,在收到消息时需要快速运行.我尝试了几种方法(延迟库,线程),并且我认为最好的解决方案是使用任务队列并将这些任务异步添加到队列中我想.这是我在做什么的示例. tasks = [] task = Task(url=url_for('main.endpoints_worker'),par
..
我目前正在尝试在php中实现作业队列.然后,该队列将作为批处理作业处理,并且应该能够并行处理某些作业. 我已经进行了一些研究,找到了实现它的几种方法,但是我并没有真正意识到它们的优缺点. 例如通过fsockopen多次调用脚本来进行并行处理,如此处所述: 在PHP中轻松进行并行处理 我发现的另一种方法是使用curl_multi函数. curl_multi_exec PHP文档
..
让我们想象一下: 我必须从URL下载XML文档; 我必须详细说明该文档并将其信息保存在数据库中,从而创建或更新许多实体. 我认为最好的方法是使用队列.或者也许我也可以使用cronjobs. 我的问题是:如果我使用同一个应用程序执行繁重的任务,并向最终用户显示这些繁重任务的结果,那么繁重的任务可能会降低主网站的速度. 从现实生活中举一个更具体的例子:Google Searc
..
这是我想做的事情: 我使用新的Mapper API设置了MapReduce作业.这基本上可以正常工作. 问题是任务队列重试了所有失败的任务.但实际上我不希望他这样做. 是否可以从队列中删除任务或告诉它任务已成功完成?也许传递200状态代码? 我知道我可以获取X-Appengine-Taskretrycount,但这并没有真正的帮助,因为我不知道如何停止任务.我尝试在try ..除了块中使用"
..
我正在Laravel上为移动应用程序开发API. 方法 将向其他API发出请求 ,合并和过滤数据,更改其结构等. 对应用程序的要求之一是响应时间不超过30秒,或者完全不响应.因此,我必须尽可能多地重复请求.我试图通过Laravel Queues意识到这一点,目前在Job类中有类似的东西: private $apiActionName; public function __con
..