草庐IT

celery_worker

全部标签

基于 Python 的异步工作流模块 : What is difference between celery workflow and luigi workflow?

我使用django作为Web框架。我需要一个可以执行同步和异步(批处理任务)任务链的工作流引擎。我发现celery和luigi作为批处理工作流程。我的第一个问题是这两个模块之间有什么区别。Luigi允许我们重新运行失败的任务链,并且只有失败的子任务才能重新执行。celery呢:如果我们重新运行链(在修复失败的子任务代码之后),它是否会重新运行已经成功的子任务?假设我有两个子任务。第一个创建一些文件,第二个读取这些文件。当我将这些放入celery链中时,由于第二个任务中的错误代码,整个链失败。当我在第二个任务中修复代码后重新运行链时会发生什么?第一个任务会尝试重新创建这些文件吗?

基于 Python 的异步工作流模块 : What is difference between celery workflow and luigi workflow?

我使用django作为Web框架。我需要一个可以执行同步和异步(批处理任务)任务链的工作流引擎。我发现celery和luigi作为批处理工作流程。我的第一个问题是这两个模块之间有什么区别。Luigi允许我们重新运行失败的任务链,并且只有失败的子任务才能重新执行。celery呢:如果我们重新运行链(在修复失败的子任务代码之后),它是否会重新运行已经成功的子任务?假设我有两个子任务。第一个创建一些文件,第二个读取这些文件。当我将这些放入celery链中时,由于第二个任务中的错误代码,整个链失败。当我在第二个任务中修复代码后重新运行链时会发生什么?第一个任务会尝试重新创建这些文件吗?

python - 检索任务结果对象,给定 Celery 中的 `task_id`

我将celery.result.AsyncResult中的task_id存储在数据库中,并将其与任务影响的项目相关联。这允许我执行查询以检索与特定项目相关的所有任务的task_id。那么在从数据库中检索到task_id之后,我该如何检索有关任务状态/结果/等的信息? 最佳答案 来自CeleryFAQ:result=MyTask.AsyncResult(task_id)result.get() 关于python-检索任务结果对象,给定Celery中的`task_id`,我们在StackOv

python - 检索任务结果对象,给定 Celery 中的 `task_id`

我将celery.result.AsyncResult中的task_id存储在数据库中,并将其与任务影响的项目相关联。这允许我执行查询以检索与特定项目相关的所有任务的task_id。那么在从数据库中检索到task_id之后,我该如何检索有关任务状态/结果/等的信息? 最佳答案 来自CeleryFAQ:result=MyTask.AsyncResult(task_id)result.get() 关于python-检索任务结果对象,给定Celery中的`task_id`,我们在StackOv

python - 获取python多处理池中worker的唯一ID

有没有办法为python多处理池中的每个工作人员分配一个唯一的ID,以便池中特定工作人员运行的作业可以知道哪个工作人员正在运行它?根据文档,Process有一个name但是Thenameisastringusedforidentificationpurposesonly.Ithasnosemantics.Multipleprocessesmaybegiventhesamename.对于我的特定用例,我想在一组四个GPU上运行一堆作业,并且需要为应该运行作业的GPU设置设备号。因为作业的长度不均匀,所以我想确保在前一个作业完成之前尝试在GPU上运行的作业不会在GPU上发生冲突(因此这排除

python - 获取python多处理池中worker的唯一ID

有没有办法为python多处理池中的每个工作人员分配一个唯一的ID,以便池中特定工作人员运行的作业可以知道哪个工作人员正在运行它?根据文档,Process有一个name但是Thenameisastringusedforidentificationpurposesonly.Ithasnosemantics.Multipleprocessesmaybegiventhesamename.对于我的特定用例,我想在一组四个GPU上运行一堆作业,并且需要为应该运行作业的GPU设置设备号。因为作业的长度不均匀,所以我想确保在前一个作业完成之前尝试在GPU上运行的作业不会在GPU上发生冲突(因此这排除

python - 使用类方法作为 celery 任务

我正在尝试将类的方法用作django-celery任务,并使用@task装饰器对其进行标记。描述相同的情况here,AnandJeyahar问道。是这样的classA:@taskdeffoo(self,bar):...defmain():a=A()...#whatineeda.foo.delay(bar)#executesascelerytaska.foo(bar)#executeslocally问题是即使我使用像这样的类实例a.foo.delay(bar)它说,foo至少需要两个参数,这意味着self指针未命中。更多信息:由于继承,我无法将类转换为模块方法强烈依赖于类成员,所以我不能

python - 使用类方法作为 celery 任务

我正在尝试将类的方法用作django-celery任务,并使用@task装饰器对其进行标记。描述相同的情况here,AnandJeyahar问道。是这样的classA:@taskdeffoo(self,bar):...defmain():a=A()...#whatineeda.foo.delay(bar)#executesascelerytaska.foo(bar)#executeslocally问题是即使我使用像这样的类实例a.foo.delay(bar)它说,foo至少需要两个参数,这意味着self指针未命中。更多信息:由于继承,我无法将类转换为模块方法强烈依赖于类成员,所以我不能

python - Django,ImportError : cannot import name Celery, 可能的循环导入?

我在这里浏览了这个例子:http://docs.celeryproject.org/en/latest/django/first-steps-with-django.html我所有的任务都在名为tasks.py的文件中。更新celery并从示例django添加文件后,无论我尝试什么,都会引发以下错误:ImportError:cannotimportnameCelery问题可能是由以下原因引起的吗?app.autodiscover_tasks(settings.INSTALLED_APPS,related_name='tasks')因为它会遍历所有具有以下导入的tasks.py文件。fr

python - Django,ImportError : cannot import name Celery, 可能的循环导入?

我在这里浏览了这个例子:http://docs.celeryproject.org/en/latest/django/first-steps-with-django.html我所有的任务都在名为tasks.py的文件中。更新celery并从示例django添加文件后,无论我尝试什么,都会引发以下错误:ImportError:cannotimportnameCelery问题可能是由以下原因引起的吗?app.autodiscover_tasks(settings.INSTALLED_APPS,related_name='tasks')因为它会遍历所有具有以下导入的tasks.py文件。fr