草庐IT

periodic-task

全部标签

python - Airflow XCOM KeyError : 'task_instance'

我正在尝试设置动态序列etl作业,它将使用XCOM从运行的第一个任务中获取数据。这是当前代码:fromairflowimportDAGfromairflow.operators.bash_operatorimportBashOperatorfromdatetimeimportdatetimeasdt,timedeltaastd,datefromairflow.modelsimportBaseOperatorfromairflow.operators.sensorsimportExternalTaskSensorfromairflow.operators.dummy_operatorim

python - Django celery : how to set task to run at specific interval programmatically

我发现我可以将任务设置为在特定时间以特定间隔运行here,但这只是在任务声明期间完成的。如何将任务设置为动态定期运行? 最佳答案 时间表是derivedfromasetting,因此在运行时似乎是不可变的。您可能可以使用TaskETAs完成您正在寻找的东西.这保证您的任务不会在期望的时间之前运行,但不保证在指定的时间运行任务——如果工作人员在指定的ETA重载,任务可能会稍后运行.如果该限制不是问题,您可以编写一个首先自行运行的任务,如:@taskdefmytask():keep_running=#Boolean,shouldthet

python - 如何使用 django-celery 配置 TASK_SERIALIZER

我正在使用django-celery,我想将TASK_SERIALIZER设置为JSON而不是pickle。我可以在每个方法的基础上通过改变我的任务装饰器来做到这一点@task到@task(serializer="json")但我想在全局范围内进行。设置TASK_SERIALIZER="json"在settings.py中不起作用。尝试运行importcelerycelery.conf.TASK_SERIALIZER="json"(隐含here)导致AttributeError:'module'objecthasnoattribute'conf'知道在通过django运行celery时

python - 导入错误 : No module named 'tasks'

我正在尝试让Celery与django一起工作以设置计划任务。我试过查看thefirststepsw/Celery和thefirststepsw/Django教程,但都没有为我工作。这是我的项目布局和相关文件:python3.5.1Django1.10celery4.0.2RabbitMQ3.6.6一次性密码19.2mysite/(projectname)polls/(myapp)tasks...mysite/__init__celerysettings...manage...我的网站/__init__.py:from__future__importabsolute_import,un

python - 我将什么参数传递给 celery 的 get_task_logger() 函数?

celery3.xdocsonlogging建议像这样设置任务记录器:fromcelery.utils.logimportget_task_loggerlogger=get_task_logger(__name__)当我这样做时,CELERYD_TASK_LOG_FORMAT被忽略,日志语句使用CELERYD_LOG_FORMAT代替,我无法使用%(task_name)s和%(task_id)s。我的任务在我的应用myapp的模块tasks中。因此,__name__是myapp.tasks。我认为问题出在celery/utils/log.py中的这些行:defget_task_logg

python - 如何等待 create_task() 创建的任务完成?

我编写了一个测试程序来尝试使用create_task(),它需要等到创建的任务完成。我尝试使用loop.run_until_complete()来等待任务完成,但它会导致带有回溯的错误。/Users/jason/.virtualenvs/xxx/bin/python3.5/Users/jason/asyncio/examples/hello_coroutine.pyTraceback(mostrecentcalllast):TestFile"/Users/jason/asyncio/examples/hello_coroutine.py",line42,inHelloWorld,isa

python - celery 节拍时间表 : run task instantly when start celery beat?

如果我使用timedelta(days=1)创建一个celerybeat时间表,第一个任务将在24小时后执行,引用celerybeat文档:Usingatimedeltafortheschedulemeansthetaskwillbesentin30secondintervals(thefirsttaskwillbesent30secondsaftercelerybeatstarts,andthenevery30secondsafterthelastrun).但事实是,在很多情况下,调度程序在启动时运行任务实际上很重要,但我没有找到允许我在celery启动后立即运行任务的选项,我不是在

python celery : Retrieve tasks arguments if there's an exception

我开始使用Celery和Python,我有一个问题可能很简单,但我似乎找不到任何合适的答案......如果我有一堆任务,其中一个抛出异常,有没有办法检索传递给所述任务的参数?例如,如果我想获取一些主机名解析到的IP,然后创建一个任务...@tasks_app.taskdefresolve_hostname(hostname):return(hostname,{hst.addressforhstindns.resolver.query(hostname)})...这可能会引发异常,有没有办法在异常发生时在调用之外获取该hostname参数的值?假设我将任务分组如下:ip_subtasks

python - TypeError : float() argument must be a string or a number, 不是 'Period'

我有一个包含如下列的pandas数据框:df.columns=pd.to_datetime(list(df))#list(df)=["2017-01","2016-01",...]然后我在数据集的每一行中执行了一个插值,因为我有一些我想摆脱的NaN。这是打印的结果:ORIGINAL2007-12-01NaN2008-12-01NaN2009-12-01NaN2010-12-01-0.352011-12-010.672012-12-01NaN2013-12-01NaN2014-12-011.032015-12-010.372016-12-01NaN2017-12-01NaNName:ro

Python/Pandas - 将类型从 pandas period 转换为 string

我有一个数据框:SeasonalDate2014-12-1.0897442015-01-0.2836542015-020.1589742015-030.461538我在DataFrame中使用了pd.to_period,所以它的索引变成了Pandasperiod类型(type'pandas._period.Period')。现在,我想将该索引转换为字符串。我正在尝试应用以下内容:df.index=df.index.astype(str)但是这不起作用...ValueError:CannotcastPeriodIndextodtype|S0我的代码从那时起就被卡住了。紧急求救