草庐IT

timestamp_dag

全部标签

python - 如何防止 Airflow 回填 dag 运行?

假设您有一个AirflowDAG,回填没有意义,这意味着,在它运行一次之后,再快速运行它之后的时间将完全没有意义。例如,如果您从某个仅每小时更新一次的来源将数据加载到数据库中,那么快速连续发生的回填只会一次又一次地导入相同的数据。当您实例化一个新的每小时任务时,这尤其令人讨厌,并且它会运行N次,因为它错过的每一个小时,都会做多余的工作,然后才开始按照您指定的时间间隔运行。我能想到的唯一解决方案是他们在FAQofthedocs中明确反对的方法。Werecommendagainstusingdynamicvaluesasstart_date,especiallydatetime.now()

python - 如何通过 python 将 current_timestamp 插入 Postgres

我需要在PG中插入行,其中一个字段是带有时间戳的日期和时间,这是事件发生的时间,所以我不能使用-->插入时Postgres的current_timestamp函数,那怎么能然后,我将之前收集的时间和日期以与current_timestamp在该时间点创建的格式相同的格式插入到pg行中。 最佳答案 如果您使用psycopg2(可能还有其他一些客户端库),您可以简单地传递一个Pythondatetime对象作为parameter到SQL查询:fromdatetimeimportdatetime,timezonedt=datetime.n

python - 如何通过 python 将 current_timestamp 插入 Postgres

我需要在PG中插入行,其中一个字段是带有时间戳的日期和时间,这是事件发生的时间,所以我不能使用-->插入时Postgres的current_timestamp函数,那怎么能然后,我将之前收集的时间和日期以与current_timestamp在该时间点创建的格式相同的格式插入到pg行中。 最佳答案 如果您使用psycopg2(可能还有其他一些客户端库),您可以简单地传递一个Pythondatetime对象作为parameter到SQL查询:fromdatetimeimportdatetime,timezonedt=datetime.n

python - Airflow "This DAG isnt available in the webserver DagBag object "

当我在dags文件夹中放置一个新的DAGpython脚本时,我可以在DAGUI中查看DAG的新条目,但它没有自动启用。最重要的是,它似乎也没有正确加载。我只能点击列表右侧的刷新按钮几次,然后切换列表左侧的开/关按钮,以便能够安排DAG。这些是手动过程,因为即使DAG脚本放在dag文件夹中,我也需要触发某些东西。任何人都可以帮助我吗?我错过了什么吗?或者这是Airflow中的正确行为?顺便说一下,正如帖子标题中提到的,有一个指示符带有此消息“此DAG在网络服务器DagBag对象中不可用。它显示在此列表中是因为调度程序在元数据中将其标记为事件在我触发所有这些手动过程之前,用DAG标题标记数

python - Airflow "This DAG isnt available in the webserver DagBag object "

当我在dags文件夹中放置一个新的DAGpython脚本时,我可以在DAGUI中查看DAG的新条目,但它没有自动启用。最重要的是,它似乎也没有正确加载。我只能点击列表右侧的刷新按钮几次,然后切换列表左侧的开/关按钮,以便能够安排DAG。这些是手动过程,因为即使DAG脚本放在dag文件夹中,我也需要触发某些东西。任何人都可以帮助我吗?我错过了什么吗?或者这是Airflow中的正确行为?顺便说一下,正如帖子标题中提到的,有一个指示符带有此消息“此DAG在网络服务器DagBag对象中不可用。它显示在此列表中是因为调度程序在元数据中将其标记为事件在我触发所有这些手动过程之前,用DAG标题标记数

java - 如何将 java.sql.Timestamp 增加 14 天?

我有一个应用程序,它以时间戳作为sql选择的开始日期和结束日期的边界,我想填充一个HashMap,其中自今年的第一个星期一以来的周数作为值和周数作为key。我发现使用时间戳真的很难,而且我对添加86,400,000秒来增加一天感觉不太好,因为这不考虑闰日、小时、秒。我打算在上面加上13天23小时59分59秒,这样我就可以在map中以星期为关键字查找开始日期,然后使用开始日期来获取结束日期。所以我想尝试得到这样的东西:WeekstartDateendDate12011-01-0300:00:002011-01-1623:59:5922011-01-1700:00:002011-01-30

java - 如何将 java.sql.Timestamp 增加 14 天?

我有一个应用程序,它以时间戳作为sql选择的开始日期和结束日期的边界,我想填充一个HashMap,其中自今年的第一个星期一以来的周数作为值和周数作为key。我发现使用时间戳真的很难,而且我对添加86,400,000秒来增加一天感觉不太好,因为这不考虑闰日、小时、秒。我打算在上面加上13天23小时59分59秒,这样我就可以在map中以星期为关键字查找开始日期,然后使用开始日期来获取结束日期。所以我想尝试得到这样的东西:WeekstartDateendDate12011-01-0300:00:002011-01-1623:59:5922011-01-1700:00:002011-01-30

logstash毫秒时间戳转日期以及使用业务日志时间戳替换原始@timestamp

文章目录问题解决方式参考问题在使用Kibana观察日志排查问题时发现存在很多组的@timestamp数据一样,如下所示详细观察内部数据发现其中日志数据有一个timestamp字段保存的是业务日志的毫秒级时间戳,经过和@timestamp数据对比发现二者的时间不匹配。经过分析得知@timestamp是按照logstash插入es数据的时间来排序,而且数据是按照批次来的,每一批次的时间可能都是大径相同,结果就是导致上面描述的一系列问题。解决方式针对该问题,我们可以使用logstash中的filter中date属性来进行日期的转换,即使用业务日志中的timestamp字段去替换掉logstash自己

java - 如何让 Maven 在 maven.build.timestamp 中显示本地时区?

在Maven3.2.2+中,maven.build.timestamp已重新定义为以UTC显示时间,根据MNG-5452.有什么方法可以指定我想要本地时区而不是UTC的时区信息?我简要浏览了maven资源,但无论如何都没有看到指定我希望TZ是本地TZ而不是基于UTC。 最佳答案 如前所述,在当前版本的Maven(至少到3.3.+版)中,maven.build.timestamp属性不允许时区覆盖。但是,如果您可以根据自己的目的使用不同的属性名称,build-helper-maven-plugin允许您为各种目的配置自定义时间戳。这是

java - 如何让 Maven 在 maven.build.timestamp 中显示本地时区?

在Maven3.2.2+中,maven.build.timestamp已重新定义为以UTC显示时间,根据MNG-5452.有什么方法可以指定我想要本地时区而不是UTC的时区信息?我简要浏览了maven资源,但无论如何都没有看到指定我希望TZ是本地TZ而不是基于UTC。 最佳答案 如前所述,在当前版本的Maven(至少到3.3.+版)中,maven.build.timestamp属性不允许时区覆盖。但是,如果您可以根据自己的目的使用不同的属性名称,build-helper-maven-plugin允许您为各种目的配置自定义时间戳。这是