草庐IT

oozie-workflow

全部标签

hadoop - 我们可以在 oozie 工作流 xml 中访问整个 hadoop 作业日志吗?

oozie#emailAction#hadoop我正在使用oozie工作流运行hadooppig作业。如何在工作流xml中访问hadoop作业的整个日志,以便我可以在成功/失败电子邮件操作中使用它?谢谢我需要电子邮件中的示例日志:2016-10-2613:58:30,385[main]INFOorg.apache.pig.tools.pigstats.ScriptState-Pigfeaturesusedinthescript:UNKNOWN2016-10-2613:58:30,480[main]INFOorg.apache.pig.backend.hadoop.executionen

hadoop - oozie.launcher.* 配置放在哪里?

在尝试正确使用Oozie时,我最终设置了一些参数,即:oozie.launcher.mapreduce.map.memory.mboozie.launcher.mapreduce.map.java.optsoozie.launcher.yarn.app.mapreduce.am.resource.mboozie.launcher.mapred.job..queue.name如果我在工作流配置中设置它们,它们会按预期工作。有没有一种方法/一个地方可以全局设置它们,即。不是每个工作流程?我原以为custom-oozie-site.xml会是正确的位置,但显然不是(如果放在那里它们没有效果)

scala - 捕获 Oozie 中 Spark 操作节点的控制台输出作为整个 Oozie 工作流的变量

有没有办法在Oozie中捕获spark作业的控制台输出?我想在spark作业之后的下一个操作节点中使用特定的打印值。我在想我可以使用${wf:actionData("action-id")["Variable"]}但是oozie似乎没有能力从sparkAction节点捕获输出,这与您可以使用echo"var=12345"的ShellAction不同。然后调用oozie中的wf:actionData以用作整个工作流中的Oozie变量。我想实现这一点,因为我想打印可能处理的记录数并将其存储为oozie变量,并将其用于工作流中的下一个操作节点,而无需执行任何需要您将该数据存储在外部的功能工作

hadoop - "no such file or directory"oozie 错误

我尝试学习Oozie,我想做一个非常简单的工作流程。为此,我使用HUE创建了第一个oozie工作流。我的第一个工作流程是执行一个shell命令文件“testhbase.sh”,其中包含:#!/bin/shecho-e"scan'hbasedepartementcap'"|hbaseshell-n当我试图将它放入Oozie的shell图标中时,在执行时我得到:没有这样的文件或目录...我怎么知道要在oozie中设置什么参数!!???=================================================================>>>InvokingShe

hadoop - Oozie Coordinator - 自定义 EL 函数

我需要创建自定义EL函数并在uri模板中使用它(相当于YEAR、MONTH)。有可能的?oozie-site.xml中coordinator这个区域的关键配置是什么? 最佳答案 属性oozie.service.ELService.ext.functions.workflow是您必须包含扩展EL函数到关联类和方法的所有映射的属性。多个映射条目以逗号分隔。oozie.service.ELService.ext.functions.workflowyourELkey=fully_quallified_class_name#static_m

hadoop - Oozie:在协调器中重新运行所有未成功的工作流

我安排了一个协调员来启动许多单独的工作流程。这是一个回填协调器,开始日期和结束日期都是过去的。这些作业中有一小部分由于输入数据集的临时问题而失败,现在我需要重新运行这些工作流(无需重新运行成功的工作流)。这些不成功的工作流程有多种状态:KILLED、FAILED和SUSPENDED。执行此操作的最佳方法是什么? 最佳答案 我不认为整个事情,即具有多个状态的作业,是否可以在单个命令中运行,但是使用ooziejobs,可以尝试,尽管三个状态的三个单独的命令.如果其他人有更好的方法,请发布。ooziejobsfilter-jobtypew

hadoop - Oozie 协调器问题

我将oozie安装作为cloudera安装的一部分。我正在尝试使用coordinator.xml中的以下配置从示例执行协调器工作流。使用此配置,我希望工作流每1小时执行一次,但工作流似乎每5分钟执行一次,有人对此问题有答案吗? 最佳答案 您是否将开始时间设置在当前时间之前?如果是这样,Oozie将以追赶模式工作,直到安排完所有延迟的操作。“频率”设置不适用于追赶模式。 关于hadoop-Oozie协调器问题,我们在StackOverflow上找到一个类似的问题:

java - 在没有 Oozie 的情况下定期运行 MapReduce 作业?

我有一个mapreduce作业作为“jar”,应该每天运行。另外,我需要从远程Java应用程序运行这个jar。我如何安排它:即,我只想每天从我的远程Java应用程序运行作业。我读过有关Oozie的资料,但我认为它不适合放在这里。 最佳答案 看看Quartz.它使您能够运行独立的Java程序或在Web或应用程序容器(如JBoss或ApacheTomcat)中运行。特别是与Spring和Springbatch的集成很好。Quartz可以在java代码之外进行配置-在XML中,语法与crontab中的完全一样。所以,我发现它非常方便。ä可

hadoop - Oozie Hive Action 挂起,心跳永远

我正在尝试通过我在Hue中创建的Oozie工作流来运行Hive操作,但是操作“心跳”永远不会执行HiveSQL。我读过其他关于永远心跳的文章,但这篇文章似乎发生在不同的时间点,在SQL语句被解析之后。我检查了集群中每个节点的内存,并验证了任务计数参数是否合理。这是hive-config.xml文件:javax.jdo.option.ConnectionURLjdbc:hive://10.1.10.250:10000/testdbJDBCconnectstringjavax.jdo.option.ConnectionDriverNameorg.apache.hadoop.hive.jdb

hadoop - 如何在工作流本身中使用 Oozie 工作流配置属性?

我有一个Oozie协调器,它监视文件是否出现在特定目录中。该协调员每天运行。如果正在观看的文件出现,则会启动工作流程。工作流采用正在监视的文件/目录的参数。Oozie将其传递给它。这是一个完全限定的路径(即:hdfs://myhost/dir1/dir2/2015-02-17)。我需要获取/dir1/dir2/2015-02-17并将其传递到Hive脚本中,该脚本似乎没有采用完全合格的HDFS路径。这意味着我需要使用WorkflowEL函数去除hdfs://myhost部分。我认为replaceAll()会这样做。问题是将其结果传递到Hive。有没有办法在工作流本身中使用工作流配置属性