草庐IT

oozie-setup

全部标签

hadoop - 动态计算oozie参数(MR Action 的reducer数量)

在我的oozie工作流程中,我动态创建了一个配置单元表,比如T1。此配置单元操作之后是映射减少操作。我想将reducers属性(mapred.reduce.tasks)的数量设置为等于字段的不同值,比如(T1.group)。关于如何动态设置某些oozie参数的值以及如何从hive不同操作获取参数值到oozie参数的任何想法? 最佳答案 希望对您有所帮助:像您已经做的那样创建配置单元表。执行另一个Hive查询,计算列的不同值并将其写入hdfs中的文件。创建一个Shell操作,它将读取文件并以key=value的形式回显值。为shell

shell - OOzie Shell -Impala 操作 XML 错误

我正在尝试使用ozzie运行示例impala查询。运行shell时出现以下错误Error:E0701:E0701:XMLschemaerror,cvc-complex-type.2.3:Element'shell'cannothavecharacter[children],becausethetype'scontenttypeiselement-only.HDFS中的Workflow.xml                                        ${jobTracker}                ${nameNode}mapred.job.queue.na

hadoop - HiveContext 不适用于 Oozie

我试图使用HiveContext对象从我的spark代码运行一些配置单元查询。当我使用sparksubmit从命令行运行它时,它工作正常。但是,当我尝试从oozie工作流运行相同的内容时,出现以下异常。Userclassthrewexception:java.lang.RuntimeException:java.lang.RuntimeException:Unabletoinstantiateorg.apache.hadoop.hive.ql.metadata.SessionHiveMetaStoreClient 最佳答案 如果使用

hadoop - Oozie - 有没有办法在整个集群上只执行一个 java 操作实例?

当我查看我的日志时,我发现我的ooziejava操作实际上在多台机器上运行。我认为这是因为它们被包裹在m/r作业中?(这是正确的吗)有没有办法在整个集群上只执行一个java操作实例? 最佳答案 Java操作在Oozie“启动器”作业中运行,只有一个YARN“映射”容器。诀窍在于每个YARN作业都需要一个应用程序主(AM)容器进行协调。所以你最终有2个容器,_0001用于AM和_0002用于Oozie操作,可能在不同的机器上。要控制每个资源的分配,您可以设置以下操作属性来覆盖您的/etc/hadoop/conf/*-site.xml配

hadoop - 在附件的 oozie 电子邮件操作中根据日期传递变量

我正在使用oozie发送带附件的电子邮件。我正在这样做。Actionfailed,errormessage[${wf:errorMessage(wf:lastErrorNode())}]xxxxxxxxxxxxxxx@xxxxxjobsuccesstext/plain/user/XXXX/logs/2017-05-03/exec.log现在在/user/XXXX/logs/2017-05-03/exec.log附近的工作流程中日期总是在变。我如何传递变量,以便在调用工作流时发送特定日期的附件。editedquestion.我的shell脚本:#!/bin/bashTIMESTAMP=`

hadoop - oozie 在通过协调器提交作业时模拟了哪个用户

用户模拟/传播在oozie中如何工作? 最佳答案 检查UserPropogation来自Oozie文档。它说Whensubmittingaworkflowjob,theconfigurationmustcontainauser.nameproperty当您没有明确添加此属性时,它会分配给提交作业的用户。 关于hadoop-oozie在通过协调器提交作业时模拟了哪个用户,我们在StackOverflow上找到一个类似的问题: https://stackoverf

hadoop - 带有存档操作的 Oozie 工作流

我想制作一个oozie工作流,其中成功的最后一步是“存档”结果。shell中的命令是hadooparchive-archiveName=XXX.har-p/some/random/parentdirectorToArhivepathToArchiveDestination我试过以下方法Actionfailed,errormessage[${wf:errorMessage(wf:lastErrorNode())}]我得到的错误类似于以下内容:WARNING:ExceptioninRunloopofthread:mainwithmessage:E0701:XMLschemaerror,cv

hadoop - Oozie 堆栈跟踪

我正在尝试按照中的建议使用Spark的SparkSubmitJava类将Spark作业提交给Oozielaunchingasparkprogramusingoozieworkflow但Java操作失败并显示错误消息Mainclass[org.apache.oozie.action.hadoop.JavaMain],exitcode[1]有什么方法可以访问执行错误日志/堆栈跟踪,以便我可以看到到底发生了什么?任何评论/回答表示赞赏。 最佳答案 要获取java操作日志,您可以使用oozie的Web控制台查找该操作的hadoop作业ID。

hadoop - 如何提交 oozie 协调员工作

我有一个在文件coordinator.xml中定义的oozie协调器作业,它运行一个在workflow.xml文件中定义的工作流作业。我想运行协调员作业,但是当我发出命令'ooziejob-ooziehttp://.../oozie/-config./job.properties-run'它运行工作流而不是协调器。我如何告诉它运行协调器而不是工作流? 最佳答案 我找到了解决方案,它基本上是将属性文件中的“oozie.wf.application.path”属性更改为“oozie.coord.application.path”

apache - 缺少依赖项 hive-builtins 导致构建失败,错误代码为 Oozie 410

我尝试从源代码构建oozie但安装失败。我想安装oozie并急切地等待使用它。我在这个阶段失败了:当我从oozie-3.3.3目录中给出cmd时:bin/mkdistro.sh-DskipTests我遇到了这个错误:[INFO]BUILDFAILURE[INFO]------------------------------------------------------------------------[INFO]Totaltime:06:55min[INFO]Finishedat:2015-07-05T14:05:27+05:30[INFO]FinalMemory:39M/372M