草庐IT

hadoop - M/R 作业提交失败,错误为 : Could not find Yarn tags property > (mapreduce. job.tags)

我在运行map/reduce作业时遇到以下异常。我们通过oozie提交map/reduce作业。FailingOozieLauncher,Mainclass[org.apache.oozie.action.hadoop.JavaMain],main()threwexception,CouldnotfindYarntagsproperty(mapreduce.job.tags)java.lang.RuntimeException:CouldnotfindYarntagsproperty(mapreduce.job.tags)atorg.apache.oozie.action.hadoop

hadoop - 消息 [JA002 : SIMPLE authentication is not enabled. 可用:[ token ]]

我在运行Oozie作业时遇到以下错误。命令:ooziejob-ooziehttp://10.xxx.xx.xx:11000/oozie/-log0000017-151029172404066-oozie-oozi-W日志:2015-11-2411:50:23,469INFOActionStartXCommand:543-SERVER[hostname.abc.com]USER[oozie]GROUP[-]TOKEN[]APP[sqoop-wf]JOB[0000017-151029172404066-oozie-oozi-W]ACTION[0000017-151029172404066-

hadoop - 如何从 Oozie 查询 Active NameNode

在我的hadoop集群中,我们有一个namenode和一个secondaryNameNode。我正在我的oozie作业中执行一个步骤,该步骤必须具有“事件”名称节点。有什么东西可以让我从Oozie查询“事件”名称节点吗?请注意,这是一个相当大的集群,不能保证Oozie和HDFS位于同一位置。编辑:请注意,我的问题与Oozie配置无关。配置已经完成。我的问题是查询工作流中的事件名称节点。 最佳答案 如果您有主动-被动/HA配置-oozie应该使用命名空间而不是主动名称节点进行配置。 关于h

shell - 如何使用oozie执行shellScript

我在sqoopJob.sh中编写了以下sqoop作业------------myscript.sh--------------------TARGET_DIR=date+"%Y_%m_%d"sqoopimport--connectjdbc:mysql://localhost/mydb--usernameroot--passwordroot--tableCustomer--m1--target-dir/temp/$TARGET_DIR我想使用oozie执行。它给了我以下错误Cannotrunprogram"CustomerImportScript.sh"(indirectory"/had

hadoop - 设置协调器oozie文件不存在报错如何解决

设置coordinatoroozie时错误文件不存在的解决方法:我在日志协调器中有错误:Pig日志文件转储:后端错误信息错误:java.io.FileNotFoundException:文件不存在:/user/hdfs/jay/part-0.tmp设置协调器:LAST_ONLY${nameNode}/user/hdfs/jay/${YEAR}/${MONTH}/${DAY}/${HOUR}${MINUTE}${nameNode}/user/hdfs/jay/output${coord:current(-2)}${coord:current(-2)}${appFolder}INPUT${

shell - 如何在 OOZIE 中使用正则表达式?

我想检查文件是否存在于给定的HDFS位置。我们可以在fs:exists的帮助下检查文件是否存在于给定的HDFS位置,即如果文件名为test_25082016,在协调工作的帮助下,我们可以获得日期值,即在我们的示例中作为参数today。工作Proppath=/user/cloudera/file/input/test_在workflow.xml中${fs:exists(concat(concat(nameNode,path),today))}${fs:exists(concat(concat(nameNode,path),yesterday))}它按预期工作。但就我而言,我的HDFS位置

hadoop - 是否为 Oozie 操作配置队列可选

我正在浏览大量Oozie示例,我最感兴趣的三个操作是Sqoop、Hive和Pig操作。在某些示例中,mapreduce.job.queuename属性(旧版本为mapred.queue.name)通常配置为default,例如这个:...mapreduce.job.queuenamedefault另一方面,其他示例没有指定任何队列(也没有指定全局配置)。是否需要配置队列?如果我没有指定会发生什么? 最佳答案 Doesconfiguringthequeuenecessary?否没有必要。WhatwouldhappenifIdidn't

hadoop - 如何在协调器中将当前月、日或年设置为工作流参数(在 Hue 上)

我有一个Oozie工作流,它具有三个参数,分别期望日、月和年。此工作流程与手动输入完美配合。我现在正在寻找一个协调器,它每天运行这个工作流并自动用当前的日期、月份和年份填充这些参数。我已经尝试了Hue似乎提议的${DAY}、${MONTH}和${YEAR}但我明白了使用例如提交协调器时出现以下错误${MONTH}作为我的月份参数的值。E1004:Expressionlanguageevaluationerror,Unabletoevaluate:${MONTH}:我正在CDH5.8上尝试这个。 最佳答案 我自己找到了答案,Hue也向

java - 如何使用 oozie 协调器延迟工作流操作

我有一个oozie协调员和工作流程工作,当我的工作流程操作之一完成时,我需要在一段时间后开始下一个操作,比如50分钟。我可以从oozie工作流或oozie协调器配置它等待一段时间来执行下一个操作(取决于之前的操作和之前启动的一些异步任务)。协调器xml${exampleDir}/ods-ds-cms-workflow.workflownameNode${nameNode}jobTracker${jobTracker}exampleDir${nameNode}/custom/oozie工作流.xml${jobTracker}${nameNode}mapred.job.queue.name

hadoop - E0701 : XML schema error, cvc-pattern-valid oozie 错误

我正在尝试运行oozie工作流,但出现以下错误:E0701:XML架构错误,cvc-pattern-valid:值“模型和映射表更新”对于模式“([a-zA-Z_]([\-_a-zA-Z0-9])*){1,39}'用于类型'IDENTIFIER'。我在查询中使用以下正则表达式。这有什么问题吗?当我通过Hive或CLI运行时一切正常。regexp_replace(id_col,'^0|[a-zA-Z]+$','')下面是我的workflow.xml${jobTracker}${nameNode}/user/sin/oozie/sources_creation.hql${jobTracke