草庐IT

hadoop - JA017 : Could not lookup launched hadoop Job ID

在Hue中的OozieEditor中提交mapreduce作业时如何解决这个问题?:JA017:无法查找与操作[0000009-150711083342968-oozie-root-W@mapreduce-f660]关联的hadoop作业ID[job_local152843681_0009]。此操作失败!更新:Herearelogfile:2015-07-1504:54:40,304INFOActionStartXCommand:520-SERVER[myserver]USER[root]GROUP[-]TOKEN[]APP[My_Workflow]JOB[0000010-150711

hadoop - 如何使用oozie检查文件是否存在于HDFS位置?

如何使用Oozie检查HDFS位置的文件是否存在?在我的HDFS位置,我会在每天晚上11点得到一个像这样的文件test_08_01_2016.csv。我想在晚上11点15分之后检查这个文件是否存在。我可以使用Oozie协调器作业安排批处理。但是我如何验证该文件是否存在于HDFS中? 最佳答案 您可以在oozie中使用EL表达式,例如:${fs:exists('/path/test_08_01_2016.csv')}您还可以使用简单的shell脚本使用捕获输出来构建文件的名称。 关于had

hadoop - 如何在 OOZIE 工作流中使用逻辑运算符

我有一个oozie工作流程我正在使用决策控制节点在谓词中我想“&&”两个不同的条件我需要在它们之间使用“&&”来获得最终的TRUE/FALSE结果我找不到这种条件的谓词语法我正在使用这个---------我想做这个=condition1&&condition2谁能帮我解决语法问题? 最佳答案 我会用一个例子来解释这一点。假设我们有一个Java操作(我们将此操作称为getAgeInfo),它输出一个人的年龄:'person.age':AgeofthepersonAction:..........下一个Action是makeClassi

hadoop - 如何在 oozie 作业中指定多个 libpath?

我的oozie作业使用2个jarx.jar和y.jar,下面是我的job.properties文件。oozie.libpath=/liboozie.use.system.libpath=true当两个jar都位于HDFS上的相同位置/lib/x.jar和/lib/y.jar时,这非常有效现在我有2个jar放在不同的位置/lib/1/x.jar和/lib/2/y.jar。我如何重写我的代码,以便在运行mapreduce作业时同时使用这两个jar?注意:我已经引用了答案Howtospecifymultiplejarfilesinoozie但是,这并不能解决我的问题

hadoop - 我可以动态重命名 oozie 作业名称吗

我们有一个Hadoop服务,其中有多个应用程序。我们需要通过重新执行相同的工作流来处理每个应用程序的数据。这些计划在一天的同一时间执行。问题是,当这些作业正在运行时,很难知道该作业正在为哪个应用程序运行/失败/成功。当然,我可以打开作业配置并知道它,但这确实需要时间,因为有10多个应用程序在该服务下运行。oozie中是否有任何选项可以在执行作业时动态传递工作流(或其中的一部分)的名称ooziejob-run-config-name""ORooziejob-run-config-nameSuffix""此外,我们不希望创建多个作业文件夹来单独执行,因为那样复制粘贴会太多。请推荐。

hadoop - 错误 : E0505 : E0505: App definition

执行以下命令时出现错误。ooziejob-ooziehttp://localhost:11000/oozie-configcoordinator.properties-runError:E0505:E0505:Appdefinition[hdfs://localhost:8020/tmp/oozie-app/coordinator/]doesnotexist任何建议。 最佳答案 请检查作业属性文件中的以下属性-oozie.wf.application.path这应该指向您有workflow.xml的HDFS目录和协调器.xml请注意

hadoop - Oozie:oozie 是否生成输出事件?

在oozie中,input-events非常简单,如果指定的文件/文件夹不存在,协调器作业将保持在WAITING状态。但我无法理解output-events的作用。根据我的理解,在output-events标签中指定的文件/文件夹应该由oozie创建,以防所有指定的操作都成功。但那不会发生。我也找不到任何相关日志。文档也不清楚这一点。那么,问题是,Oozie是否真的创建了output-events中指定的文件/文件夹?或者它只是提到这些特定的文件/文件夹是在工作流程中创建的,创建的责任在工作上,而不是在Oozie上?相关代码见https://gist.github.com/venkat

java - 使用 oozie 为 mapreduce 作业写入多个输出流的正确方法是什么?

我正在使用新的HadoopAPI编写一系列map-reduce作业。我打算使用Oozie将所有这些管道连接在一起,但我似乎无法找到一种方法来从工作流中的map-reduce节点执行多个输出流。通常要编写多个输出,我会使用类似于MultipleOutputsjavadoc中给出的代码的代码,但oozie从workflow.xml文件中获取所有配置,因此无法像示例中那样配置命名输出。我遇到了一个thread讨论了Oozie中多个输出的使用,但除了创建Java任务并将其直接添加到Oozie管道之外,没有提出任何解决方案。有没有办法通过workflow.xml中的map-reduce节点来实现

bash - Oozie shell 脚本 Action

我正在探索Oozie管理Hadoop工作流的功能。我正在尝试设置调用一些配置单元命令的shell操作。我的shell脚本hive.sh看起来像:#!/bin/bashhive-fhivescripthive脚本(已独立测试)创建一些表等的位置。我的问题是将hivescript保存在哪里,然后如何从shell脚本中引用它。我尝试了两种方法,首先使用本地路径,比如hive-f/local/path/to/file,然后使用像上面那样的相对路径,hive-fhivescript,在这种情况下,我将我的hivescript保存在oozie应用程序路径目录中(与hive.sh和workflow.

bash - 通过 Hue 从 oozie 运行 shell 脚本

我在Hue中使用oozie编辑器调用bashshell脚本。我在工作流程中使用了shell操作,并在shell命令中尝试了以下不同选项:使用“选择文件”上传了shell脚本给出shell脚本所在的本地目录路径给出了shell脚本所在的HDFS路径但是所有这些选项都给出了以下错误:Cannotrunprogram"sec_test_oozie.sh"(indirectory"/data/hadoop/yarn/local/usercache/user/appcache/application_1399542362142_0086/container_1399542362142_0086_