草庐IT

hadoop - 包含 Sqoop 导入失败的 Oozie 脚本操作

我正在尝试制作一个oozie工作流操作,以通过shell脚本使用sqoop从mysql导入数据。工作流程步骤:1.删除任何现有目录。Java操作读取元数据配置单元表并创建table_metadata目录和*.cf文件。Shell脚本遍历table_metadata目录并扫描配置文件(*.cf)。每个文件都包含一个要导入的表名。然后它将表名抓取到sqoop导入查询中使用的table_name变量中。当我从命令行以(shscript.sh)运行时,包含Sqoop的同一脚本工作正常。但是,当我尝试通过Oozie(ClouderaHueGUI)脚本操作作为工作流运行时,它失败并出现以下错误。知

hadoop - Oozie pyspark 工作

我的工作流程非常简单。${jobTracker}${nameNode}mapred.compress.map.outputtruelocal[*]SparkExamplemapping.py--executor-memory1G--num-executors3--executor-cores1argument1argument2"Killedjobduetoerror"Spark脚本几乎什么都不做:iflen(sys.argv)脚本位于hdfs上,与workflow.xml位于同一文件夹中。运行工作流程时出现以下错误LauncherERROR,reason:Mainclass[org.

shell - Oozie shell 操作

我有一个oozieshell操作,它从HDFStxt文件获取输入,但每次我调用txt文件时,它都说目录不存在,但它存在于服务器上。这是我的shell脚本:#!/bin/bashIngesta="MUM_APPs"msj="'${1}'"#alerta=`hdfsdfs-test-e/user/inpt_red/oozie/workspace/envio_sms/EnviaSMS/Num_Alerta.txt`whilereadlinedoline=${i}Num=$(echo$line|cut-d'|'-f1)Proceso=$(echo$line|cut-d'|'-f5)if["$P

hadoop - Oozie 将文件从一个 hdfs 位置复制到另一个

我正在使用ooziefsmove选项将数据从一个hdfs文件夹复制到另一个。但是,如果目标存在,fs命令会按预期将源作为目标目录的子目录。有没有办法避免这种情况,只将avro文件从源复制到目标。 最佳答案 如果您必须覆盖一个目录,您可以使用-f示例:hdfsdfs-cp-f/sourcepath/Destinationpath您可以在oozie中反射(reflect)相同的方式。如果你只想复制Avro文件,选择avro文件的通用扩展名并使用wildcare,像这样hdfsdfs-cp-fsourcepath/*.avro/Destn

apache-spark - 如何修复 oozie spark yarn 提交中的 '' java.lang.NoSuchMethodError"?

我已经启动并运行了裸机hadoop3.1.2集群,我还安装了Oozie5.1.0并成功运行了shell示例。但是当我运行Spark示例(FileCopy)时,它在oozie中指示“成功”,而文件并未真正复制,并且YARNstderr包含:Exceptioninthread"main"java.lang.NoSuchMethodError:org.apache.hadoop.yarn.api.protocolrecords.RegisterApplicationMasterResponse.getResourceProfiles()Ljava/util/Map;atorg.apache.

java - 将值从 Java 操作传递到 Oozie 工作流中的下一个 Java 操作

我有两个用Oozieworkflow.xml编写的java操作。我想将我的第一个java操作的输出传递给下一个java操作以供重用。我知道这需要使用“oozie.action.output.properties”来完成。在第一个操作中,我设置输出参数“buildFileName”,如下所示:Filefile=newFile(System.getProperty("oozie.action.output.properties"));LOGGER.info("SystemGetProperty:"+System.getProperty("oozie.action.output.proper

date - 根据oozie中的日期创建输出文件

我正在使用oozie来运行我的map-reduce作业。我想根据日期创建输出文件。但是它将日期作为字符串并最终打印而不是将日期作为值:/user/skataria/geooutput/$(date+"%m%d%Y%H%M%S")这是oozie属性文件:nameNode=hdfs://localhost:8020jobTracker=localhost:8021date=(date+"%m%d%Y%H%M%S")oozie.wf.application.path=${nameNode}/services/advert/sidinputDir=${nameNode}/user/${user

exception - 检查 oozie 工作流状态时获取 HadoopAccessorException

WorkflowName:map-reduce-wfAppPath:hdfs://10.226.226.34:8020/user/user/examples/apps/map-reduce/workflow.xmlStatus:KILLEDRun:0User:userGroup:usersCreated:2013-01-2311:25Started:2013-01-2311:25LastModified:2013-01-2311:26Ended:2013-01-2311:26ActionIDStatusExtIDExtStatusErrCode0000002-1301231624456

hadoop - 如何在 Hadoop 1.1.1 上安装 Oozie 3.3.1?

我正在运行HadoopVer1.1.1并想在安装时安装Oozie3.3.1我收到以下错误hduseros@MT2012018:/usr/local/oozie-3.3.1$./distro/target/oozie-3.3.1-distro/oozie-3.3.1/bin/oozie-setup.sh-hadoop1.1.1/usr/local/hadoop-extjs/usr/local/oozie-3.3.1/webapp/src/main/webapp/ext-2.2.zipsettingCATALINA_OPTS="$CATALINA_OPTS-Xmx1024m"Exiting

hadoop - 在 Oozie 电子邮件操作中添加 html 标签

我想从oozie发送电子邮件,我的正文内容应以粗体显示。工作流.xml:test@gmail.comTestmailEmailsendingwithheadinglevel1text/htmlShellactionfailed,errormessage[${wf:errorMessage(wf:lastErrorNode())}]工作属性:OOZIE_URL=http://xxx.xxx.xx.x:11000/oozienameNode=hdfs://xxx.xxx.xx.x:8020jobTracker=xxx.xxx.xx.x:8050oozie.use.system.libpat