草庐IT

workflow-engine

全部标签

mysql - 如何在 MySQL my.cnf 中永久设置 sql-mode ="NO_ENGINE_SUBSTITUTION"

更新于2015年1月18日修复在我们最近更新到MySQL5.6.27(来自Ubuntu存储库)之后,此选项现在可以使用。所以这似乎是以前版本的MySQL的问题。原始问题随着对MySQL(5.6.20)的新升级,更新和插入失败,除非我将sql-mode设置为NO_ENGINE_SUBSTITUTION。感谢documentation,我可以从mysql终端运行以下命令并解决问题(暂时):SETGLOBALsql_mode='NO_ENGINE_SUBSTITUTION';SETSESSIONsql_mode='NO_ENGINE_SUBSTITUTION';`但是下次MySQL重新启动时

hadoop - 我需要在oozie的workflow.xml和job.properties中提供配置吗?

我正在尝试运行这样的作业(workflow.xml)hadoop1:50300hdfs://hadoop1:8020lib/FirstScript.pigActionfailed,errormessage[${wf:errorMessage(wf:lastErrorNode())}]第一个脚本:dual=LOAD'default.dual'USINGorg.apache.hcatalog.pig.HCatLoader();storedualinto'/user/oozie/dummy_file.txt'usingPigStorage();工作属性:nameNode=hdfs://had

hadoop - 传递 JVM 选项以指向 Oozie Workflow 中 Pig Action 中的 log4j.properties 文件

在我的Oozie工作流程中,有一个pigAction。运行时,它正在CDH中寻找log4j.properties文件,因为我没有在我的jars中提供该文件。现在,我有了log4j.properties文件,我只需要将它作为Pig操作中的JVM选项传递即可。有什么办法吗? 最佳答案 无法将自定义log4j属性文件传递给Oozie工作流中的Pig操作。PigMain.java文件不允许将以下参数作为参数传递。static{DISALLOWED_PIG_OPTIONS.add("-4");DISALLOWED_PIG_OPTIONS.ad

java - 当 hive.execution.engine 值其 tez 时出现 NoSuchMethodError

我正在使用hive1.0.0和apachetez0.4.1当我将配置单元配置为使用tez时,出现异常。在hive-site.xml中,当hive.execution.engine值为mr时,它工作正常。但是如果我将它设置为tez我会得到这个错误:Exceptioninthread"main"java.lang.NoSuchMethodError:org.apache.tez.mapreduce.hadoop.MRHelpers.updateEnvBasedOnMRAMEnv(Lorg/apache/hadoop/conf/Configuration;Ljava/util/Map;)Va

hadoop - Oozie 和 Hue : why am I getting "permission denied" error while playing oozie workflow?

我是Hue和Oozie的新手。我安装了一个带有Hue的Cloudera5集群。我以Thomas的身份登录Hue,并创建了一个仅运行Hive脚本的Oozie仪表板。但是,当我启动仪表板时,出现以下错误,声称无法在inode/tmp/hadoop-yarn上写入:2015-06-1213:36:01,014WARNActionStartXCommand:523-SERVER[cdh-master]USER[thomas]GROUP[-]TOKEN[]APP[My_Workflow]JOB[0000000-150612132534763-oozie-oozi-W]ACTION[0000000

hadoop - Sqoop Export Oozie Workflow 因未找到文件而失败,从控制台运行时有效

我有一个包含6个节点的hadoop集群。我正在通过Sqoop从MSSQL中提取数据并返回到MSSQL中。Sqoop导入命令运行良好,我可以从控制台(在其中一个hadoop节点上)运行sqoop导出命令。这是我运行的shell脚本:SQLHOST=sqlservermaster.localSQLDBNAME=db1HIVEDBNAME=db1BATCHID=USERNAME="sqlusername"PASSWORD="password"sqoopexport--connect'jdbc:sqlserver://'$SQLHOST';username='$USERNAME';passwo

hadoop - 奥齐 : How to use oozie coodinator properties in corresponding workflow?

我有一个oozie作业作为调用worflow的协调器运行,在协调器中有一些使用协调器EL函数的配置属性,就像这样-${oozieAppDir}/copyLogs.wf.xmlfilename3${coord:formatTime(coord:dateOffset(coord:nominalTime(),-3,'HOUR'),'MM')}-${coord:formatTime(coord:dateOffset(coord:nominalTime(),-3,'HOUR'),'dd')}-${coord:formatTime(coord:dateOffset(coord:nominalTim

hadoop - 一个目录下可以有两个oozie workflow.xml文件吗?

一个目录下可以有两个oozieworkflow.xml文件吗?如果是这样,我如何指示oozierunner运行哪一个? 最佳答案 您可以有两个工作流文件(只需给它们唯一的名称),然后您可以通过在配置文件中设置oozie.wf.application.path值来选择要调用的文件:oozie.wf.application.path=hdfs://namenode:9000/path/to/job/wf-1.xml#oozie.wf.application.path=hdfs://namenode:9000/path/to/job/wf

google-app-engine - 如何在 Scala 中使用泛型引用静态 Java 类的子类

我有这段Java代码:publicclassTestMapperextendsAppEngineMapper{publicTestMapper(){}//[...otheroverridenmethods...]@Overridepublicvoidsetup(Contextcontext){log.warning("Doingper-workersetup");}}...我已将其转换为:classTestMapperextendsAppEngineMapper[Key,Entity,NullWritable,NullWritable]{//[...otheroverridenmeth

hadoop - IO异常 : Filesystem closed exception when running oozie workflow

我们在oozie中运行一个工作流。它包含两个操作:第一个是在hdfs中生成文件的mapreduce作业,第二个是将文件中的数据复制到数据库的作业。两个部分都成功完成,但oozie在最后抛出一个异常,将其标记为失败的过程。这是异常(exception)情况:2014-05-2017:29:32,242ERRORorg.apache.hadoop.security.UserGroupInformation:PriviledgedActionExceptionas:lpinsight(auth:SIMPLE)cause:java.io.IOException:Filesystemclosed