草庐IT

oozie-workflow

全部标签

hadoop - IO异常 : Filesystem closed exception when running oozie workflow

我们在oozie中运行一个工作流。它包含两个操作:第一个是在hdfs中生成文件的mapreduce作业,第二个是将文件中的数据复制到数据库的作业。两个部分都成功完成,但oozie在最后抛出一个异常,将其标记为失败的过程。这是异常(exception)情况:2014-05-2017:29:32,242ERRORorg.apache.hadoop.security.UserGroupInformation:PriviledgedActionExceptionas:lpinsight(auth:SIMPLE)cause:java.io.IOException:Filesystemclosed

hadoop - 配置单元查询的简单 oozie 示例?

我正在尝试将一个简单的工作流程转换为oozie。我已经尝试查看oozie示例,但它们有点让人不知所措。实际上我想运行一个查询并将结果输出到一个文本文件。hive-e'select*fromtables'>output.txt如何将其转换为oozie以使其每小时运行一次? 最佳答案 您的工作流程可能看起来像这样......workflow.xmllocalhost:50001hdfs://localhost:50000mapred.job.queue.namedefaultoozie.hive.defaults/user/user1/

hadoop - oozie 如何处理依赖项?

我有几个关于oozie2.3共享库的问题:目前,我在我们的coordinator.properties中定义了共享库:oozie.use.system.libpath=trueoozie.libpath=这是我的问题:当共享库复制到其他数据节点时,有多少数据节点会得到共享库?共享库是根据协调器作业中的wf数量复制到其他数据节点,还是每个协调器作业仅复制一次? 最佳答案 将条目添加到oozie.libpath属性实际上意味着OOZIE会将这些库配置为在mapred.cache.files中配置属性(这是一个DistributedCac

hadoop - Hadoop、Oozie 中作业、应用程序、任务、任务尝试日志之间的区别

我正在运行一个包含多个操作的Oozie作业,但有一部分我无法让它工作。在故障排除过程中,我被大量日志淹没了。在YARNUI中(yarn-site.xml中的yarn.resourceman­ager.webapp.address,通常在端口8088上),有application_日志。在JobHistoryServer(yarn-site.xml中的yarn.log.server.url,我们的端口19888)中,有job_日志。(这些作业日志也应该显示在Hue的作业浏览器上,对吧?)在Hue的Oozie工作流编辑器中,有task和task_attempt(不确定它们是否相同,对我来说

hadoop - Oozie 作业错误 - java.io.IOException : configuration is not specified

我已经为配置单元脚本创建了一个oozie工作流来将数据加载到表中。我的workflow.xml包含-${jobTracker}${nameNode}${workflowRoot}/hive-site.xmloozie.hive.defaults${workflowRoot}/hive-site.xmlload_data.hqlHivefailed,errormessage[${wf:errorMessage(wf:lastErrorNode())}]我的job.properties文件包含-nameNode=hdfs://localhost:8020jobTracker=localho

hadoop - 我可以提交包含多个配置文件的 oozie 作业吗?

在OozieCLI中我想做这样的事情:ooziejob-ooziehttp://host:port/oozie-configjobConfig.properties,baseConfig.properties-submit我有很多不同的工作正在运行,其中.properties文件的一部分是相同的。我希望能够将重复的部分移动到一个单独的baseConfig.properties文件中,并在我提交作业时将其与特定于作业的部分结合起来。 最佳答案 如果被覆盖的属性数量很少,您可以只引用基础配置文件,然后为每个要自定义的属性使用-Dprop

hadoop - 如何部署和运行 oozie 作业?

我正在尝试使用oozie做一个简单的工作。这将是一个简单的PigAction。我有一个文件:FirstScript.pig包含:dual=LOAD'default.dual'USINGorg.apache.hcatalog.pig.HCatLoader();storedualinto'dummy_file.txt'usingPigStorage();和一个workflow.xml包含:hadoop:50300hdfs://hadoop:8020/FirstScript.pigjobOK,message[${wf:errorMessage()}]joberror,errormessage

php - Symfony workflow::can 通过 workflow guard 事件监听器

如果你们中的很多人已经测试过symfonyworkflow组件,我现在不知道,但我希望你们中的一些人已经测试过:)所以,我在两个对象上使用这个组件,我希望第一个对象更新第二个strong>取决于它应用的transition。为此,我在我的第一个对象上使用了workflowguardlistener,并尝试在我的对象上执行一个workflow::apply第二个对象(使用第二个工作流程...)。问题是,当我创建一个workflow::can时,事件被调度并尝试应用一个新的状态在我的第二个对象上...这很不正常,因为我只是在问我是否可以应用一些过渡并且不要求实际应用我的第一个对象。配置fr

android - 黑客 : What is your Android Workflow?

关闭。这个问题是opinion-based.它目前不接受答案。想要改进这个问题?更新问题,以便editingthispost可以用事实和引用来回答它.关闭9年前。Improvethisquestion我是Android开发的新手,我非常感谢有关如何开发android的建议。我目前在我的Macbookpro上使用安装了AndroidSDK的Eclipse。我使用的是最新的API3.1。但是我注意到android模拟器不是很稳定(它有时会崩溃)并且模拟器疯狂滞后(我的Macbookpro有icore5和4Gbram,AVDram设置为1Gb,而且我正在使用快照).我尝试了3.0,但它仍然很

windows - Windows Workflow Foundation 在哪里使用?

WF是用在用户界面还是业务层?如果在UI层,那么在业务层编码的人还需要使用或学习吗? 最佳答案 克里斯提供了一个很好的答案,所以我会采取不同的策略。工作流真的和逻辑不一样。工作流通常是逻辑的组合,这使它们成为整体的补充贡献者。业务组件很好地封装了单个业务规则或行为,而工作流则由多个业务组件、规则和行为组成,以满足更大、运行时间更长的业务流程的需要。工作流可以适用于任何地方,满足UI、业务甚至数据层的流程需求。如果您最终使用WF,我强烈建议您培训您的一般开发人员,以便有广泛的知识和理解。尽管具有视觉效果,WF仍然需要一些低级编码来构建