草庐IT

ACTION_DELETE

全部标签

java - 在 Oozie 中将参数从一个 Action 传递到另一个 Action

我有以下shell脚本:DATE=date+"%d%b%y"-d"-1days"如何将DATE传递给Java操作? 最佳答案 您可以捕获shell脚本的输出并将其传递给java操作。在shell脚本中,回显类似“dateVariable=${DATE}”的属性并在shell操作中添加捕获输出元素。这将使您可以从shell脚本捕获dateVariable。在java操作中,您可以将捕获的变量作为参数传递为${wf:actionData('shellAction')['dateVariable']}其中shellAction是shell

hadoop - Oozie 3.1.3 中的 Hive Action

我是Hive和Oozie的新手。我正在尝试通过Oozie运行Hive脚本。这是我得到的错误。Error:E0701:E0701:XMLschemaerror,cvc-complex-type.2.4.c:Thematchingwildcardisstrict,butnodeclarationcanbefoundforelement'hive'.这是我的workflow.xml:${jobTracker}${nameNode}mapred.job.queue.namedefaultoozie.hive.defaults/home/hduser/hive/conf/hive-site.xm

java - 到 HBase 的 Mapreduce 作业抛出 IOException : Pass a Delete or a Put

在EMR上使用Hadoop2.4.0和HBase0.94.18时,我试图直接从我的Mapper输出到HBase表。在执行下面的代码时,我遇到了一个讨厌的IOException:PassaDeleteoraPut。publicclassTestHBase{staticclassImportMapperextendsMapper{privatebyte[]family=Bytes.toBytes("f");@Overridepublicvoidmap(MyKeykey,MyValuevalue,Contextcontext){MyItemitem=//dosomestuffwithkey/

scala - 如何使用scala在apache spark中存储一个 Action 的结果

如何在apacheSparkScala的输出目录中存储从以下操作生成的结果:计数?valcountval=data.map((_,"")).reduceByKey((_+_)).count以下命令不起作用,因为计数未存储为RDD:countval.saveAsTextFile("OUTPUTLOCATION")有什么方法可以将countval存储到本地/hdfs位置? 最佳答案 @szefuf说的是正确的,在count之后你有一个Long,你可以用任何你想要的方式保存它。如果您想使用.saveAsTextFile()将其保存为RDD

hadoop - 同时使用 Delete 和 Put 时无法在 HBase 中插入新数据

我正在使用Hbasemapreduce来计算报告。在reducer中,我尝试清除“result”列族,然后添加一个新的“total”列。但我发现列族是删除的,但新数据不是插入的。Put操作似乎不起作用。你知道为什么吗?reducer类中的示例代码:Deletedel=newDelete(rowkey.getBytes());del.addFamily(RESULT);context.write(newImmutableBytesWritable(Bytes.toBytes(key.toString())),del);Putput=newPut(rowkey.getBytes());pu

hadoop - 在 Oozie 中运行 Hive Action 时出错

我正在尝试通过Oozie运行hive操作。我的workflow.xml如下:${jobTracker}${nameNode}oozie.hive.defaults${hiveConfigDefaultXml}${hiveQuery}OUTPUT=${StagingDir}Hivefailed,errormessage[${wf:errorMessage(wf:lastErrorNode())}]这是我的job.properties文件:oozie.wf.application.path=${nameNode}/user/${user.name}/hiveQueryoozie.libpa

hadoop - 在 oozie Java Action 中传递 HBase 凭据

我需要安排一个与安全hbase交互的oozieJava操作,因此我需要为Java操作提供hbase凭据。我使用的是安全的hortonworks2.2环境,我的工作流XML如下${jobTracker}${nameNode}com.test.hbase.TestHBaseSecure${arg1}Javafailed,errormessage[${wf:errorMessage(wf:lastErrorNode())}]我还修改了oozie属性以包含HbaseCredentials类oozie.credentials.credentialclasses=hcat=org.apache.o

hadoop - curl : (5) Could not resolve proxy: DELETE; Unknown error

我在centos7上使用hadoopapache2.7.1,我想使用webhdfs命令删除文件(file1)。curl-i-xDELETE"http://192.168.25.21:50070/webhdfs/v1/hadoophome/file1/?user.name=root&op=DELETE&recursive=true"但是我收到了这个错误:curl:(5)Couldnotresolveproxy:DELETE;Unknownerror我按如下方式编辑了bashrc文件:exporthttp_proxy=""exporthttps_proxy=""exportftp_prox

__get __ ______________DELETE__为什么不呢?

来自Python数据模型文档:object.__get__(self,instance,owner=None)调用以获取所有者类(类属性访问)或该类(实例属性访问)的属性。可选owner论点是所有者课,而instance是通过属性访问的实例,或None当属性通过owner.此方法应返回计算的属性值或提高AttributeError例外。PEP252指定__get__()可以带有一个或两个参数。Python自己的内置描述符支持此规范;但是,一些第三方工具可能具有需要两个参数的描述符。Python自己的__getattribute__()无论是否需要,实施总是通过两个论点传递。object.__s

hadoop - Hive 操作失败,主类 [org.apache.oozie.action.hadoop.HiveMain],退出代码 [40000]

我是这方面的新手,所以我完全有可能错过一些基本的东西。我正在尝试运行从协调器启动的Oozie工作流。协调器等待文件出现在目录中。工作流包含运行此脚本的Hive操作:CREATEexternalTABLEIFNOTEXISTSdaily_dump(idbigint,creationdatetimestamp,datelastupdatedtimestamp,data1string,data2string)LOCATION'/data/daily_dump';FROMdaily_dumpdINSERTOVERWRITETABLEmydata_orcPARTITION(id,datelast