草庐IT

event_end_date

全部标签

date - Oozie 协调员开始日期设置为实际日期

有没有办法将协调员的开始日期设置为实际日期?每次我想运行我的协调器时,我都必须手动设置协调器作业的开始日期:我想使用某种变量,将这个日期设置为我运行协调器的日期:如何设置系统日期的实际时间?我试过使用EL函数timestamp()但它不起作用或者我用错了。也许有办法在.properties文件中设置任何变量? 最佳答案 一个想法是通过命令行将sysdate从shell脚本传递到协调器作业。查看类似问题的答案是否适合您:Ooziecoordinatorwithsysdateasstarttime

sql - HiveQL Date_Add 问题

在使用Hue2.3.1-402时,我注意到HQL的date_add函数在一天后给出结果时存在一些错误,这可能是由于UTC时区问题造成的。运行下面的两个代码会产生不同的结果:SELECTDATE_ADD(TO_DATE('2015-02-22'),25)ASd1_b2015-03-19SELECTDATE_ADD(TO_DATE(d1),25)ASd1_bFROM(SELECT'2015-02-22'asd1)a2015-03-18当date_add函数计算多行数据时,会出现类似的问题。在没有to_date转换的情况下运行(将其保留为字符串)并给出相同的结果。

hadoop - Flume: kafka channel 和 hdfs sink get unable to deliver event 错误

我想尝试这个新的Flafka流程:只使用kafkachannel将数据传输到hdfssink。我从更容易监控的kafkachannel和记录器接收器中尝试了它。我的配置文件是:#Namethecomponentsonthisagenta1.sinks=sink1a1.channels=channel1a1.channels.channel1.type=org.apache.flume.channel.kafka.KafkaChannela1.channels.channel1.brokerList=localhost:9093,localhost:9094a1.channels.cha

date - 在 Hive 中按周计数

我试图每周生成一组完全刷新的数字,从hive中的表中提取。现在我使用这种方法:SELECTCOUNT(DISTINCTcasewhentimestampbetweenTO_DATE("2016-01-28")andTO_DATE("2016-01-30")thenuseridend)asweek_1,COUNT(DISTINCTcasewhentimestampbetweenTO_DATE("2016-01-28")andTO_DATE("2016-02-06")thenuseridend)asweek_2FROMData;我正在尝试获得更多信息:选择月(时间戳)、周(时间戳)、COU

hadoop - java IOException : Write end dead during a hadoop job 异常

我有一个map-onlyhadoop作业,它在工作期间抛出几个IO异常:1)java.io.IOException:写结束2)java.io.IOException:管道关闭它设法完成了它的工作,但有异常(exception)让我担心。我做错了什么吗?几乎相同的工作每天都在另一个小20倍的数据集上工作,并且没有抛出任何异常。作业由Googledataproc运行。我正在使用的配置文件:#!/bin/bashhadoopjar/usr/lib/hadoop-mapreduce/hadoop-streaming.jar\-Dmapreduce.output.fileoutputformat

hadoop - Ended Job = job_local644049657_0014 with errors Error during job, 获取调试信息

如何找到日志文件请指导我已经检查了资源管理器的url。但是我没有找到任何日志文件这是完整的错误QueryID=hadoop_20170325120040_d54d136a-1904-4af9-8f8d-4167343db072Totaljobs=1LaunchingJob1outof1Numberofreducetasksissetto0sincethere'snoreduceoperatorJobrunningin-process(localHadoop)2017-03-2512:00:42,954Stage-0map=0%,reduce=0%EndedJob=job_local64

java - hadoop java : how to know that end of reducer input is reached?

我的reducer是这样的publicstaticclassReduceextendsMapReduceBaseimplementsReducer{ListallRecords=newArrayList();publicvoidreduce(IntWritablekey,Iteratorvalues,OutputCollectoroutput,Reporterreporter)throwsIOException{allRecords.add(values.next());Text[]outputValues=newText[7];for(inti=1;i>=7;i++){outputV

hadoop - 如何在 Hadoop Hive 中执行 "Order of Events"查询?

过去2个月我一直在学习Hive,但我无法弄清楚如何执行某些基于序列的查询。举个例子:我有一个包含用户操作的巨大日志每个用户操作都有一个日期字段,但由于来自不同机器的多个日志文件,显然可能不会按该顺序扫描每个日志都可以记录各种不同的事件。对于这个例子,我将它们表示为字母:A、B、C、D...问题:我该如何编写一个查询,询问“平均而言,事件A在事件B发生之前发生了多少次”?我知道如何对用户进行分组,只取已经完成A和B的用户,并对发生的A的数量进行平均,但是限制第一次出现的B似乎很困难。我认为我实际上可以通过将10个左右看起来令人讨厌的查询串在一起来做到这一点,但我想知道是否有一种我不知道的

date - Hive:从当前日期减去 1 年

我试图找到从Hive查询中的当前日期减去1年和1个月的最佳方法。使用以下内容,我认为它不会考虑闰年,或者如果月份的天数不同,那么代码最终会被破坏。任何帮助将不胜感激!setmy_date=from_unixtime(unix_timestamp()-365*60*60*24,'yyyy-MM-dd');setmy_date=from_unixtime(unix_timestamp()-30*60*60*24,'yyyy-MM-dd');谢谢!-丽贝卡 最佳答案 如果你在Hive中有像yyyy-MM-ddhh:mm:ss这样的日期格式

date - 配置单元日期转换不起作用

我正在尝试比较不同格式的两个日期。因此,我将它们都转换为unixtimespamp以进行比较,但因为它们具有不同的日期格式。它没有以正确的方式转换。我需要帮助。这是我的查询:selecta.date,b.datefromtable1ajointable2bon(from_unixtime(unix_timestamp(b.date,'MM/dd/yyyyHH:mm:ssa')))=(from_unixtime(unix_timestamp(nvl(a.date,'3050-01-0100:00:00.0'))));日期格式为:a.dateb.date4/12/20165:46:50PM