草庐IT

date_custom

全部标签

hadoop - 在 cloudera impala 1.2.3 中使用 date_sub() udf 从 View 查询时出现连接重置错误

我已经编写了一个查询来在Impala中创建一个View。该View包含一个字段record_date,它是格式为yyyy-MM-ddhh:mm:ss的字符串数据类型。在尝试执行使用date_sub('2014-01-3000:00:00',1)提取先前日期记录的查询时,我收到如下错误:错误:与impalad通信时出错:TSocket读取0个字节。如果我尝试对创建的表而不是View执行相同的查询,我会得到正确的输出。感谢任何帮助。谢谢 最佳答案 这是一个错误,请升级到最新版本的Impala,因为它似乎从1.2.3开始就已修复,这是很旧

java - Hadoop Custom Partitioner 的行为不符合逻辑

基于这个例子here,这有效。在我的数据集上尝试过相同的方法。示例数据集:OBSERVATION;2474472;137176;OBSERVATION;2474473;137176;OBSERVATION;2474474;137176;OBSERVATION;2474475;137177;将每一行视为字符串,我的Mapper输出为:key->string[2],value->string.我的分区程序代码:@OverridepublicintgetPartition(Textkey,Textvalue,intreducersDefined){StringkeyStr=key.toStr

mongodb - 带有 $date 的 mongo.input.query 不过滤输入到 hadoop

我有一个分片输入集合,我想在将其发送到我的hadoop集群以进行mapreduce计算之前对其进行过滤。我的$hadoopjar-命令中有这个参数mongo.input.query='{_id.uuid:"device-964693"}'并且有效。输出不会mapreduce任何不满足此查询的数据。但这不起作用:mongo.input.query='{_id.day:{\\$lt:{\\$date:1388620740000}}}'没有数据作为输出产生。1388620740000表示日期WedJan01201423:59:00GMT+0000(GMT)。该设置使用的是hadoop2.2、

PostgreSQL | EXTRACT / DATE_PART | 获取时间的年月日等字串

extractEXTRACT函数是PostgreSQL中用于从日期和时间类型中提取特定部分(如年、月、日、小时等)的函数。格式EXTRACT(fieldFROMsource)--field参数是要提取的部分,例如YEAR、MONTH、DAY、HOUR等。--source参数是包含日期或时间的表达式。示例例如,要从当前日期时间中提取年\月\日\,可以使用以下查询:SELECT EXTRACT(YEARFROMCURRENT_TIMESTAMP) AScurrent_year, EXTRACT(MONTHFROMCURRENT_TIMESTAMP) AScurrent_month, EXTRACT

date - 有两个不同的字符串代表两个不同的配置单元表中的日期,我想用它们来加入

所以我在Hadoop集群中的Hive中有两个外部表。一个表有一个(日期字符串)列,格式为'2019-05-2411:16:31.0'另一个有(dateSTRING)列,格式为'23/May/2019:22:15:04',它们都是字符串。我需要将它们转换为相同类型的日期格式并使用它们来连接这两个表。您将如何解决这个问题并在Hive中解决所有问题?可能吗?我是Hadoop的菜鸟,对Hive的可能性还不是很了解。Ps:我的hive版本不支持!hive--version命令来检查我正在使用的版本,所以我不太确定如何理解我正在使用的版本。不是我的集群,我也不是根用户。

Hadoop MapReduce : Custom Input Format

我有一个文件,其中包含文本和“^”之间的数据:一些文字^在这里^还有一些^更多到这里我正在编写自定义输入格式以使用“^”字符分隔行。即映射器的输出应该是这样的:一些文字去这里还有一些更多内容在这里我编写了一个扩展FileInputFormat的自定义输入格式,还编写了一个扩展RecordReader的自定义记录阅读器。下面给出了我的自定义记录阅读器的代码。我不知道如何处理这段代码。在WHILE循环部分使用nextKeyValue()方法时遇到问题。我应该如何从拆分中读取数据并生成自定义键值?我正在使用所有新的mapreduce包而不是旧的mapred包。publicclassMyRec

date - 如何在 Hadoop Hive 中给定时间戳获取一周第一天的日期?

除了编写自定义UDF来支持此问题外,是否有任何已知的方法可以实现此目的?我目前正在使用Hive0.13。 最佳答案 从Hive1.2开始,你也可以这样做:selectnext_day(date_sub('2019-01-01',7),'MON')输出:2018-12-31 关于date-如何在HadoopHive中给定时间戳获取一周第一天的日期?,我们在StackOverflow上找到一个类似的问题: https://stackoverflow.com/que

hadoop - Apache pig : Can we convert a custom Writable object to Pig format?

我们有一个自定义可写值对象的SequenceFile,该对象本质上等同于Pig中的复杂包数据类型。有没有一种方便的方法,我们可以编写自定义函数将hadoopWritable对象转换为bag数据类型,然后使用pig脚本对其进行处理? 最佳答案 一种选择是查看elephant-bird-如果你向下滚动这个github页面到README部分,它有一个关于Pig的部分:PigIncludesconverterinterfaceforturningTuplesintoWritablesandviceversa我从来没有用过它,我想你必须自己实

idea一直提示Loaded classes are up to date. Nothing to reload

idea一直提示Loadedclassesareuptodate.Nothingtoreload.springboottomcat

date - hive 中是否有将纪元时间转换为标准日期的函数?

to_date函数将此“1970-11-0100:00:00”作为输入并返回“1970-11-01”。但我有纪元时间作为输入。如何将其转换为标准日期格式?有一个函数可以将标准日期转换为unix纪元时间,但反之则不行。感谢任何帮助。谢谢普里扬克 最佳答案 发件人:https://cwiki.apache.org/confluence/display/Hive/LanguageManual+UDF#LanguageManualUDF-DateFunctionsfrom_unixtime(bigintunixtime[,stringfor