草庐IT

DateTime2

全部标签

datetime - hive 中需要 "MMM-yyyy"格式的时间戳

你能帮我从hive中的current_date获取“MMM-yyyy”格式的时间格式吗?非常感谢。例如:col1col212-09-2016SEP-201621-10-2017OCT-2017 最佳答案 selectfrom_unixtime(unix_timestamp(CURRENT_DATE,'yyyy-MM-ddHH:mm:ss'),'MMM-yyyy')AScurrentdatefromdb.table_name;例子:hive>selectfrom_unixtime(unix_timestamp(CURRENT_DATE

apache-spark - Pyspark - 如何拆分具有 Datetime 类型结构值的列?

我有以下代码创建窗口并在窗口中聚合值。df.groupBy(window("time","30minutes"))\.agg(func.countDistinct("customer_numbers")窗口列(包含时间段的列)现在是一个具有两个日期时间的结构。[datetime1,datetime2].我的数据框是这样的:windowcustomer_numbers[2018-02-04:10:00:00,2018-02-04:10:30:00]10[2018-02-04:10:30:00,2018-02-04:11:00:00]15我希望它看起来像这样startEndcustomer

datetime - 如何使用 mapreduce 和 pyspark 查找某年某一天的频率

我有一个文本文件(61Gb),每一行都包含一个代表日期的字符串,例如2010年12月16日星期四18:53:32+0000在单核上迭代文件时间太长,因此我想使用Pyspark和Mapreduce技术快速找到某年某天的行频。我认为好的开始:importdateutil.parsertext_file=sc.textFile('dates.txt')date_freqs=text_file.map(lambdaline:dateutil.parser.parse(line))\.map(lambdadate:date+1)\.reduceByKey(lambdaa,b:a+b)不幸的是,我

datetime - Hue 中的 Hive 变量

在尝试声明变量时,然后在Hive(Web客户端)上的Hive中使用该变量运行查询。它不起作用。setMAX_DATE='2017-05-2207:35:25';select*fromtableawheredatetime=${hivevar:Max_Date}limit1出现以下错误信息:Errorwhilecompilingstatement:FAILED:ParseExceptionline1:83cannotrecognizeinputnear'$''{''hivevar'inexpressionspecification 最佳答案

hadoop - 阻止 sqoop 将 datetime 转换为 bigint

最近我注意到,每当我使用Sqoop从SQL数据库中提取数据时,所有日期时间字段都会转换为bigint(epoch*1000)而不是字符串。重要提示:我存储为Parquet。我一直在尝试一堆sqoop标志,例如"--map-column-java"但我不想为数千个表中的数百列手动定义它。我缺少什么标志来防止这种sqoop行为?sqoop在明文存储的时候好像没有这样做 最佳答案 我决定不让sqoop在我的table上施展神秘魔法,而是决定执行以下操作:提取到临时表,以文本形式存储。像临时表一样创建一个表(如果不存在),存储为parque

datetime - Apache Cassandra 时区问题

我正在尝试使用人才将数据从MSSQL移动到cassandra,但是我遇到了timezone问题,因为MSSQL在CST时区,而Cassandra有时区Etc/协调世界时。尝试更改以下配置文件Location:/opt/apache-cassandra-3.9/conf/文件:cqlshrc.sample从:timezone=Etc/UTC更改为:timezone=CST但cqlsh仍然显示UTC时间戳cqlsh>selecttoTimestamp(now())fromsystem.local;系统.totimestamp(system.now())2017-01-0406:38:45.

hadoop - 如何在配置单元中将 bigint 转换为 datetime?

我使用sqoop导入命令将数据从teradatasqoop到Hive。对于teradata中的一个表,我有一个日期字段。sqooping之后,我的日期字段显示为bigint数据类型的时间戳。但我需要日期字段作为配置单元表中的日期数据类型。任何人都可以建议我实现这一目标吗? 最佳答案 selectto_date(from_unixtime(yourtimestamp));example:selectto_date(from_unixtime(1490985000));output:2017-04-01我希望它能奏效。如果我错了,请告诉

datetime - Pig - 无法将 org.apache.pig.piggybank.evaluation.datetime.convert.ISOToUnix 的匹配函数推断为多个或都不适合

我只是想将pig的日期时间格式转换为纪元时间,这样我就可以用时间进行其他计算。下面是我的(部分)脚本:DEFINEISOToUnixorg.apache.pig.piggybank.evaluation.datetime.convert.ISOToUnix();A=LOAD's3://hearstlogfiles/google/NetworkBackfillImpressions_271283/2014/09/24/NetworkBackfillImpressions_271283_20140924_00.gz'USINGPigStorage(',');B=LIMITA10;C=FOR

datetime - 转换日期时间字符串 (3/24/2017 10 :00:00 PM) to (3-24-2017 22:00:00) hive i. e convert from 12 hour to 24 hour format

我在配置单元表中有一个数据类型为字符串的日期时间字段。看起来如下:datetime3/24/201710:00:00PM尝试将其转换为hive所需的正确格式,还尝试将AM/PM删除为24小时格式,但无济于事。selectfrom_unixtime(unix_timestamp(datetime,'mm-dd-yyyyHH:MM:SS'))fromtest_table 最佳答案 您可以使用以下命令实现此目的:selectfrom_unixtime(unix_timestamp(datetime,'MM/dd/yyyyhh:mm:ssa

datetime - 在 Hive 中将字符串转换为时间戳

我有一个值“2017-09-27T19:25:15.927-07:00”,有没有办法将其转换为时间戳?我使用Hive1.1.0。selectunix_timestamp("2017-09-27T19:25:15.927-07:00","yyyy-MM-ddTHH:mm:ss.SSSX")但它显示Bad日期/时间转换格式selectunix_timestamp("2017-09-27T19:25:15.927-07:00","yyyy-MM-ddTHH:mm:ss.SSSZZZ")但它返回NULL 最佳答案 format是yyyy-M