草庐IT

service_date

全部标签

hadoop - Service Monitor 在 HBase 服务中没有找到活跃的 Master

我用clouderaCDH5.8.0做了一个主节点和三个从节点的集群。经过一些配置工作后,我的所有服务都正常运行,但只有一个:HBase。重新启动后几分钟,它的健康状况不佳。ClouderaManager显示的错误是:“错误:Master摘要:此健康测试错误,因为服务监视器未找到事件的Master”。我检查了服务监视器日志,发现了这个警告:(7skipped)ExceptionindoWorkfortask:hbase_HBASE_SERVICE_STATE_TASKorg.apache.hadoop.hbase.client.RetriesExhaustedException:Fai

date - hive 中是否有将纪元时间转换为标准日期的函数?

to_date函数将此“1970-11-0100:00:00”作为输入并返回“1970-11-01”。但我有纪元时间作为输入。如何将其转换为标准日期格式?有一个函数可以将标准日期转换为unix纪元时间,但反之则不行。感谢任何帮助。谢谢普里扬克 最佳答案 发件人:https://cwiki.apache.org/confluence/display/Hive/LanguageManual+UDF#LanguageManualUDF-DateFunctionsfrom_unixtime(bigintunixtime[,stringfor

date - 使用 HBase 获取最近 N 天的所有行

我正在尝试编写一个组件,从过去5天(5是任意的)从HBase获取行。我想使用的时间戳是HBase给行的默认时间戳(除非由于某种原因有问题)我知道我可以使用scanandwithtimestamp范围,但我不太确定如何在HBase中获取当前日期(我目前正在HBaseshell中对其进行测试,但最终我需要一个代码来执行此操作)。我试过这样的事情:scan'urls',{COLUMNS=>'urls',TIMERANGE=>[SimpleDateFormat.new("yy/MM/ddHH:mm:ss").parse("2016/03/0200:00:00",ParsePosition.ne

hadoop - YARN Timeline Service v2 无法启动

我在AWS上设置了一个测试HDP集群,用于评估一个项目。AmbariUI报告了一些错误,当我根据需要重新启动服务时,我遇到了YARN的问题。为YARN启动TimelineServiceReaderV2时,出现错误2018-08-1015:51:06,400INFO[main]client.RpcRetryingCallerImpl:Callexception,tries=15,retries=15,started=129034msago,cancelled=false,msg=CalltoHOSTNAME/IPADDRESS:17020failedonconnectionexcepti

hadoop - $HIVE_HOME/bin/hive --service hiveserver

我是Hadoop/hive的新手。我已经安装了hadoop和hive。当我使用hive作为命令提示符时它工作正常但是我要实现hive的JDBC然后键入以下命令hive>$HIVE_HOME/bin/hive--servicehiveserver然后出现以下错误,所以请帮助我如何实现配置单元的jdbc请任何人帮助我...hduser@ubuntu:~$$HIVE_HOME/bin/hive--servicehiveserverStartingHiveThriftServerWARNING:org.apache.hadoop.metrics.jvm.EventCounterisdeprec

amazon-web-services - 如何让 Zeppelin 在 EMR 集群上干净地重启?

我正在运行EMR集群并尝试使用Zeppelin笔记本进行数据分析。版本:发布标签:emr-5.2.1Hadoop发行版:Amazon2.7.3hive2.1.0Spark2.0.2飞艇0.6.2我一直遇到Zeppelin在运行查询时挂起的问题,而且我永远无法恢复它。我试过:-重新启动解释器-通过SSH进入主节点并运行zeppelin_daemon.shrestart(已尝试以hadoop/root/zeppelin身份运行,并使用选项reload运行脚本,开始/停止,upstart)每次我使用守护程序shell脚本时,它都会告诉我它已经停止/启动正常,但是当我运行状态时我得到这个:Ze

amazon-web-services - 亚马逊 S3 架构

按照目前的情况,这个问题不适合我们的问答形式。我们希望答案得到事实、引用或专业知识的支持,但这个问题可能会引发辩论、争论、投票或扩展讨论。如果您觉得这个问题可以改进并可能重新打开,visitthehelpcenter指导。关闭10年前。虽然帖子@http://highscalability.com/amazon-architecture总体上解释了Amazon的架构,我很想知道AmazonS3是如何实现的。我的一些猜测是像HDFS这样的分布式文件系统http://hadoop.apache.org/core/docs/current/hdfs_design.html像CouchDB这样

Hadoop 2.2.0 : "name or service not known" Warning

我的目标是在Ubuntu12.4上运行hadoop2.2.0。我能够做到,但是当我运行以下命令时:rushi@ubuntu:/usr/local/hadoop$sbin/start-dfs.sh我的dfs正在启动namenode、scondarynamenode和datanode,但问题是我收到警告rushi@ubuntu:/usr/local/hadoop$sbin/start-dfs.sh14/01/2412:05:46WARNutil.NativeCodeLoader:Unabletoloadnative-hadooplibraryforyourplatform...usingb

date - Hive:动态分区添加到外部表

我正在运行配置单元071,处理具有以下目录布局的现有数据:-表名-d=(例如2011-08-01)-d=2011-08-02-d=2011-08-03...等等在每个日期下我都有日期文件。现在加载我正在使用的数据CREATEEXTERNALTABLEtable_name(iint)PARTITIONEDBY(dateString)LOCATION'${hiveconf:basepath}/TableName';**我希望我的配置单元脚本能够根据一些输入日期和天数加载相关分区。所以如果我通过date='2011-08-03'和days='7'该脚本应加载以下分区-d=2011-08-03

amazon-web-services - EMR 主节点是否知道其集群 ID?

我希望能够创建EMR集群,并让这些集群将消息发送回某个中央队列。为了让它工作,我需要在每个主节点上运行某种代理。这些代理中的每一个都必须在此消息中标识自己,以便收件人知道该消息是关于哪个集群的。主节点是否知道它的ID(j-***************)?如果不是,那么是否有其他一些识别信息可以让消息收件人推断出此ID?我查看了/home/hadoop/conf中的配置文件,但没有发现任何有用的东西。我在/mnt/var/log/instance-controller/instance-controller.log中找到了ID,但看起来很难用grep查找。我想知道实例Controlle