草庐IT

try-exception

全部标签

Hadoop map 作业因 com.datastax.driver.core.exceptions.NoHostAvailableException 而失败

我正在尝试使用hadoopmap-reduce对存储在cassandra中的数据运行分析。为此,我使用了可通过Maven依赖项cassandra-all获得的类CqlInputFormat。目前我们在生产环境中一直使用这个依赖的2.0.10版本。此外,我们正在使用版本为2.1.1的caassandra-driver-core。现在,当我向我的jobtracker提交一个简单的map-reduce作业时,我的所有映射器任务都会失败,并出现以下异常。这里要注意的另一个重要事项是,如果我使用cassandra-all2.0.6中可用的CqlPagingInputFormat,一切正常。但是这

sql - 具有 Union All 的 Nullpointer Exception Hive

我有一个查询,它使用unionall合并来自两个表的数据。unionall之前的第一个查询返回记录,但第二个查询不返回任何记录(仅此运行为零记录。我们可能有下一次加载的记录)。问题是当我没有来自第二个查询的任何记录时,配置单元会抛出空指针异常。selectcol1,col2,col3fromAunionallselectcol1,col2,col3fromB我在A表中有记录。但是,B表中的记录数可能会因每次加载而异。当B表中有记录时,查询工作完美。我知道这是0.12版之前hive中的一个错误。但我使用的是0.14版。任何想法可能是根本原因。注意:我的B表是分区的。当我删除分区时,我没有

amazon-web-services - 从 Spark 集群上的 S3 读取 Spark 作业会出现 IllegalAccessError : tried to access method MutableCounterLong

这个问题在这里已经有了答案:java.lang.NoClassDefFoundError:org/apache/hadoop/fs/StorageStatistics(2个答案)关闭4年前。我在DC/OS上有一个Spark集群,我正在运行一个从S3读取的Spark作业。版本如下:星火2.3.1Hadoop2.7AWS连接依赖:"org.apache.hadoop"%"hadoop-aws"%"3.0.0-alpha2"我通过执行以下操作读入数据:`valhadoopConf=sparkSession.sparkContext.hadoopConfigurationhadoopConf.

hadoop - hbase 错误 : "10/12/26 06:48:07 INFO ipc.HbaseRPC: Server at/127.0.0.1:58920 could not be reached after 1 tries, giving up."

有人知道hbase有什么问题吗?我正在为hadoop使用cloudera发行版的vm图像,以前它工作正常但现在当我尝试列出所有表时每秒都会给我这个错误:10/12/2606:48:07信息ipc.HbaseRPC:尝试1次后无法访问位于/127.0.0.1:58920的服务器,放弃。 最佳答案 我在Ubuntu11.10上遇到了同样的问题。默认安装在/etc/hosts中添加了一行,将我的机器主机名与IP127.0.1.1相关联。我将此链接更改为指向127.0.0.1,Hbase开始工作。此外,其他计算机上类似问题的解决方案要么禁用

java - Hadoop : java. io.IOException : Call to localhost/127. 0.0.1 :54310 failed on local exception: java. io.EOFException

我是hadoop的新手,今天才开始使用它,我想将文件写入hdfshadoop服务器,我正在使用服务器hadoop1.2.1,当我在cli中给出jps命令时,我能够看到所有节点都在运行,31895Jps29419SecondaryNameNode29745TaskTracker29257DataNode这是我将文件写入hdfs系统的示例客户端代码publicstaticvoidmain(String[]args){try{//1.GettheinstanceofCOnfigurationConfigurationconfiguration=newConfiguration();confi

hadoop - 连接异常 : connect error: No such file or directory when trying to connect to '50010' using importtsv on hbase

我在hdfs-site.xml和hbase-site.xml上配置了短路设置。我在hbase上运行importtsv以将数据从HDFS导入到Hbase集群上的HBase。我查看了每个数据节点上的日志,所有数据节点都有我对标题所说的ConnectException。2017-03-3121:59:01,273WARN[main]org.apache.hadoop.hdfs.shortcircuit.DomainSocketFactory:errorcreatingDomainSocketjava.net.ConnectException:connect(2)error:Nosuchfil

hadoop - 在配置单元中应用 try catch

我尝试使用SQL的try-catchblock语句,但它在配置单元中出错。我也在寻找文档,但无济于事。那么如何在配置单元脚本中应用try-catch语句block呢??我试过的语法BEGINTRY{sql_statement|statement_block}ENDTRYBEGINCATCH[{sql_statement|statement_block}]ENDCATCH[;]摘自http://msdn.microsoft.com/en-IN/library/ms175976.aspx 最佳答案 HiveQLdoesnotsuppor

exception - 格式化 HDFS 时出现 UnknownHostException

我已经使用以下命令在伪分布式模式下的CentOS6.364位上安装了CDH4instructions.Hadoop配置文件中的所有内容都设置为localhost。但是,当我格式化名称节点时,仍然会出现以下异常。当我将192.168.1.101CentOSHost条目添加到/etc/hosts文件时,异常消失,我能够运行格式化/启动HDFS并运行MR作业。即使没有连接到网络,我也想在/etc/hosts文件中添加条目的情况下运行MR作业。如何完成这项工作?12/08/2722:17:15WARNnet.DNS:Unabletodetermineaddressofthehost-falli

hadoop - 从 quickstart.cloudera/172.17.0.2 调用 quickstart.cloudera :8020 failed on connection exception: java.net.ConnectException: Connection refused

我是Docker和Hadoop系统的新手。我已经在Ubuntu16.04中安装了Docker,并在一个新的Docker容器中运行来自Cloudera的Hadoop镜像。但是当我尝试在hdfs中运行任何命令时,错误消息显示为:CallFromquickstart.cloudera/172.17.0.2toquickstart.cloudera:8020failedonconnectionexception:java.net.ConnectException:Connectionrefused;我不知道如何解决这个问题。我期待您的帮助。 最佳答案

hadoop - 错误 org.apache.hadoop.hdfs.server.namenode.SecondaryNameNode : Exception in doCheckpoint

我在集群设置中使用Hadoop2.2.0,我反复收到以下错误,异常是在文件/opt/dev/hadoop/2.2.0/logs/下的名称节点olympus中产生的hadoop-deploy-secondarynamenode-olympus.log例如2014-02-1216:19:59,013INFOorg.mortbay.log:StartedSelectChannelConnector@olympus:500902014-02-1216:19:59,013INFOorg.apache.hadoop.hdfs.server.namenode.SecondaryNameNode:We