草庐IT

java - HBase 获取扫描器异常 - "This is supposed to be overridden by subclasses"

我正在尝试运行以下代码:Clustercluster=newCluster();cluster.add("localhost",port_number);Clientclient=newClient(cluster);RemoteHTabletable=newRemoteHTable(client,"my_table");Scanscan=newScan();scan.setStartRow(startKey);scan.setStopRow(endKey);scan.addFamily(columnFamily);ResultScannerscanner=table.getScann

mysql - java.sql.SQLException : expection being thrown for SQOOP import 异常

当我尝试使用将存储在mysql数据库中的表存储到我的HDFS中时sqoopimport--connectjdbc:mysql://hostname1.com/mydb--usernameuser1--passwordpwd1--tableemp1;我遇到以下异常:Warning:/opt/cloudera/parcels/CDH-5.4.3-1.cdh5.4.3.p0.6/bin/../lib/sqoop/../accumulodoesnotexist!Accumuloimportswillfail.Pleaseset$ACCUMULO_HOMEtotherootofyourAccum

bash - Docker 上的 DataStax Enterprise : fails to start due to/hadoop/conf directory not being writable

我关注了DataStax'sguideonbestpracticesforusingDSEwithDocker,但我在使用DataStax提供的所有默认设置脚本和Dockerfile时遇到了以下错误。错误日志Causedby:java.lang.RuntimeException:FailedtosavecustomDSEHadoopconfigatcom.datastax.bdp.hadoop.mapred.CassandraJobConf.writeDseHadoopConfig(CassandraJobConf.java:310)~[dse-hadoop-5.0.3.jar:5.0

java - Hadoop : set a variable like hashSet only once so that it can be utilized multiple times in each map task

您好,我有一个HashSet,它需要在hadoop中的每个映射任务中使用。我不想多次初始化它。我听说可以通过在配置函数中设置变量来实现。欢迎提出任何建议。 最佳答案 看来你还没有真正了解Hadoop的执行策略。如果你是分布式模式,你不能在多个map任务中共享一个集合(HashSet)。这是因为任务是在它们自己的JVM中执行的,并且它不是确定性的,即使不使用jvm重用,你的集合在jvm被重置后仍然存在。您可以做的是在计算开始时为每个任务设置一个HashSet。因此您可以覆盖setup(Contextctx)方法。这将在调用映射方法之前

hadoop - Vagrant 'box could not be found' 错误

我已经安装了Vagrant和VirtualBox来模拟​​Hadoop管理(ApacheAmbari)。根据其安装文档,我已经完成了创建虚拟机的所有工作(使用“vagrantup”命令)。我已经手动安装了lucid32box文件并将其放入目录,但它仍然显示:Thereareerrorsintheconfigurationofthismachine.Pleasefixthefollowingerrorsandtryagain:vm:*Thebox'lucid32'couldnotbefound.我做错了什么? 最佳答案 按照这个过程,

hadoop - 复制文件 : Could only be replicated to 0 nodes, 而不是 1 时出现 HDFS 错误

将文件从本地系统复制到HDFS时出现以下错误,我正在使用单节点13/08/0410:50:02警告hdfs.DFSClient:DataStreamer异常:java.io.IOException:文件/user/vishu/input只能复制到0个节点,而不是1我删除了dfs/Name和dfs/data目录,格式化了Namenode还是没有用。并且我有足够的空间来复制数据。谁能帮忙解决这个问题?问候,维斯瓦 最佳答案 有时数据节点可能启动缓慢,这可能会导致上述问题。在dfs和mapred恶魔启动后保持一些等待时间。bin/hado

Hadoop DataStreamer 异常 : File could only be replicated to 0 nodes instead of minReplication (=1)

我尝试从我的本地加载json数据到hadoophdfs,我使用这些命令,它抛出异常:hadoopfs-copyFromLocalpath/files/file.jsoninput/hadoopfs-putpath/files/file.jsoninput/我使用jps命令检查,发现hadoop正在运行。26039ResourceManager30858SecondaryNameNode35605Jps26147NodeManager30714DataNode这是异常的详细信息:WARNhdfs.DFSClient:DataStreamerExceptionorg.apache.hado

hadoop - Apache Spark Ec2 : could only be replicated to 0 nodes, 而不是 1

我有一个在Ec2d2.xlarge实例上运行的2Node集群,我有一个10Gb的文件要通过Spark处理,我在spark上安装了一个本地磁盘并在那里生成了10gb的数据集,但是当我我试图将其放入Hdfs中,它向我抛出错误"couldonlybereplicatedto0nodes,insteadof1"如下16/03/0921:44:25WARNhdfs.DFSClient:DataStreamerException:org.apache.hadoop.ipc.RemoteException:java.io.IOException:File/vinit/inputfile.txtcou

exception - PIG (v0.10.0) FILTER 操作期间异常 : java. lang.Integer cannot be cast to java.lang.String

这是我的(看似微不足道的)PIG脚本,后面是它生成的异常:raw_logs=LOAD'./Apache-WebLog-Samples.d/access_log.txt'USINGTextLoader()AS(line:chararray);logs=FOREACHraw_logsGENERATEFLATTEN(REGEX_EXTRACT_ALL(line,'^(\\S+)\\s+(\\S+)\\s+(\\S+)\\s+\\[([\\w:/]+\\s[+\\-]\\d{4})\\]\\s+"(..*)"\\s+(\\S+)\\s+(\\S+)'))AS(remoteAddr:charar

hadoop - hbase 错误 : "10/12/26 06:48:07 INFO ipc.HbaseRPC: Server at/127.0.0.1:58920 could not be reached after 1 tries, giving up."

有人知道hbase有什么问题吗?我正在为hadoop使用cloudera发行版的vm图像,以前它工作正常但现在当我尝试列出所有表时每秒都会给我这个错误:10/12/2606:48:07信息ipc.HbaseRPC:尝试1次后无法访问位于/127.0.0.1:58920的服务器,放弃。 最佳答案 我在Ubuntu11.10上遇到了同样的问题。默认安装在/etc/hosts中添加了一行,将我的机器主机名与IP127.0.1.1相关联。我将此链接更改为指向127.0.0.1,Hbase开始工作。此外,其他计算机上类似问题的解决方案要么禁用