草庐IT

HBASE_CLASSPATH

全部标签

hadoop - HBase 区域服务器在 tsv 导入时不断崩溃

我正在尝试使用以下命令将制表符分隔的HDFS文件(3.5G)加载到HBASE中,其中包含4500万条记录hbaseorg.apache.hadoop.hbase.mapreduce.ImportTsv-Dimporttsv.columns=HBASE_ROW_KEY,description:part_descriptionpart/user/sw/spark_search/part_description_data文件片段45-573ConnCircularAdapterF/M11POSST1PortCA3100E14S-4P-B-03ConnCircularPIN1POSCrimpS

hadoop - Bigdata Hadoop/Hbase/Bigtable项目创意

Closed.Thisquestionisopinion-based。它当前不接受答案。想改善这个问题吗?更新问题,以便editingthispost用事实和引用来回答。4年前关闭。Improvethisquestion我刚刚开始学习Bigdata-hadoop技术。为了以实际的方式应用我的学习,有人可以建议我参加研究生类(class)的大数据hadoop/Hbase或Bigtable相关项目。因此,我将实现该项目,并且还将涉及这些技术。我不是在寻找大型项目,至少需要两个星期的好项目,在此我会学到一些东西。请帮助我并分享您的想法,我们将不胜感激。谢谢 最佳答

Hadoop 和 HBase 集成

我是大数据技术的新手,我有一个关于hbase如何与hadoop集成的问题。“Hbase位于HDFS之上”是什么意思?.我的理解是HDFS是分布在多个节点上的结构化和非结构化数据的集合,而HBase是结构化数据。Hbase如何与Hadoop集成以提供对底层数据的实时访问。我们是否必须编写特殊的作业来构建索引等?换句话说,在Hbase和hdfs之间是否有一个附加层,它具有HBase理解的结构中的数据 最佳答案 HDFS是一个分布式文件系统;可以对它执行大多数常规FS操作,例如在目录中列出文件、写入常规文件、读取文件的一部分等。它不再是简

hadoop - hbase-indexer solr numFound 与 hbase 表行大小不同

最近我的团队在CDH上使用hbase-indexer将hbase表列索引到solr。当我们部署hbase-indexer服务器(称为Key-ValueStoreIndexer)并开始测试时。我们发现hbase表和solr索引之间的行大小不同的情况:我们使用Phoenix来统计hbase表的行数:0:jdbc:phoenix:slave1,slave2,slave3:2181>SELECT/*+NO_INDEX*/COUNT(1)FROMC_PICRECORD;+------------------------------------------+|COUNT(1)|+---------

hadoop - 如何获取hbase行的所有版本

我正在尝试在hbase中执行以下命令:scan'testLastVersion'{VERSIONS=>8}它只返回行的最后一个版本。您知道如何通过命令shell和java代码获取row的所有版本吗?谢谢! 最佳答案 我想你错过了','那里......命令应该是这样的:scan'emp',{VERSIONS=>8}即使您缺少逗号,HBase也应该抛出错误:SyntaxError:(hbase):16:syntaxerror,unexpectedtLCURLY我尝试模拟您的场景并获得所有结果。请在下面找到它们。hbase(main):0

performance - HDFS 与 HBASE : Which one performs better on millions of small text files?

如果我们有数百万个大小从几KB到几MB不等的小文本文件,HDFS和HBASE中哪一个花费的处理时间更少?还有更少的内存消耗? 最佳答案 这是一个高层次的问题。缺少有关数据类型的信息。但是,一般而言,我们在决定存储位置等事项时需要牢记以下事项。在HDFS或HBase中:由于我们有质量较小的文件,将其存储在HDFS中会遇到一些问题。名称节点上的元数据会很高如果block大小(输入拆分大小)配置不正确,则完整数据局部性和并行处理的潜力将不会利用。有关输入拆分和之间关系的更多信息block大小,请引用SplitsizevsBlocksize

hadoop - 如何设置Hbase表列族的列族大小?

我正在尝试将CSV文件中的数据导入到HBase表中。但是我在导入过程中遇到了下图所示的异常。Error:com.google.protobuf.InvalidProtocolBufferException:Protocolmessagewastoolarge.Maybemalicious.UseCodedInputStream.setSizeLimit()toincreasethesizelimit.atcom.google.protobuf.InvalidProtocolBufferException.sizeLimitExceeded(InvalidProtocolBufferEx

带有 Hadoop HBASE 的 Spring Boot REST

我希望构建一个简单的RESTFullAPI来访问HBase。我查看了PythonHappyBase,但我的集群是基于Kerberos的。现在我进入了Spring。我曾经使用SolrCloud和SpringBoot制作简单的APIREST。是否可以对Hbase做同样的事情?我不知道是否必须使用SpringBoot'YarnApp'=>https://spring.io/guides/gs/yarn-basic/或SpringHadoop。=>https://projects.spring.io/spring-hadoop/只需要一个非常简单的API。感谢您的帮助。

java - 在 hbase 中有效地发送许多 get 请求

我正在尝试在Java中创建一个通用方法来查询hbase。我目前写了一篇接受3个参数的文章一个Range(扫描表格)列(待返回)...和条件(即browser==Chrome)所以一条语句(如果用SQLish语言编写)可能看起来像SELECTOSFROMTABLEWHEREBROWSER==CHROMEINRANGE(5WEEKSAGO->2WEEKSAGO)现在,我知道我没有正确使用HBase(对rowkey等使用常见的列查询),但为了实验,我想尝试一下,以帮助我学习。所以我做的第一件事是在Scan上设置一个Range。(5周到2周前),因为rowkey是timestamp,所以效率很

hadoop - 当 Memstore 在 Hbase 中崩溃时会发生什么?

当HBASE集群中的MEMSTORE发生故障时,Region服务器将如何响应? 最佳答案 我在SpliceMachine(开源)上向我们支持的公司解释了很多。memstore(内存)中的记录也有对应的WriteAheadLogRecords。当一条记录被插入到memstore中时,它也被附​​加到预写日志中。如果memstore崩溃(即regionserver崩溃),zookeeper将识别节点故障,HBaseMaster节点会将区域重新分配给另一个节点。启动该区域之前的另一个节点将从HDFS读取预写日志。希望这对您有所帮助。