草庐IT

HBASE_CLASSPATH

全部标签

hadoop - Hbase表复制

有没有办法在集群的每个节点上复制表数据?我需要对数据局部性的最大等级进行性能测试。默认情况下,HBase将数据分布在集群节点的一小部分(在1或2个节点上),可能是因为我的数据不是很大(~2GB)。我知道Hbase是为更大的数据集而设计的,但在这种情况下,这对我来说是一个要求。 最佳答案 关于它有很多不错的读物*(见文章末尾),但我会尝试用我自己的话来解释它;)HBase不负责数据复制,HadoopHDFS负责,并且默认配置复制因子为3,这意味着所有数据将存储在至少3个节点中。数据局部性是获得良好性能的一个关键方面,但实现最大数据局部

hadoop - 示例 如何将表从 RDBMS 表示到 HBase

我在YouTube上阅读了一些关于HBase的文章和视频。我了解到HBase是hadoop数据库。与RDBM相比,它具有不同的体系结构(如列组等)。但是我仍然不清楚RDBMs表将如何在HBase中表示?如果有合适的教程,请告诉我。例如如果我有列为id、first_name、last_name、departement_id和salary的员工表。以及以departement_id、dept_name为列的Department表。如果我想在HBase中表示它,将如何定义它?有人可以详细说明吗? 最佳答案 请参阅link.内部架构不同于R

hadoop - HBase 是否使用集群中所有节点的计算能力来执行查询?

我们正在设置1个主节点和2个从节点。数据在postgres和hbase及其类似的数据集(相同的行数)中设置-6500万行。然而,对于相同的查询,我们没有发现HBase的性能有可衡量的提高。我的第一个想法是-HBase是否使用所有节点的计算能力来fork查询?也许这就是为什么性能没有明显提高的原因。为什么Postgres和HBase之间的性能会大致相同的任何其他原因?要查找的任何特定配置项?编辑:我在研究这个时发现的东西:http://www.flurry.com/2012/06/12/137492485#.VaQP_5QpBpg 最佳答案

java - 如何通过修改org.apache.hadoop.hbase.mapreduce.RowCounter处理hbase中的海量数据?

我的hbase表包含数百万行。如果我们进行扫描,至少需要一个小时才能显示所有记录。我们将日期存储为行键。我需要获取日期的最小值和最大值。我看到一个实用程序org.apache.hadoop.hbase.mapreduce.RowCounter在5分钟内计算了数百万行。有没有办法以同样的方式完成我的工作?仅供引用:我正在使用java。 最佳答案 如果您使用的是HBase0.98,您的问题应该很简单。您所要做的就是获取表中的第一行和最后一行(因为条目是有序的):通过执行限制为1的扫描获得的第一行。通过使用限制执行反向扫描获得的最后一行的

用于处理存储在 hbase 中的数据的 REST API

我在hbase存储中有很多这样的记录(数百万)key=user_id:service_id:usage_timestampvalue=some_int这意味着用户在usage_timestamp为some_int使用了一些service_id。现在我想提供一些用于聚合该数据的休息api。例如“为请求的用户找到所有值的总和”或“找到它们的最大值”等等。所以我正在寻找最佳实践。简单的Java应用程序不符合我的性能预期。我目前的方法——通过apachespark应用程序聚合数据,看起来不错,但在javarestapi中使用它存在一些问题,因为spark不支持请求-响应模型(我也查看了spar

hadoop - MAPREDUCE - 将数据批量加载到 HBASE 表中

为什么我们只使用一个驱动类和一个映射类,而不使用reducer类? 最佳答案 如果您想对批量加载的数据进行任何聚合,可以使用Reducer。在正常情况下,如果您只是加载而没有任何聚合。那么只有mapper作业就足够了。例如:案例一:如果您正在阅读CSV并使用相应的列加载hbase表中的所有单词,即没有像wordcount这样的聚合。那么只有mapper作业就足够了。案例2:如果您正在阅读csv并希望进行字数统计之类的聚合(这是聚合),然后将其加载到hbase中,那么您需要reducer。希望澄清..

hadoop - Hbase CopyTable 将不同列族中的特定列复制到新表

我在Hbase"aks:myprofiles"中有一个表它有两个列族i和s列族我有-5列{ic1,ic2,ic3,ic4,ic5}列族有-5列{sc1,sc2,sc3,sc4,sc5}Describe"aks:myprofiles"NAME=>'i',DATA_BLOCK_ENCODING=>'NONE',BLOOMFILTER=>'ROW',REPLICATION_SCOPE=>'0',COMPRESSION=>'SNAPPY',VERSIONS=>'1',MIN_VERSIONS=>'0',TTL=>'FOREVER',KEEP_DELETED_CELLS=>'FALSE',BLO

hadoop - 删除 Hbase 表时数据会发生什么情况?

我是Hbase的新手,每天都在学习它。删除Hbase表时数据会发生什么情况?数据和模式是否丢失,或者是否存在像Hive外部表这样模式丢失但数据保留的场景。Hbase与Externaltable和managedtable有Hive一样的概念吗? 最佳答案 简单的观察,HBase表数据由两部分组成:物理数据block元信息(数据如何跨节点传播)HBase表可以共享相同的物理block,例如,您可以对表A进行快照并将其恢复到表B,因此两个表将引用相同的数据。如果删除表A中的一行,它只会'删除'表A的元信息,而不会删除该行的物理数据,因为它

javascript - Hbase:使用JSON同时放置一行的多个版本

来自ClouderaHbaseRESTAPIdocs这是同时PUT多行的XML结构。dmFsdWU1Cg==dmFsdWU1Cg==dmFsdWU1Cg==问:如何使用JSON来实现?到目前为止我尝试了什么:使用CellSet键,出现如下错误:Error500Unrecognizedfield"CellSet"(Classorg.apache.hadoop.hbase.rest.model.CellSetModel),notmarkedasignorable{"CellSet":{"Row":[{"key":"cm93NQo=","Cell":[{"column":"Y2Y6ZQo="

hadoop - HBase 无法在 HDFS 中创建其目录

我正在关注这个tutorial安装hbase和hadoop但我遇到了问题。一切都很好,直到最后一步HBasecreatesitsdirectoryinHDFS.Toseethecreateddirectory,browsetoHadoopbinandtypethefollowingcommand.$./bin/hadoopfs-ls/hbaseIfeverythinggoeswell,itwillgiveyouthefollowingoutput.Found7itemsdrwxr-xr-x-hbaseusers02014-06-2518:58/hbase/.tmp...但是当我运行这个