草庐IT

start-hbase

全部标签

hadoop - 如何在 HBase 集群设置中添加辅助 NameNode?

我有一个包含3个节点的Hbase集群设置:一个NameNode和2个DataNode。NameNode是一个4GB内存和20GB硬盘的服务器,而每个DataNode有8GB内存和100GB硬盘。我正在使用ApacheHadoop版本:2.7.2和ApacheHbase版本:1.2.4我看到有人提到了辅助NameNode。我的问题是,在我的设置中没有辅助NameNode有什么影响?是否可以使用其中一个DataNode作为辅助NameNode?如果可能,我该怎么做?(我只在/etc/hadoop/masters文件中插入了NameNode。) 最佳答案

macos - Hadoop2.7.3 : Cannot see DataNode/ResourceManager process after starting hdfs and yarn

我使用的是mac和java版本:$java-versionjavaversion"1.8.0_111"Java(TM)SERuntimeEnvironment(build1.8.0_111-b14)JavaHotSpot(TM)64-BitServerVM(build25.111-b14,mixedmode)点击此链接:https://dtflaneur.wordpress.com/2015/10/02/installing-hadoop-on-mac-osx-el-capitan/我先brewinstallhadoop,根据需要配置ssh连接和xml文件,start-dfs.shst

尝试将 Spark RDD 存储到 HBase 时出现 java.io.FileNotFoundException

我正在尝试将一些数据从HDFS加载到HBase,如下所示:Stringdir="/tmp/eloued";Configurationconfig=HBaseConfiguration.create();config.set(SequenceFileInputFormat.INPUT_DIR,dir);//serializationconfig.setStrings("io.serializations",config.get("io.serializations"),MutationSerialization.class.getName(),ResultSerialization.cl

java - 通过 HFile 将数据加载到 HBase 不工作

我写了一个映射器通过HFile将数据从磁盘加载到HBase,程序运行成功,但是我的HBase表中没有加载数据,请问有什么想法吗?这是我的java程序:protectedvoidwriteToHBaseViaHFile()throwsException{try{System.out.println("Intry...");Configurationconf=HBaseConfiguration.create();conf.set("hbase.zookeeper.quorum","XXXX");Connectionconnection=ConnectionFactory.createCo

scala - 读取保存在 HBase 列中的 AVRO 结构

我是Spark和HBase的新手。我正在处理HBase表的备份。这些备份位于S3存储桶中。我正在使用newAPIHadoopFile通过spark(scala)阅读它们,如下所示:conf.set("io.serializations","org.apache.hadoop.io.serializer.WritableSerialization,org.apache.hadoop.hbase.mapreduce.ResultSerialization")valdata=sc.newAPIHadoopFile(path,classOf[SequenceFileInputFormat[Im

Hbase详解

Hbase概念base是分布式、面向列的开源数据库(其实准确的说是面向列族)。HDFS为Hbase提供可靠的底层数据存储服务,MapReduce为Hbase提供高性能的计算能力,Zookeeper为Hbase提供稳定服务和Failover机制,因此我们说Hbase是一个通过大量廉价的机器解决海量数据的高速存储和读取的分布式数据库解决方案。列式存储列方式所带来的重要好处之一就是,由于查询中的选择规则是通过列来定义的,因此整个数据库是自动索引化的。这里的列式存储其实说的是列族存储,Hbase是根据列族来存储数据的。列族下面可以有非常多的列,列族在创建表的时候就必须指定。为了加深对Hbase列族的理

hadoop - 为 Hbase 设计复合行键

我正在尝试创建一个具有以下结构的hbase表。**rowkey**|**CF1**(customerid,txtimestamp)|customerid,amount我想使用customerid查询特定时间范围内的记录。我的行键以相反的顺序使用客户ID和交易时间戳。Longcustomerid=Long.valueOf(newStringBuilder(customerid).reverse().toString());byte[]rowKey=Bytes.add(Bytes.toBytes(customerid),Bytes.toBytes(txtimestamp.getTime()

hadoop - 无法有效映射 HIVe 表中的 HBase 行键

我有一个HBase表,其中的行键如下所示。08:516485815:2013106:260070837:2014100:338289200:20141我使用以下查询创建一个Hive链接表。createexternaltablehb(keystring,valuestring)storedby'org.apache.hadoop.hive.hbase.HBaseStorageHandler'withserdeproperties("hbase.columns.mapping"=":key,e:-1")tblproperties("hbase.table.name"="hbaseTable

hadoop - 如何从与 hbase 集成的 hive 表中获取最新版本数据?

如果我在hbase中的表有3个版本,并且我已经将ahive表集成到这个hbase表中。那么如何从配置单元表中只读取最新版本的记录呢? 最佳答案 Hbase-Hive集成表只显示记录的最新版本,我们无法从hive表中查询任何版本而不是最新版本。当我们再次将相同的rowkey写入hbase表时,Hbase会覆盖现有数据,如果rowkey不存在,则插入到表中如果你想在hbase表中查看旧版本,那么你需要在扫描命令中指定版本,我们需要创建(或)更改hbase表来存储版本。hbase(main):>create't2',{NAME=>'f2'

hadoop - HBase 行键范围分配

在为我的HBase表设计行键时,我有两个问题要问如何跨HBase区域分配行键范围?行插入是否影响行键分配?(考虑我们只有两个区域)为了详细说明这个问题,如果我插入以axx、bxx,...,zxx开头的行键,HBase主分配范围作为a-m到一个区域,n-z到另一个区域?在另一种情况下,如果我插入仅以axx和bxx开头的行键,它是否将axx分配给区域一和bxx到另一个? 最佳答案 在现有区域填满之前,HBase中不会发生拆分。因此,如果您设置一个具有2个区域服务器的HBase集群,所有数据最初只会添加到一个区域。当该区域填满时,数据将根