草庐IT

hbase-client

全部标签

hadoop - HBase 区域服务器与数据节点的数量

在与HadoopHDFS一起配置HBase集群时,为每个HDFS数据节点部署一个区域服务器是一个不错的选择,还是区域服务器和数据节点之间的比例不应为1:1? 最佳答案 您可以使用任何您想要的比例,但经验法则是1:1。RS拥有的区域越少越好,RS越多意味着每个服务器的区域越少,如果节点发生故障则重新分配的区域越少,这将缩短恢复时间(虽然自0.95以来取得了很大进展:http://hortonworks.com/blog/introduction-to-hbase-mean-time-to-recover-mttr/)

hadoop - 如何检查 Hbase 区域服务器是否已启动或已关闭

是否可以在我们的程序中通过Java代码在Storm向HBase写入一些数据的同时检查HBaseregionserver是up还是down.... 最佳答案 您可以在Java代码中使用ping:)更多信息请访问HowtopingviaJAVA 关于hadoop-如何检查Hbase区域服务器是否已启动或已关闭,我们在StackOverflow上找到一个类似的问题: https://stackoverflow.com/questions/30160879/

hadoop - Hbase 中的区域拆分

一个区域服务器可以服务多少个区域?基本上我得到了一个hadoop工作,它在hbase中进行批量加载,但查看hbasemasterUI,我可以看到整个数据流量正在转移到单个区域服务器。因为单个区域服务器正在重载,而其他服务器是理想的。我想跨区域服务器分布这些区域以保持集群平衡。我不太确定,但我假设应该有一些配置来定义每个区域服务器的区域数量。如果我在这里错了,请纠正我。目前我正在为我的hbase表使用默认的自动拆分策略。请告诉我如何确定这个或任何其他处理区域分布的方法?谢谢 最佳答案 我假设您创建了一个拆分表,然后它会根据您的数据大小

hadoop - 在 ambari 中使用 hbase 时出现连接问题

最近我一直在研究Ambari。但是在我安装成功之后,除了HBase之外,一切都运行良好。只有HBasemaster是好的,其他RegionServers都收到告警:Connectionfailed:[Errno111]Connectionrefusedtoserver1.hadoop:16030.(thedomainnamediffersfrommachines.)有人遇到同样的问题吗? 最佳答案 我已经解决了这个问题。我在我的区域服务器的/var/log/hbase/*.log中读取了日志文件,发现它的时钟与主时钟不同步。所以我让

hadoop - 如何将hbase表中的数据导入到hive表中?

我创建了一个这样的Hbase表,create'student','personal'我已经像这样将一些数据放入其中。ROWCOLUMN+CELL1column=personal:age,timestamp=1456224023454,value=201column=personal:name,timestamp=1456224008188,value=pesronA2column=personal:age,timestamp=1456224891317,value=132column=personal:name,timestamp=1456224868967,value=pesronB

hadoop - kinit : Client's credentials have been revoked while getting initial credentials

我的hdp集群配置了带有AD的kerberos。所有HDP服务帐户都生成了主体和key表,包括spark。我知道服务帐户没有密码并设置为未过期。现在在执行kinit-ktspark.keytab-pspark-PRINCIPAL时出现以下错误(请参阅标题)。我在麻省理工学院的网站上读到,这是由于多次登录尝试失败或KDC中默认策略中设置的帐户过期而发生的。可以使用kadmin命令解锁帐户,例如kadmin:modprincispark/principal但我已与AD管理员进行交叉检查。他说我们在使用AD时不使用kdc服务器执行kadmin命令,但说使用ADUI检查时spark帐户处于解锁

apache - HBase 多列族性能

我有2个HBase表-一个有一个列族,另一个有4个列族。两个表都由相同的rowkey键控,每个列族都有一个列限定符,一个json字符串作为值(每个json有效负载的大小约为10-20K)。所有列系列都使用快速差异编码和gzip压缩。在向每个表加载大约60MM行后,对第二个表中任何单个列族的扫描测试花费的时间是扫描第一个表中单个列族的时间的4倍。请注意,第二个表上的扫描使用addFamily将扫描限制为仅1个列族,并且两个测试都精确扫描1MM行-因此两种情况下的净工作负载(以及性能预期)应该相同。但是,测试显示第二个表中任何列族的时间是第一个表的4倍。即使在两个表上运行主要压缩后,性能也

hadoop - HBase 分布式扫描器

在HBase文档“入门”页面的“API使用示例”中有一个扫描器使用示例:Scannerscanner=table.getScanner(newString[]{"myColumnFamily:columnQualifier1"});RowResultrowResult=scanner.next();while(rowResult!=null){//...rowResult=scanner.next();}据我了解,这段代码将在一台机器(namenode)上执行,所有的扫描和过滤工作都不会分散。只会分发数据存储和数据加载。我如何使用分布式扫描器,它将在每个节点上单独工作。快速数据过滤的最

hadoop - hbase 错误 : "10/12/26 06:48:07 INFO ipc.HbaseRPC: Server at/127.0.0.1:58920 could not be reached after 1 tries, giving up."

有人知道hbase有什么问题吗?我正在为hadoop使用cloudera发行版的vm图像,以前它工作正常但现在当我尝试列出所有表时每秒都会给我这个错误:10/12/2606:48:07信息ipc.HbaseRPC:尝试1次后无法访问位于/127.0.0.1:58920的服务器,放弃。 最佳答案 我在Ubuntu11.10上遇到了同样的问题。默认安装在/etc/hosts中添加了一行,将我的机器主机名与IP127.0.1.1相关联。我将此链接更改为指向127.0.0.1,Hbase开始工作。此外,其他计算机上类似问题的解决方案要么禁用

nosql - Hbase性能

我正在使用Spring+DatanucleusJDO+Hbase。Hbase是一个完全分布式的模式,有两个节点。我在这里面临严重的性能问题。我的webapp可以被认为是一个pinger,它只是不断地pingURL并存储他们的响应。Hnce我的应用程序运行多个线程以插入数据库。我观察到,一旦并发写入的数量超过20左右,插入就会开始花费大量时间(有些甚至需要1000秒)。当这种情况发生时,READS也开始失败,我的webapp无法从数据库中提取任何数据(我的webapp挂起)。我不是NoSQL数据库专家,因此不知道从哪里开始寻找性能。我的主要配置是:Zookeeper法定人数:1Hbase