草庐IT

hbase-default

全部标签

hadoop - 什么是 ElasticSearch-Hadoop (es-hadoop) 及其相对于 HBase 的实时 Web 应用程序优势?

我不完全清楚description中的es-hadoop是什么.这仅仅是一个“连接器”,可以将数据从您的ES集群移动到HDFS以进行Hadoop分析吗?如果是这样,为什么不直接使用HBase进行低延迟文本查询?es-Hadoop的安装是否与常规ES不同?请澄清一下。谢谢。 最佳答案 ES-Hadoop更像是Hadoop生态系统与ES之间的连接器。它不是ES的单独版本。基本上它提高了Hadoop生态系统应用程序与ES之间的集成。在我的组织中,我们将此功能用于两个目的:在将数据索引到ES之前,我们使用Spark对数据进行分析,并进行相关

hadoop - 如何在Hbase中连接两个表

问题:我是Hbase的新手,我遇到了一个需要连接两个表的情况。假设我有Employee表和Department表都是在Hbase中创建的。通过阅读Hbaseinaction,我了解到我们不能在Hbase中连接表。解决方案:我找到了一个解决方案,通过使用Hbase类和接口(interface)编写MapReduce代码,我们可以完成此任务。此外,如果有人可以帮助我进行编码,那将非常有帮助 最佳答案 你应该在apache中查看这个jira问题。您应该使用MultiTableInputFormat。https://issues.apach

java - 使用 Java 连接到远程 HBase 服务

我有一个小示例代码,我在其中尝试建立与远程HBase实体的连接。该代码在未安装HBase的Windows机器上运行,我尝试连接到安装并运行它的远程Ubuntu服务器。下面片段中的IP当然只是一个占位符。代码如下:publicstaticvoidmain(String[]args){Configurationconf=HBaseConfiguration.create();HBaseAdminadmin=null;Stringip="10.10.10.10";Stringport="2181";conf.set("hbase.zookeeper.quorum",ip);conf.set(

hadoop - HBase 旧 WALs : what it is and how can I clean it?

我们的小型hadoop集群空间不足,因此我检查了HDFS上的磁盘使用情况,发现大部分空间都被/hbase/oldWALs文件夹占用。我查看了“HBaseDefinitiveBook”和其他书籍、网站,我还在谷歌上搜索了我的问题,但我没有找到合适的回复...所以我想知道这个文件夹是做什么的,有什么用,以及如何在不破坏一切的情况下从这个文件夹中释放空间...如果它与特定版本有关...我们的集群位于Cloudera(hbase0.98.6)的5.3.0-1.cdh5.3.0.p0.30下。感谢您的帮助! 最佳答案 仅供引用我已经在hbas

java - 测试 java HBase 连接

我正在尝试使用HBaseJavaAPI将数据写入HBase。我通过Ambari安装了Hadoop/HBase。这是当前配置的设置方式:finalConfigurationCONFIGURATION=HBaseConfiguration.create();finalHBaseAdminHBASE_ADMIN;HBASE_ADMIN=newHBaseAdmin(CONFIGURATION)当我尝试写入HBase时,我会检查以确保该表存在!HBASE_ADMIN.tableExists(tableName)如果没有,创建一个新的。但是,似乎在尝试检查表是否存在时会抛出异常。我想知道我是否没有

hadoop - 如何将 HBase 表强制到区域服务器

我有2个Hbase表,我想将它们中的每一个强制到不同的区域服务器。有没有办法告诉HBase这样做? 最佳答案 您可以使用hbaseshell移动命令将区域移动到另一个区域服务器:hbase>move‘ENCODED_REGIONNAME’,‘SERVER_NAME’Movearegion.Optionallyspecifytargetregionserverelsewechooseoneatrandom.NOTE:Youpasstheencodedregionname,nottheregionnamesothiscommandisa

hadoop - Hbase memstore 手动刷新

根据Hbase的设计,Hbase使用memstore来存储写入,最终当memstore达到大小限制时,它会将其刷新到HDFS。这个冲洗练习是在主题后面自动发生的。在我的例子中,我想做一个hdfs迁移,从一个集群迁移到另一个集群,我需要确保在我关闭源集群中的hbase进程之前内存中没有任何东西。无论如何我们可以手动强制刷新,即使memstore没有达到限制。==已添加问题==进一步的问题:你怎么知道flush完成了?通过指标? 最佳答案 在shell中你可以做flush'tableName'刷新内存库。但是如果你想通过hdfs备份/h

scala - 在 Spark 作业中写入 HBase : a conundrum with existential types

我正在尝试编写一个应将其输出放入HBase的Spark作业。据我所知,正确的方法是使用saveAsHadoopDataset方法。在org.apache.spark.rdd.PairRDDFunctions-这需要我的RDD由对组成。方法saveAsHadoopDataset需要JobConf,这就是我要构建的。根据thislink,我必须在我的JobConf上设置一件事是输出格式(实际上没有它就不能工作),比如jobConfig.setOutputFormat(classOf[TableOutputFormat])问题是显然这不能编译,因为TableOutputFormat是通用的,

hadoop - 在 Hadoop 中使用 HBase 而不是 Hive 的目的

这个问题在这里已经有了答案:Whatisthedifferencebetweenhbaseandhive?(Hadoop)(1个回答)关闭5年前。在我的项目中,我们使用了Hadoop2、Spark、Scala。Scala是编程语言,Spark在这里用于分析。我们同时使用Hive和HBase。我可以使用Hive访问HDFS的文件等所有详细信息。但我的困惑是-当我可以使用Hive执行所有作业时,为什么还需要HBase来存储数据。这不是开销吗?HIVE和HBase有什么功能?如果我们只使用Hive,那应该是什么问题?谁能告诉我。

hadoop - 如何运行HBase程序

如何从命令行运行下面的代码?importorg.apache.hadoop.conf.Configuration;importorg.apache.hadoop.hbase.*;importorg.apache.hadoop.hbase.client.*;importorg.apache.hadoop.hbase.util.*;publicclassMyHBase{publicstaticvoidmain(String[]args)throwsException{Configurationconf=HBaseConfiguration.create();HBaseAdminadmin=