草庐IT

HBASE_CLASSPATH

全部标签

java - 写入两个不同的 Hbase 版本?

是否可以同时写入两个不同的hbase表,每个表的版本不同,在不同的集群上使用hbaseJavaAPI但只使用一个客户端? 最佳答案 理论上您可以,但需要大量工作。如果版本兼容,您可以在客户端使用最旧的版本来连接两个服务器,为每个服务器使用来自HConnectionManager的不同HConnection(每个具有不同的配置).如果您的服务器版本不兼容,您不能因为java的类加载(参见http://en.wikipedia.org/wiki/Dependency_hell),除非您开始使用OSGI之类的东西或创建特殊的类加载器等。一

hadoop - HBase 表作为 MapReduce 输入?

我想知道将HBase表作为mapreduce作业输入的优缺点是什么?它如何影响性能? 最佳答案 优点:1.可以进行点查找,无需读取整个数据。如果将hbase集成为输入源,则可以完全避免减少阶段,因为可以获取给定键的完整数据。缺点:1.如果hbaseBlock大小没有调整好,扫描一个非常小的集合可能会导致扫描完整的底层数据(最坏情况下1%读取可能导致读取100%数据)在全扫描的情况下,直接从hdfs读取是最“首选”的选择。如果“由于跨区域服务器的区域移动而无法维护数据局部性”,Hbase可能会导致滥用dfs总的来说,这完全取决于一个人

hadoop - 为什么 hbase 即使存在 hdfs

为什么hadoop使用hbase,即使hdfs可用于存储?我们还可以将表数据作为block存储在hdfs中。数据存储在hbase中吗?如果是这样,那么hdfs的作用是什么? 最佳答案 HDFS是一种分布式文件系统,非常适合存储大文件。它旨在支持数据的批处理,但不提供快速的单个记录查找。HBase建立在HDFS之上,实际上数据存储在HDFS上,旨在提供对大型表中单行数据的访问。总的来说,HDFS和HBase的区别是HDFS——IssuitedforHighLatencyoperationsbatchprocessingDataispr

hadoop - 使用 HBase 表作为 MapReduce 源

据我所知,当使用hbase表作为mapreduce作业的源时,我们已经定义了扫描的值。假设我们将其设置为500,这是否意味着每个映射器仅从hbase表中获得500行?如果我们将它设置为非常高的值会有什么问题吗?如果扫描大小很小,我们不会遇到与mapreduce中的小文件相同的问题吗? 最佳答案 这是来自HBaseBook的示例代码关于如何运行从HBase表读取的MapReduce作业。Configurationconfig=HBaseConfiguration.create();Jobjob=newJob(config,"Examp

java - Mapreduce Hbase 文件未找到异常

我正在尝试使用mapreduce将数据填充到Hbase,但它一次又一次地抛出以下异常:-15/04/2921:35:37WARNmapreduce.JobSubmitter:Hadoopcommand-lineoptionparsingnotperformed.ImplementtheToolinterfaceandexecuteyourapplicationwithToolRunnertoremedythis.15/04/2921:35:38INFOmapreduce.JobSubmitter:Cleaningupthestagingareafile:/home/hduser/had

scala - 带 Spark 的独立 HBase,HBaseTest.scala 出错

您好,我正在使用独立的hbase,我想在上面测试spark。我的机器上没有hadoop。当我尝试使用HBaseTest.scala获取表的计数时(在scala示例中)我收到以下错误:ERRORTableInputFormat:java.io.IOException:java.lang.reflect.InvocationTargetExceptionatorg.apache.hadoop.hbase.client.HConnectionManager.createConnection(HConnectionManager.java:416)atorg.apache.hadoop.hba

eclipse - 无法从 windows eclipse 创建 Hbase 表

我正在尝试从Windows中安装的eclipse创建Hbase表。我有cloudera虚拟机运行。我在Windows主机文件和虚拟机主机文件中有ip“192.168.1.5”。请提出建议。我已经包含了所有的hbasejar文件。你能指导我如何将eclipse连接到clouderavm吗?该作业没有抛出任何错误,但运行了很长时间。packagehbase;importjava.io.IOException;importorg.apache.hadoop.conf.Configuration;importorg.apache.hadoop.hbase.HBaseConfiguration;

hadoop - 尽管我添加了 NoColumnFamily,但 HBase 行写入失败

这可能是一个标准的异步操作问题。通过HBaseAdmin.addColumnFamily添加列族是异步的。现在我需要在添加此columnFamily之后添加行,这会引发NoColumnFamily错误。除了检查columnFamily是否存在之外,我如何推迟添加行直到添加columnFamily。 最佳答案 如果要添加列族。您将需要:1.禁用表2.添加列族3.启用表。只有您才能将数据写入该列族。完成上述3个步骤后,就可以确定该列族是否存在了。 关于hadoop-尽管我添加了NoColum

hadoop - Exasol 与 HBase

我对大数据架构还很陌生,所以请不要对我太苛刻。我正在尝试找出构建能够处理大量数据的BI架构的最佳替代方案。正如我所看到的,解决方案必须是集群/水平可扩展的,以应对系统的增长。我希望能够使用SQL与系统进行交互,因此HBase+Hive(或者甚至是Pig,不是用于sql但不需要手动编写MR任务)可能是一个解决方案。与例如Exasolution及其In-Memory-MPP-Columnar解决方案相比,这种架构的优点/缺点是什么。还有其他可能有一些额外好处的选择吗?维护和配置呢?任何Microsoft解决方案(我可能会发现与此相关的客户特定需求)很抱歉发布这样一个悬而未决的问题,但我希望

json - 使用 Pig 脚本将 Json 导入 Hbase

我正在尝试编写一个允许我加载Json的pig脚本(从Elasticsearch中获取并转储到hdfs)。我已经为此苦苦挣扎了好几天,也许有人可以让我对我遇到的问题有一些了解。这是我写的一个快速pig脚本,用于从hbase读取任意修改数据,然后存储回hbase(只是为了确保一切正常)REGISTERhbase-common-1.1.1.jarREGISTER/tmp/udfs/json-simple-1.1.1.jarREGISTER/tmp/udfs/elephant-bird-hadoop-compat-4.9.jarREGISTER/tmp/udfs/elephant-bird-p