草庐IT

hbase-shell

全部标签

java - Hbase 区域服务器关闭

我们安装了一个有3台机器的小型Hadoop集群。我们正在使用Hortonworks。我们使用以下代码从java客户端连接到Hbase。Configurationconfig=HBaseConfiguration.create()config.set(“hbase.zookeeper.quorum”,“xxxxxx”);config.set(“hbase.zookeeper.property.clientPort”,“2181”);config.set(“hbase.client.operation.timeout”,“1000”);HConnectionconnection=HConn

hadoop - Hbase 和 Phoenix 无法映射整数

我试图用phoenix映射一个hbase表,但结果表在具有整数值的列中给出空值。这是我的hbase表create'foo2',{NAME=>'cf',VERSIONS=>5},{NAME=>'cn'}put'foo2','1','cf:ID','1'put'foo2','1','cf:c1','a'put'foo2','1','cf:c2','b'put'foo2','1','cn:idFoo3',1put'foo2','2','cf:ID','2'put'foo2','2','cf:c1','c'put'foo2','2','cf:c2','d'put'foo2','2','cn:i

hadoop - HBase 映射/减少依赖问题

概览我基于resteasy框架开发了一个Restapi服务。在服务中,我将数据存储到HBase数据库中。然后,执行由某些条件触发的map/reduce过程(例如插入一条记录)。需要在Map类中,我导入了一些第三方库。我不想将这些库打包到war文件中。TableMapReduceUtil.initTableMapperJob(HBaseInitializer.TABLE_DATA,//inputHBasetablenamescan,//ScaninstancetocontrolCFandattributeselectionLuceneMapper.class,//mappernull,/

hadoop - oozie 在 shell 脚本中运行 Sqoop 命令

我可以在脚本中编写一个sqoop导入命令并在oozie中作为协调器工作流执行它吗?我已经厌倦了这样做,发现一个错误说sqoop命令没有找到,即使我给了sqoop执行的绝对路径script.sh如下sqoopimport--connect'jdbc:sqlserver://xx.xx.xx.xx'-username=sa-password-tablematerials--fields-terminated-by'^'----schemadbo-target-dir/user/hadoop/CFFC/oozie_materials我已经将文件放在HDFS中并为oozie指定了路径。工作流程

java - Windows 上的 Hbase 集成测试

我有一个带有hbase数据库的新JavaEE应用程序。我想创建集成测试,我使用HBaseTestingUtility类(startMiniCluster)。我在Windows(Eclipse)上工作,但出现此错误:java.lang.NoSuchMethodError:org.apache.hadoop.fs.FileSystem.setWriteChecksum我的pom.xml:UTF-81.2.12.5.11.0.0junitjunit4.11testorg.apache.hadoophadoop-core${hadoop.version}org.apache.hadoophad

hadoop - 在 HDP (2.2) 平台上使用 Yarn-Client 上的 PySpark 将 Hbase 表读取到 Spark(1.2.0.2.2.0.0-82) RDD 时出现异常 "unread block data"

在HDP(2.2)上使用Yarn-Client(2.6.0)上的PySpark将Hbase(0.98.4.2.2.0.0)表读取到Spark(1.2.0.2.2.0.0-82)RDD时出现奇怪的异常)植物形态:2015-04-1419:05:11,295WARN[task-result-getter-0]scheduler.TaskSetManager(Logging.scala:logWarning(71))-Losttask0.0instage0.0(TID0,hadoop-node05.mathartsys.com):java.lang.IllegalStateException

hadoop - 由于找不到方法错误,在 Hbase 中上传 HFiles 失败

我正在尝试使用bulkload将Hfile上传到Hbase。这样做时我遇到了找不到方法的错误。在下面提供日志和命令。命令hadoopjar/usr/lib/hbase/lib/hbase-server-0.98.11-hadoop2.jarcompletebulkload/outputNBAFinal2010其中output是Hfiles输出文件夹,NBAFinal2010是Hbase中的表。日志:-15/05/0513:20:12ERRORmapreduce.LoadIncrementalHFiles:Unexpectedexecutionexceptionduringbulkloa

shell - shell 脚本中的 SQOOP 导出失败

我正在借助shell脚本将表从hive导出到mysql。下面是sqoopexport命令sqoopexport--connectjdbc:mysql://192.168.154.129:3306/ey-usernameroot--tablecall_detail_records--export-dir/apps/hive/warehouse/xademo.db/call_detail_records--fields-terminated-by'|'--lines-terminated-by'\n'--m4--batch上述命令在CLI中运行良好。但它在shell脚本中不起作用,它会生成

hadoop - 将嵌套实体存储在 Hbase 中并将其作为配置单元中的行读取

我的要求是将嵌套实体(POJO对象数组)从Java写入Hbase,并在Hive中将它们作为单独的记录读取。(i,e)从Java编写时,它只是一个字符串(数组)。但是从配置单元来看,数组代表了整个表。因此,配置单元应该将数组的单个元素作为其中的单个记录。我们将不胜感激。谢谢,GK 最佳答案 也许你应该看看HiveUDTFfunctions像explode,根据你存储的内容和需要检索的内容,它们可能对你有用,但请注意它们有一些重要的限制:NootherexpressionsareallowedinSELECTSELECTpageid,e

java - 尝试在 shell 脚本中同时运行 hadoop MapReduce 命令和 linux 命令

我有一个这样的shell脚本。#!/bin/sh/home/hduser/Downloads/hadoop/bin/stop-all.shecho"RUNNINGHADOOPPROGRAM"cd/home/hduser/Downloads/hadoopsudorm-R/tmp/*sudorm-R/app/*cdsudomkdir-p/app/hadoop/tmpsudochownhduser:hadoop/app/hadoop/tmpsudochmod750/app/hadoop/tmphadoopnamenode-format/home/hduser/Downloads/hadoop