草庐IT

hadoop - "getMaster attempt 1 of 1 failed; no more retrying. com.google.protobuf.ServiceException: java.io.IOException: Broken pipe"连接时

我正在尝试通过一个Java小程序连接到本地系统中安装的HBase(使用Hortonworks1.1.1.16),该程序执行下一个命令:HBaseAdmin.checkHBaseAvailable(conf);值得一提的是,在命令行使用hbase命令连接HBase完全没有问题。主机文件的内容是下一个(其中example.com包含实际主机名):127.0.0.1localhostexample.comHBase配置为在独立模式下工作:hbase.cluster.distributed=false执行程序时,抛出下一个异常:13/05/1315:18:29INFOzookeeper.Zoo

maven - Guava 的 Spark 1.3 和 Cassandra 3.0 问题

我正在尝试从Spark1.3连接到Cassandra3.0。我知道spark中每个版本都有Cassandra连接器,但是spark-cassandra-connector-java_2.10:1.3.0连接器依赖于cassandra-driver-core:2.1.5,这就是为什么我使用最新的cassandra连接器,它依赖于最新的核心驱动程序。无论如何,到目前为止这不是问题所在。我想问题是com.google.guava包。我的pom看起来像这样:...com.datastax.sparkspark-cassandra-connector-java_2.101.5.0-M3com.d

scala - 'new HiveContext' 需要 X11 显示? com.trend.iwss.jscan?

Spark1.6.2(yarn大师)包名:com.example.spark.Main基本的SparkSQL代码valconf=newSparkConf()conf.setAppName("SparkSQLw/Hive")valsc=newSparkContext(conf)valhiveContext=newHiveContext(sc)importhiveContext.implicits._//valrdd=valdf=rdd.toDF()df.write.saveAsTable("example")还有堆栈跟踪...NoX11DISPLAYvariablewasset,butt

java.lang.NoClassDefFoundError : com/google/common when trying to create a Configuration object 错误

我正在尝试从java中与我的HDFS进行交互。当我尝试创建一个新的Configuration对象时配置conf=newConfiguration();我的应用程序抛出这个错误Exceptioninthread"main"java.lang.NoClassDefFoundError:com/google/common/base/Preconditionsatorg.apache.hadoop.conf.Configuration$DeprecationDelta.(Configuration.java:306)atorg.apache.hadoop.conf.Configuration$

mysql - Oozie - 运行 sqoop : Could not load db driver class: com. mysql.jdbc.Driver 时出现异常

我正在尝试通过Oozie在HDP沙箱2.1上执行sqoop导出。当我运行Oozie作业时,出现以下Java运行时异常。'>>>InvokingSqoopcommandlinenow>>>7598[main]WARNorg.apache.sqoop.tool.SqoopTool-$SQOOP_CONF_DIRhasnotbeensetintheenvironment.Cannotcheckforadditionalconfiguration.7714[main]INFOorg.apache.sqoop.Sqoop-RunningSqoopversion:1.4.4.2.1.1.0-385

hadoop - 我如何使用 Hive 截断 url

如何使用Hive脚本截断域“com”旁边的以下URL。即你只tube.comhttp://www.youtube.com/video/AiL6nLhttp://www.yahoo.com/video/Hhj9B2http://www.youtube.com/video/MpVHQhttp://www.google.com/video/PGuTNhttp://www.youtube.com/video/VU34MI可以这样截断吗? 最佳答案 尝试从mytable中选择split(url,'/')[0]mytable是您的表格,url是

hadoop - 使用 loadfunc pig UDF 将 protobuf 格式文件加载到 pig 脚本中

我对pig知之甚少。我有protobuf格式的数据文件。我需要将此文件加载到pig脚本中。我需要编写一个LoadFuncUDF来加载它。说函数是Protobufloader()。我的PIG脚本是A=LOAD'abc_protobuf.dat'USINGProtobufloader()as(name,phonenumber,email);我只想知道如何获取文件输入流。一旦我掌握了文件输入流,我就可以将数据从protobuf格式解析为PIG元组格式。PS:提前致谢 最佳答案 Twitter的开源库elephantbird有很多这样的加载

ssh 解决git@gitlab.xxx.com‘s password

sshpull操作总是提示:git@gitlab.xxx.com’spassword:Administrator@DE~$ssh-add~/.ssh/XXXCouldnotopenaconnectiontoyourauthenticationagent.Administrator@DE~$ssh-agentbashAdministrator@DE~$ssh-add~/.ssh/XXXIdentityadded:/home/Administrator/.ssh/XXX(XXX)XXX为你自己的私钥文件名使用以上命令,只能对当前环境生效,重启或新开终端会继续提示输入密码

hadoop - hdfs - ls : Failed on local exception: com. google.protobuf.InvalidProtocolBufferException:

我正在尝试使用下面的命令在hdfs中列出我的目录:ubuntu@ubuntu:~$hadoopfs-lshdfs://127.0.0.1:50075/ls:Failedonlocalexception:com.google.protobuf.InvalidProtocolBufferException:Protocolmessageend-grouptagdidnotmatchexpectedtag.;HostDetails:localhostis:"ubuntu/127.0.0.1";destinationhostis:"ubuntu":50075;这是我的/etc/hosts文件1

eclipse - 线程 "main"java.lang.NoClassDefFoundError : com/google/common/base/Preconditions 中的异常

在eclipse中运行javamapreduce应用程序时,遇到如下异常。我也在我的构建路径中包含了commons-logging-1.2.jar文件,但仍然在下面。我是hadoop的新手。请帮助我。Exceptioninthread"main"java.lang.NoClassDefFoundError:com/google/common/base/Preconditionsatorg.apache.hadoop.conf.Configuration$DeprecationDelta.(Configuration.java:314)atorg.apache.hadoop.conf.C