草庐IT

Bird_Name

全部标签

maven - 无法使用 mvn 编译 elephant-bird

我无法解决我的问题,即使它对您来说可能是显而易见的。那么有人可以帮助我吗?当我试图根据它的源代码构建elephantbird时出现了问题。我执行了mvnpackage它返回:[ERROR]BUILDERROR[INFO]------------------------------------------------------------------------[INFO]Oneormorerequiredpluginparametersareinvalid/missingfor'protobuf:run'在插件“protobuf-maven-plugin”的定义中指定以下内容:...

hadoop - Fi-Ware 宇宙 : Name node is in safe mode

我正在尝试删除我的Cosmos帐户中的一个文件夹,但我得到了SafeModeException:#hadoopfs-rmr/home//inputrmr:org.apache.hadoop.hdfs.server.namenode.SafeModeException:Cannotdelete/user//input.Namenodeisinsafemode 最佳答案 在启动期间,Namenode从fsimage加载文件系统状态并编辑日志文件。然后它等待数据节点报告它们的block,这样它就不会过早地开始复制block,尽管集群中已经

hadoop - Cloudera CDH4 : Can't add a host to my cluster because canonical name is not consistent with hostname

我正在使用Ubuntu12.04LTS在4节点集群上安装CDH4。我能够安装cloudera管理器并在主机上启动单节点集群。但是,一旦我添加了一个新主机,CM就会说它运行状况不佳并抛出以下错误:“从Java进程检查时,此主机的主机名和规范名称不一致。”我修改了master和所有主机上的/etc/hosts的内容,以包含IP地址,后跟每台机器的FQDN。我是否还需要设置一个DNS服务器才能完成这项工作? 最佳答案 您不一定需要设置DNS服务器才能使其正常工作,但正向和反向DNS必须明确匹配Hadoop才能正常运行。Hadoop操作书有

java - Cassandra 错误 :Invalid method name "describe local ring"

我正在使用java在hadoop中开发一个项目。当我在本地集群上运行我的代码(jar)时它工作正常但是当我在亚马逊多集群上运行它时它会给出异常...我的mapreduce作业代码....job.setJarByClass(ReadActivityDriver.class);job.setMapperClass(ReadActivityLogMapper.class);job.setReducerClass(ReadActivityLogReducer.class);job.setMapOutputKeyClass(Text.class);job.setMapOutputValueCla

hadoop - 使用 elephant-bird 配合 hive 读取 protobuf 数据

我有类似的问题thisone以下是我使用的:CDH4.4(配置单元0.10)protobuf-java-.2.4.1.jarelephant-bird-hive-4.6-SNAPSHOT.jarelephant-bird-core-4.6-SNAPSHOT.jarelephant-bird-hadoop-compat-4.6-SNAPSHOT.jar包含protoc编译的.class文件的jar文件。而我流ProtocolBufferjavatutorial创建我的数据“测试簿”。还有我使用hdfsdfs-mkdir/protobuf_data创建HDFS文件夹。使用hdfsdfs-p

hadoop - Rack Awareness 和 Name node 的区别

我正在研究Hadoop,我怀疑Rackwareness和NameNode之间是否有区别。将Rackwareness和namenode保留在同一个盒子上 最佳答案 正如Aviral所说的那样,这个问题非常模糊。但只是为了您的理解而引用,Namenode:NameNode是HDFS文件系统的核心。它保留文件系统中所有文件的目录树,并跟踪文件数据在集群中的保存位置。它不存储这些文件本身的数据。客户端应用程序在希望定位文件或希望添加/复制/移动/删除文件时与NameNode通信。NameNode通过返回数据所在的相关DataNode服务器列

hadoop - pig : How to remove '::' in the column name

我有一个像下面这样的pig关系:最终={input_md5::type:chararray,input_md5::name:chararray,input_md5::id:long,input_md5::age:chararray,test_1::type:chararray,test_2::name:chararray}我正在尝试存储input_md5的所有列与hive表的关系。喜欢所有input_md5::type:chararray,input_md5::name:chararray,input_md5::id:long,input_md5::age:chararray不服用te

hadoop - org.apache.hadoop.hdfs.server.common.InconsistentFSStateException : Directory/tmp/hadoop/dfs/name is in an inconsistent state

我正在运行单节点。NameNode总是在启动集群时开始失败。我收到以下错误。2013-06-2910:37:29,968FATALorg.apache.hadoop.hdfs.server.namenode.NameNode:Exceptioninnamenodejoinorg.apache.hadoop.hdfs.server.common.InconsistentFSStateException:Directory/tmp/hadoop/dfs/nameisinaninconsistentstate:storagedirectorydoesnotexistorisnotaccess

hadoop - 如何解决 Oozie 错误 : JA009: Cannot initialize Cluster. 检查 mapreduce.framework.name 的配置

我一直在使用oozie来安排spark作业。尝试使用Oozie中可用的spark操作在2.x集群中部署spark作业。在我的job.properties中,我有以下内容`nameNode=hdfs://hostname:8020jobTracker=hostname:8050master=yarn-clusterqueueName=defaultoozie.use.system.libpath=true`当我提交oozie作业时,我一直收到此错误错误:错误代码[JA009],消息[JA009:无法初始化集群。请检查您的mapreduce.framework.name配置和相应的服务器地

hadoop - pig 负载 : deprecated property fs. default.name

我已经在同一台机器上安装了Hadoop2.6.5和Pig0.16。我跑了pig然后我加载了一个文件使用a=load'/user/hduser/input/palabras.txt';我得到了这个信息INFOorg.apache.hadoop.conf.Configuration.deprecation-fs.default.nameis已弃用。相反,使用fs.defaultFS但我想知道如果我已经在core-site.xml文件中更改了该属性,为什么会出现此消息?我希望清楚,如果需要其他信息,请告诉我。谢谢! 最佳答案 它与您的co