草庐IT

hadoop - 附加到 HDFS 中的文件 (CDH 5.4.5)

这里是HDFS的全新内容。我有一小段代码来测试附加到文件:valpath:Path=newPath("/tmp","myFile")valconfig=newConfiguration()valfileSystem:FileSystem=FileSystem.get(config)valoutputStream=fileSystem.append(path)outputStream.writeChars("what'sup")outputStream.close()失败并显示此消息:Notsupportedjava.io.IOException:Notsupportedatorg.ap

eclipse-plugin - Hadoop CDH4 和 Eclipse Juno

有没有人成功地针对CDH4安装为Juno构建了一个eclipse插件?我在网上看到了CDH3。寻找CDH4。非常感谢。 最佳答案 我不确定您指的是HadoopEclipse插件还是针对CDH4开发代码的插件。我会回答这两个问题。在Juno中针对CDH4进行开发:到目前为止,在Eclipse(任何版本)中针对CDH4组件编写应用程序的最简单方法是使用m2eclipse[1]并将ClouderaMaven存储库添加到您的pom.xml。事实上,Cloudera的很大一部分人(包括我自己)经常这样做。最近,我们的一位工程师(Natty)写

configuration - 如何使用 CDH4 和 Yarn 查看我的 Hadoop 作业历史记录和日志?

我用Yarn下载了Hadoop的CDH4tar,作业运行良好,但我不知道从哪里查看我的作业日志。在MRv1中,我只是访问了JobTracker网络应用程序,它具有工作历史记录。也可以从这里访问单个作业的日志,或者转到logs/userlogs目录。在我的新Yarn设置中(仅在单台计算机上运行),我有日志目录,但没有日志/用户日志文件夹。当我转到ResourceManager网页localhost:8088时,有一个“所有应用程序”部分,但此处没有显示任何条目。当我转到JobHistory网页时,localhost:19888,没有列出任何工作。我想知道是否存在配置问题。这是我的yarn

hadoop - CDH(Cloudera Distribution for hadoop) 是开源的吗?

CDH(ClouderaDistributionforhadoop)是开源的还是商业的?非常感谢对此的任何意见。 最佳答案 "AllsoftwaredevelopedbyClouderaforCDHisreleasedwithanApache2.0license".换句话说,它是开源的。 关于hadoop-CDH(ClouderaDistributionforhadoop)是开源的吗?,我们在StackOverflow上找到一个类似的问题: https://s

hadoop - oozie 中的配置单元操作失败(在 cloudera CDH 4.1.1 上)

当我使用oozieodCDH4.1.1运行配置单元脚本时运行失败:ErrorCodeJA018ErrorMessageorg/apache/hadoop/hive/cli/CliDriverDetailsPropertyValueExternalIdjob_201211281608_0112ExternalStatusFAILED/KILLEDDataNoneStarttimeSat,01Dec201203:02:37EndtimeSat,01Dec201203:03:07Id0000007-121128160850795-oozie-oozi-W@ExchangeRateTestRe

hadoop - CDH4 Hbase 使用 Pig ERROR 2998 java.lang.NoClassDefFoundError : org/apache/hadoop/hbase/filter/Filter

我在伪分布式模式下使用CDH4,我在同时使用HBase和Pig时遇到了一些问题(但两者都可以单独工作)。我正在逐步遵循这个不错的教程:http://blog.whitepages.com/2011/10/27/hbase-storage-and-pig/所以我的Pig脚本看起来像这样register/usr/lib/zookeeper/zookeeper-3.4.3-cdh4.1.2.jarregister/usr/lib/hbase/hbase-0.92.1-cdh4.1.2-security.jarregister/usr/lib/hbase/lib/guava-11.0.2.ja

java - 如何更改 CDH 使用的 Java 版本

我目前在带有javajdk1.7的CentOS6.5上安装了CDH5,我正在尝试让CDH使用jdk1.8。我知道Java1.8不是推荐的CDH版本,但它只是一个测试集群,所以没什么大不了的。我已经使用RPM安装从Oracle网站安装了Java1.7和Java1.8,因此这两个版本的Java目前都在/usr/java下。使用ls-ld我的Java目录如下所示:/usr/java/default->/usr/java/latest/usr/java/jdk1.7.0_75/usr/java/jdk1.8.0_31/usr/java/latest->/usr/java/jdk1.8.0_31

hadoop - 无法启动 CDH4 辅助名称节点 : Invalid URI for NameNode address

我一直在尝试设置hadoop的CDH4安装。我有12台机器,标记为hadoop01-hadoop12,名称节点、作业跟踪器和所有数据节点都已正常启动。我能够查看dfshealth.jsp并看到它找到了所有数据节点。但是,每当我尝试启动辅助名称节点时,它都会出现异常:StartingHadoopsecondarynamenode:[OK]startingsecondarynamenode,loggingto/var/log/hadoop-hdfs/hadoop-hdfs-secondarynamenode-hadoop02.dev.terapeak.com.outExceptionint

hadoop - Cloudera CDH 中的 hadoop-examples* 和 hadoop-test* jar 在哪里?

我正在寻找能够运行与示例和测试jar关联的hadoop作业的jar文件。过去它们在/usr/lib/hadoop下,但现在显然不在了。感谢指点。注意:本题原为CDH4.2。但是一些答案包括更高版本的信息 最佳答案 find/-namehadoop-mapreduce-examples*.jar/usr/lib/hadoop-mapreduce/hadoop-mapreduce-examples-2.0.0-cdh4.7.0.jar/usr/lib/hadoop-mapreduce/hadoop-mapreduce-examples.

hadoop - 找不到带有 key dfs.encryption.key.provider.uri 的 uri 以在 CDH 5.4 的 HDFS 加密中创建 key 提供程序

CDH版本:CDH5.4.5问题:当使用HadoopCDH5.4中可用的KMS启用HDFS加密时,将文件放入加密区域时出错。步骤:Hadoop的加密步骤如下:创建key[成功][tester@master~]$hadoopkeycreate'TDEHDP'-providerkms://https@10.1.118.1/key_generator/kms-size128tdegrouphasbeensuccessfullycreatedwithoptionsOptions{cipher='AES/CTR/NoPadding',bitLength=128,description='null