草庐IT

CLOUDERA

全部标签

scala - 当我尝试通过 Cloudera VM 在 spark 中运行 scala 命令时,topology.py 出现语法错误

每次我尝试按照Scala命令运行valdataRDD=sc.textFile("hdfs://quickstart.cloudera:8020/user/cloudera/data/data.txt")dataRDD.collect().foreach(println)//ordataRDD.count()我得到以下异常-exitCodeExceptionexitCode=1:File"/etc/hadoop/conf.cloudera.yarn/topology.py",line43printdefault_rack^SyntaxError:Missingparenthesesinc

hadoop - Cloudera 的 CDH4 WordCount hadoop 教程 - 问题

我正在学习本教程:http://www.cloudera.com/content/cloudera-content/cloudera-docs/HadoopTutorial/CDH4/Hadoop-Tutorial/ht_topic_5_2.html内容如下:javac-cpclasspath-dwordcount_classesWordCount.javawhereclasspathis:CDH4-/usr/lib/hadoop/*:/usr/lib/hadoop/client-0.20/*CDH3-/usr/lib/hadoop-0.20/hadoop-0.20.2-cdh3u4-

apache - Cloudera hadoop的conf目录在哪里?

我一直在寻找ClouderaHadoop/conf目录所在的位置,但找不到。我使用Cloudera的一键式软件包存储库安装了namenode,并运行了sudoapt-getinstall-yhadoop-hdfs-namenode,但现在我需要找到code>/conf这样我就可以配置Hadoop集群了。有人知道它在哪里吗? 最佳答案 它在通常的地方,/etc/hadoop/conf。您会发现这实际上是一个使用alternatives的符号链接(symboliclink),但您可以根据需要转到此目录查找/编辑配置。不过,通过Cloud

java - Hive 在创建表 "Cannot validate serde: com.cloudera.hive.serde.JSONSerDe"时抛出错误

正在使用apache-hive-0.13.1。在创建表配置单元时抛出如下错误FAILED:ExecutionError,returncode1fromorg.apache.hadoop.hive.ql.exec.DDLTask.Cannotvalidateserde:com.cloudera.hive.serde.JSONSerDe表结构为createexternaltabletweets(idBigInt,created_atString,scourceString,favoritedBoolean,retweet_countint,retweeted_statusStruct>,e

hadoop - 定位 Cloudera Manager HDFS 配置文件

我已经通过ClouderaManager安装了一个集群,现在我需要手动启动集群。我一直在使用以下命令:$sudo-uhdfshadoopnamenode/datanode/jobtracker但是dfs.name.dir被设置为/tmp。我似乎找不到cloudera管理器在哪里有HDFS配置文件。/usr/lib/hadoop-02*/conf中的那些似乎是最小的。他们缺少dfs.name.dir,这是我特别要找的。顺便说一下,我在RHLE6系统上。由于懒惰,我虽然可以只复制cloudera管理器的HDFS配置文件,所以我不必手动创建它们,将它们复制到6个节点:)谢谢

hadoop - HDFS 作为 cloudera quickstart docker 中的卷

我对hadoop和docker都很陌生。我一直致力于扩展cloudera/quickstartdocker镜像docker文件,并希望从主机挂载一个目录并将其映射到hdfs位置,以便提高性能并在本地持久保存数据。当我使用-v/localdir:/someDir在任何地方安装卷时,一切正常,但这不是我的目标。但是当我执行-v/localdir:/var/lib/hadoop-hdfs时,datanode和namenode都无法启动,我得到:“cd/var/lib/hadoop-hdfs:权限被拒绝”。当我执行-v/localdir:/var/lib/hadoop-hdfs/cache时,

hadoop - Cloudera 管理器 : Where do I put Java ClassPath for MapReduce jobs?

我已经让Hadoop-Lzo在我的本地伪集群上愉快地工作,但是第二次我在生产中尝试相同的jar文件时,我得到:java.lang.RuntimeException:native-lzolibrarynotavailable库已验证在DataNode上,所以我的问题是:我在什么屏幕/设置中指定native-lzo库的位置? 最佳答案 对于MapReduce,您需要将条目添加到MapReduce客户端环境安全阀。您可以通过转到配置下的查看和编辑选项卡找到MapReduceClientSafety。然后在那边添加这些行:HADOOP_CL

java - 如何让 WordCount.java 在 Cloudera 4 上编译?

我正在尝试在Cloudera4的Linux(CentOS)安装上编译一个简单的WordCount.javamap-reduce示例。当我引用任何hadoop类时,我总是遇到编译器错误,但我无法弄清楚/usr/lib/hadoop下的数百个jar中的哪些我需要添加到我的类路径中才能编译。任何帮助将不胜感激!我最想要的是一个用于字数统计的Java文件(以防万一我发现的文件由于某种原因不好)以及用于编译和运行它的相关命令。我正在尝试仅使用javac而不是Eclipse来执行此操作。无论哪种方式,我的主要问题是Cloudera4安装中的Hadoop库到底是什么,我需要包含这些库才能编译经典的W

hadoop - 从 quickstart.cloudera/172.17.0.2 调用 quickstart.cloudera :8020 failed on connection exception: java.net.ConnectException: Connection refused

我是Docker和Hadoop系统的新手。我已经在Ubuntu16.04中安装了Docker,并在一个新的Docker容器中运行来自Cloudera的Hadoop镜像。但是当我尝试在hdfs中运行任何命令时,错误消息显示为:CallFromquickstart.cloudera/172.17.0.2toquickstart.cloudera:8020failedonconnectionexception:java.net.ConnectException:Connectionrefused;我不知道如何解决这个问题。我期待您的帮助。 最佳答案

hadoop - CDH(Cloudera Distribution for hadoop) 是开源的吗?

CDH(ClouderaDistributionforhadoop)是开源的还是商业的?非常感谢对此的任何意见。 最佳答案 "AllsoftwaredevelopedbyClouderaforCDHisreleasedwithanApache2.0license".换句话说,它是开源的。 关于hadoop-CDH(ClouderaDistributionforhadoop)是开源的吗?,我们在StackOverflow上找到一个类似的问题: https://s