草庐IT

create-cluster

全部标签

java - Yarn mini-cluster 容器日志目录不包含 syslog 文件

我已经基于来自CDH5.1.0的hadoop2.3.0设置了带有1个节点管理器、4个本地目录和4个日志目录等的YARNMapReduce迷你集群。它看起来或多或少有效。我未能实现的是来自容器的系统日志记录。我看到容器日志目录、stdout和stderr文件,但没有看到带有MapReduce容器日志记录的syslog。适当的stderr警告我没有log4j配置并且不包含任何其他字符串:log4j:WARNNoappenderscouldbefoundforlogger(org.apache.hadoop.metrics2.impl.MetricsSystemImpl).log4j:WAR

hadoop - 如何解决 Oozie 错误 : JA009: Cannot initialize Cluster. 检查 mapreduce.framework.name 的配置

我一直在使用oozie来安排spark作业。尝试使用Oozie中可用的spark操作在2.x集群中部署spark作业。在我的job.properties中,我有以下内容`nameNode=hdfs://hostname:8020jobTracker=hostname:8050master=yarn-clusterqueueName=defaultoozie.use.system.libpath=true`当我提交oozie作业时,我一直收到此错误错误:错误代码[JA009],消息[JA009:无法初始化集群。请检查您的mapreduce.framework.name配置和相应的服务器地

hadoop - "Child Error"in Executing stream Job on multi node Hadoop cluster (cloudera distribution CDH3u0 Hadoop 0.20.2)

我在8节点Hadoop集群上工作,我正在尝试使用指定的配置执行一个简单的流作业。hadoopjar/usr/lib/hadoop-0.20/contrib/streaming/hadoop-streaming-0.20.2-cdh3u0.jar\-Dmapred.map.max.tacker.failures=10\-Dmared.map.max.attempts=8\-Dmapred.skip.attempts.to.start.skipping=8\-Dmapred.skip.map.max.skip.records=8\-Dmapred.skip.mode.enabled=tru

php - 运行 "No such file or directory"时的故障排除 `php app/console doctrine:schema:create`

我是Symfony2(beta4)和Doctrine的新手,当我尝试通过命令行创建数据库架构时遇到问题。这是错误:$phpapp/consoledoctrine:schema:createCreatingdatabaseschema...[PDOException]SQLSTATE[HY000][2002]Nosuchfileordirectory[ErrorException]Warning:PDO::__construct():[2002]Nosuchfileordirectory(tryingtoconnectviaunix:///var/mysql/mysql.sock)in/

php - 运行 "No such file or directory"时的故障排除 `php app/console doctrine:schema:create`

我是Symfony2(beta4)和Doctrine的新手,当我尝试通过命令行创建数据库架构时遇到问题。这是错误:$phpapp/consoledoctrine:schema:createCreatingdatabaseschema...[PDOException]SQLSTATE[HY000][2002]Nosuchfileordirectory[ErrorException]Warning:PDO::__construct():[2002]Nosuchfileordirectory(tryingtoconnectviaunix:///var/mysql/mysql.sock)in/

hadoop - 在配置单元配置 : Couldn't create directory ${system:java. io.tmpdir}\${hive.session.id}_resources 上应用授权策略时出错

我在Windows上运行Hadoop3.0.0-alpha1并向其中添加了Hive2.1.1。当我尝试使用hive命令打开配置单元直线时,出现错误:Errorapplyingauthorizationpolicyonhiveconfiguration:Couldn'tcreatedirectory${system:java.io.tmpdir}\${hive.session.id}_resources怎么了?我运行mysql作为Hive的元存储,并在HDFS中添加了所需的文件:hadoopfs-mkdir/user/hivehadoopfs-mkdir/user/hive/wareho

hadoop - 错误 : Failed to create Data Storage while running embedded pig in java

我写了一个简单的程序来测试java中的嵌入式pig在mapreduce模式下运行。我运行的服务器hadoop版本是0.20.2-cdh3u4a,pig版本是0.10.0-cdh3u4a。当我尝试在本地模式下运行时,它运行成功。但是当我尝试以mapreduce模式运行时,它给了我错误。我使用以下命令运行我的程序,如http://pig.apache.org/docs/r0.9.1/cont.html#embed-java中所示javac-cppig.jarEmbedPigTest.javajavac-cppig.jar:.:/etc/hadoop/confEmbedPigTest.jav

hadoop - 亚马逊电子病历 : Initializing a cluster with data

我正在使用AmazonEMR,并且能够使用CLI工具创建和运行工作流。作业运行良好。但是,当我尝试将数据从S3和名称节点的本地文件系统加载到我的EMR集群的HDFS时遇到了问题。我想从S3填充HDFS。我正在尝试使用S3DistCp工具执行此操作。我正在运行这个命令:elastic-mapreduce--jobflow$JOBFLOWID--jars3://us-east-1.elasticmapreduce/libs/s3distcp/1.0.1/s3distcp.jar--arg--src--arg's3n://my-bucket/src'--arg--dest--arg'hdfs

hadoop - 无法在 Mahout 中实例化类型 Cluster、KMean 聚类示例

您好,我试图在Mahout中运行KmeanClusteringExample,但遇到了示例代码中的错误。我在下面的代码片段中遇到错误集群cluster=newCluster(vec,i,newEuclideanDistanceMeasure());报错CannotinstantiatetheTypeCluster(这是一个接口(interface),我的理解)。我想在我的样本数据集上运行kmeans,任何人都可以指导我吗?我在我的EClipseIDE中包含了以下Jarmahout-math-0.7-cdh4.3.0.jarhadoop-common-2.0.0-cdh4.2.1.jar

hadoop - HbaseTestingUtility : could not start my mini-cluster

我正在尝试使用HbaseTestingUtility测试我的Hbase代码。每次我使用下面的代码片段启动我的迷你集群时,我都会遇到异常。publicvoidstartCluster(){FileworkingDirectory=newFile("./");Configurationconf=newConfiguration();System.setProperty("test.build.data",workingDirectory.getAbsolutePath());conf.set("test.build.data",newFile(workingDirectory,"zooke