草庐IT

Find_all

全部标签

hadoop - NameNode 不以 start-all.sh 开头

在stop-all.sh和start-all.sh之后,NameNode没有启动。我尝试hadoopnamenode-format和hadoop-daemon.sh启动namenode然后一切正常。但是我的数据在HDFS中丢失了。我不想丢失数据。这样的结果,hadoopnamenode-format命令不是我想解决的路径。如何使用start-all.sh启动NameNode?谢谢 最佳答案 首先,stop-all.sh和start-all.sh已弃用。使用start-dfs.sh和start-yarn.sh而不是start-all.

hadoop - pig 脚本 : Find sum of items in a group

这是我要运行的行counts=FOREACHz{sum=SUM(B::counter);GENERATEgroupasA::month,sum;};但是我收到以下错误:Invalidfieldprojection.Projectedfield[B::counter]doesnotexistinschema:group:chararray,y:bag{:tuple(A::id:chararray,A::month:chararray,B::counter:int)}.如何对这样一个包含基于一列分组的元组包的模式进行求和聚合? 最佳答案

hadoop - Spark on Yarn 作业失败,退出代码为 :1 and stderr says "Can' t find main class"

我们尝试将一个简单的SparkPI示例提交到SparkonYarn。bat写法如下:./bin/spark-submit--classorg.apache.spark.examples.SparkPi--masteryarn-cluster--num-executors3--driver-memory4g--executor-memory1g--executor-cores1.\examples\target\spark-examples_2.10-1.4.0.jar10pause我们的HDFS和Yarn运行良好。我们正在使用Hadoop2.7.0和Spark1.4.1。我们只有1个节

hadoop - Apache pig -错误 2229 : Couldn't find matching uid -1 for project

运行Pig脚本时出现以下异常。ERROR2229:Couldn'tfindmatchinguid-1forproject(Name:ProjectType:bytearrayUid:-1Input:0Column:12)org.apache.pig.impl.logicalLayer.FrontendException:ERROR2000:ErrorprocessingruleColumnMapKeyPrune.Try-tColumnMapKeyPruneatorg.apache.pig.newplan.optimizer.PlanOptimizer.optimize(PlanOpti

hadoop - 无法在 MESOS 框架 : Could not find or load main class org. apache.mesos.hdfs.scheduler.Main 上运行 HDFS

我尝试按照https://github.com/mesosphere/hdfs中提到的步骤进行操作.当我运行./bin/hdfs-mesos时,出现以下错误:Error:Couldnotfindorloadmainclassorg.apache.mesos.hdfs.scheduler.Main有谁知道我该如何解决这个错误? 最佳答案 为了运行mesos-hdfs,需要构建它。githubrepo仅包含源相同标记的版本。按照以下步骤操作:gitclonegit@github.com:mesosphere/hdfs.gitcdhdfs

sql-server - Sqoop import-all-tables 命令的问题

我正在尝试使用Sqoop将多个SQLServer数据库中的所有表导入HDFS。我正在使用ClouderaCDH5.7。所以我输入以下命令:sqoopimport-all-tables--connect"jdbc:sqlserver://X.X.X.X:1433;database=FEPDB"--usernameXXXXX--passwordXXXXX--hive-import它运行成功,但“FEPDB”数据库中的所有表都没有被导入。我没有在HDFS的配置单元目录中找到它们,也没有在列出Hive中存在的所有表时找到它们。所以我尝试将所有表导入HDFS中的一个目录,然后创建hive表。我给

java - Spark saveAsNewAPIHadoopFile java.io.IOException : Could not find a serializer for the Value class

我正在尝试将java对RDD存储为Hadoop序列文件,如下所示:JavaPairRDDputRdd=...config.set("io.serializations","org.apache.hadoop.io.serializer.JavaSerialization,org.apache.hadoop.io.serializer.WritableSerialization");putRdd.saveAsNewAPIHadoopFile(outputPath,ImmutableBytesWritable.class,Put.class,SequenceFileOutputFormat

java - 在 Hadoop 上运行 MapReduce 字数统计会给出异常消息 : The system cannot find the path specified

这是我的第一个StackOverflow问题。我已经在伪分布式模式下设置了我的hadoop(2.9.2)单节点集群。当我尝试运行hadoopjarC:/MapReduceClient.jarwordcount/input_dir/output_dir时,我得到以下错误日志19/01/1620:19:17INFOclient.RMProxy:ConnectingtoResourceManagerat/0.0.0.0:803219/01/1620:19:18INFOinput.FileInputFormat:Totalinputfilestoprocess:119/01/1620:19:1

java - pig 错误 : Could not find or load main class org. apache.pig.Main

我是PIG的初学者。我按照WIKI编写了一个程序,将文件中的单词转换为大写。--catUPPER.javapackagecom.bigdata.myUdf;importjava.io.IOException;importorg.apache.pig.EvalFunc;importorg.apache.pig.data.Tuple;importorg.apache.pig.impl.util.WrappedIOException;publicclassUPPERextendsEvalFunc{publicStringexec(Tupleinput)throwsIOException{if

java - Hadoop 上的错误 : Could not find or load main class org. apache.hadoop.hdfs.tools.GetConf

Error:Couldnotfindorloadmainclassorg.apache.hadoop.hdfs.tools.GetConf在[]上启动名称节点localhost:启动namenode,记录到/usr/local/hadoop/hadoop-2.6.0/logs/hadoop-ingreens-namenode-ingreens-desktop.outlocalhost:启动datanode,记录到/usr/local/hadoop/hadoop-2.6.0/logs/hadoop-ingreens-datanode-ingreens-desktop.out错误:无法找到