草庐IT

all_children

全部标签

hadoop - NameNode 不以 start-all.sh 开头

在stop-all.sh和start-all.sh之后,NameNode没有启动。我尝试hadoopnamenode-format和hadoop-daemon.sh启动namenode然后一切正常。但是我的数据在HDFS中丢失了。我不想丢失数据。这样的结果,hadoopnamenode-format命令不是我想解决的路径。如何使用start-all.sh启动NameNode?谢谢 最佳答案 首先,stop-all.sh和start-all.sh已弃用。使用start-dfs.sh和start-yarn.sh而不是start-all.

sql-server - Sqoop import-all-tables 命令的问题

我正在尝试使用Sqoop将多个SQLServer数据库中的所有表导入HDFS。我正在使用ClouderaCDH5.7。所以我输入以下命令:sqoopimport-all-tables--connect"jdbc:sqlserver://X.X.X.X:1433;database=FEPDB"--usernameXXXXX--passwordXXXXX--hive-import它运行成功,但“FEPDB”数据库中的所有表都没有被导入。我没有在HDFS的配置单元目录中找到它们,也没有在列出Hive中存在的所有表时找到它们。所以我尝试将所有表导入HDFS中的一个目录,然后创建hive表。我给

hadoop - Spark : Spark not using the all the executors configured

我们正在运行一个spark流应用程序,它有批处理排队..但它没有使用为其配置的所有执行程序..它被配置为使用24个执行器,但实际上它只使用了16并且批处理正在排队我们怎样才能让它使用所有24个执行器而不让它排队批处理 最佳答案 it'sconfiguredtouse24executorsbutactuallyit'sonlyusing16您的作业期望分配给它24个容器/执行器,但它只收到16个。这可能是由于以下原因:集群未配置为提供预期数量的资源资源可以是由底层集群管理器(yarn/mesos)配置的内存或vcores。您可以通过检

hadoop 3.1.2 ./start-all.sh 错误,意外标记附近的语法错误 `<'

我在mac上运行hadoop3.1.2,当执行./start-all.sh时,出现错误提示Startingnamenodeson[localhost]/usr/local/Cellar/hadoop/3.1.2/libexec/bin/../libexec/hadoop-functions.sh:line398:syntaxerrornearunexpectedtoken`我打开hadoop-functions.sh并在第398行找到以下信息:done知道如何解决这个问题吗? 最佳答案 您发现了一个错误,但它不太可能很快得到解决。M

ubuntu - java.io.IOException : All directories in dfs. datanode.data.dir 无效

我试图让hadoop和hive在我的linux系统上本地运行,但是当我运行jps时,我注意到数据节点服务丢失了:vaughn@vaughn-notebook:/usr/local/hadoop$jps2209NameNode2682ResourceManager3084Jps2510SecondaryNameNode如果我运行bin/hadoopdatanode,会出现以下错误:17/07/1319:40:14INFOdatanode.DataNode:registeredUNIXsignalhandlersfor[TERM,HUP,INT]17/07/1319:40:14WARNut

hadoop - Hive UNION ALL 上的订单

假设我有两个包含以下数据的表:A1|c1|c2||a|b|A2|c1|c2||c|d|我想运行一个选择返回两个表的数据,A1数据在A2数据之上:A1UA2|c1|c2||a|b||c|d|所以在Hive上我可以做类似的事情:SELECT*FROMA1UNIONALLSELECT*FROMA2但这不会产生正确的结果。我如何执行UNIONALL发生的命令?还是产生此输出的另一种解决方案? 最佳答案 在您的配置单元输出中有一个额外的列会扰乱您的工作流程吗?如果没有,您可以使用:selectsort_char,c1,c2from(selec

Hadoop 异常 : All specified directories are failed to load

当我启动Hadoop集群时,抛出了以下异常。我没有解决它的想法。任何人帮助我。谢谢2017-07-1009:40:58,960WARNorg.apache.hadoop.hdfs.server.common.Storage:java.io.IOException:IncompatibleclusterIDsin/tools/hadoop/hadoop_storage/hdfs/datanode:namenodeclusterID=CID-47191263-b5b7-4a4d-b8b5-a78b782e66bb;datanodeclusterID=CID-79a53373-9652-4c

bash - 无法在 Cloudera VM for Hadoop 上找到并执行 start-all.sh 和 Stop-all.sh

如何从命令行CDH4--启动/停止服务。我是Hadoop的新手。从Cloudera安装的VM。找不到start-all.sh和stop-all.sh。如果需要,如何停止或启动任务跟踪器或数据节点。这是我在Centos上使用的单节点集群。我没有做任何修改。除此之外,我还看到所有版本的目录结构都发生了变化。我无法在安装的VM上找到这些sh​​文件。[cloudera@localhost~]$stop-all.shbash:stop-all.sh:commandnotfound非常感谢您的支持。 最佳答案 使用Sudosuhdfs启动和停

hadoop - start-all.sh 无法在从属节点上运行进程

我正在尝试在我的笔记本电脑上配置一个主从的多节点集群。当我从master运行start-all.sh时,所有守护进程都在主节点上运行,但Datanode和tasktracker没有在从节点上启动。启用了无密码ssh,我可以在没有pwd的情况下从我的主节点为主节点和从节点执行ssh,但是如果我尝试从从节点执行ssh主节点,它会要求输入密码。这是在从节点中不启动守护进程的问题吗?我们是否需要在主站和从站上使用无密码ssh?从属节点的sshslave不要求pwd只要求master它要求。请给我一些解决方案,为什么我无法从主节点启动从节点中的进程? 最佳答案

单节点 vagrant VM 上的 Hadoop - 启动 start-all.sh 时连接被拒绝

我创建了一个vagrant虚拟机并在上面安装了hadoop。只有一个服务器集群。但是当我尝试在机器上启动我的hadoop时,出现以下错误:mkdir:从master/127.0.1.1到localhost:9000的调用在连接异常时失败:java.net.ConnectException:连接被拒绝;有关详细信息,请参阅:http://wiki.apache.org/hadoop/ConnectionRefused还有想法?该机器被命名为master。服务器是Ubuntu。谢谢! 最佳答案 这是因为hdfs节点没有运行goto,cd