草庐IT

working-directory

全部标签

java - 复制自本地 : `/user/hduser/input' : No such file or directory

我试图从这个website开始做WordCount教程但遇到了一些问题,我遵循了这个thread中的解决方案.一切都很好,直到我尝试执行产生此错误的hadoopfs-copyFromLocal/user/hduser/inputcopyFromLocal:`/user/hduser/input':Nosuchfileordirectory我试图通过执行hadoopfs-mkdir/user/hduser/input来双重确认是否存在这样的文件,它说mkdir:/user/hduser/输入':文件存在`所以我对哪里出了问题有点困惑。我只想能够执行copyFromLocal函数。When

hadoop 2.7.3 HDFS Namenode -format No Such FIle or Directory 错误

我正在尝试使用this在Lubuntu机器上安装Hadoop2.7.3|教程。我正处于使用namenode-format命令格式化HDFS的时间点。每当我这样做时,我都会收到此错误:HadoopBot@hadoopmaster-MS-7756:~/Hadoop/hadoop/bin$/home/HadoopBot/Hadoop/hadoop/bin/hdfsnamenode-format/home/HadoopBot/Hadoop/hadoop/bin/hdfs:line304:/home/HadoopBot/Hadoop/hadoop/bin/$/usr/lib/jvm/java-8

hadoop - 使用 jar 命令执行 WordCount 程序时 hadoop 中出现 "No such file or directory"

我是Hadoop的新手,正在尝试执行WordCount问题。到目前为止我所做的事情-引用以下链接设置Hadoop单节点集群。http://www.bogotobogo.com/Hadoop/BigData_hadoop_Install_on_ubuntu_single_node_cluster.php引用下面的链接写出字数统计问题https://kishorer.in/2014/10/22/running-a-wordcount-mapreduce-example-in-hadoop-2-4-1-single-node-cluster-in-ubuntu-14-04-64-bit/问题

hadoop - HTTP ://localhost:9870 does not work HADOOP

本人初学hadoop,使用的是最新版ubuntu,浏览localhost:9870时出现错误,浏览器提示页面不存在 最佳答案 首先,您需要通过输入以下命令检查Hadoop守护进程是否正在运行:jps。这里我的namenode也配置为datanode。其次,通过输入命令检查NamenodeJava进程是否在9870端口运行。netstat-an|grep9870第三,查看hdfs-site.xml中的dfs.namenode.http-address属性最后,确保你已经关闭了防火墙 关于h

Hadoop 流式处理使用 shell 脚本 : reducer fails with error : No such file or directory

我正在使用一个10节点HDP集群,我试图在Bash上使用shell脚本运行一个简单的WordCount作业。下面是我正在使用的命令行参数。yarnjar/usr/hdp/2.6.5.0-292/hadoop-mapreduce/hadoop-streaming-2.7.3.2.6.5.0-292.jar\-mapper'wc-l'\-reducer'./reducer_wordcount.sh'\-file/home/pathirippilly/map_reduce_jobs/shell_scripts/reducer_wordcount.sh\-numReduceTasks1\-in

java - 安装 "cannot execute not a directory"时出现 Hadoop 错误

出于某些研究目的,我正在尝试在我的本地系统中安装Hadoop2.6.0,但是当我完成我的配置和java安装时,安装停止了。执行命令时遇到错误"hdfsnamenode-format"我得到的错误信息如下"usr/local/hadoop/bin/hdfs:line276:/usr/lib/jvm/java-7-oracle/jre/bin/java/bin/java:Notadirectory/usr/local/hadoop/bin/hdfs:line276:exec:/usr/lib/jvm/java-7-oracle/jre/bin/java/bin/java:cannotexe

hadoop - 配置单元 : The application won't work without a running HiveServer2

我是这个领域的新手。我正在检查CDH5.8快速启动VM以尝试一些基本的hive/impala示例。但是我遇到了一个问题,当我打开HUE时出现以下错误。我搜索了解决方案,但没有找到任何可以解决我的问题的方法。Configurationfileslocatedin/etc/hue/conf.emptyPotentialmisconfigurationdetected.FixandrestartHue.HiveTheapplicationwon'tworkwithoutarunningHiveServer2.我检查过,它已启动并正在运行。尝试重新启动服务和CDH,没有帮助。HiveServe

linux - 克服 HDFS-2556 : unit tests directory and permissions

我正在尝试在hadoop上进行JUnit测试,我使用MiniDFSCluster、MiniMRCluster和JUnit编写了一个在本地mini-hadoop环境中运行的测试用例。但是我收到了这个错误:WARNING:Metricssystemnotstarted:Cannotlocateconfiguration:triedhadoop-metrics2-datanode.properties,hadoop-metrics2.propertiesDec18,20124:42:29PMorg.apache.hadoop.hdfs.server.datanode.DataNodemake

hadoop - 无效的作业 session 异常 : Output directory not set

我正在使用ClouderaVM进行mapreduce实践。我刚刚从cloudera提供的默认wordcount类创建了jar。我在运行mapreduce程序时遇到此错误。我能知道我错过了什么吗?InvalidJobConfException:Outputdirectorynotset.Exceptioninthread"main"org.apache.hadoop.mapred.InvalidJobConfException:Outputdirectorynotset. 最佳答案 要使用MapReduce程序处理数据,您需要-映射器

python - pig 脚本 : STORE command not working

这是我第一次在StackOverflow上发帖,我希望有人能提供帮助。我对Pig脚本还很陌生,遇到了一个我无法解决的问题。下面是一个pig脚本,当我尝试将结果写入文件时失败了:register'myudf.py'usingjythonasmyfuncs;A=LOAD'$file_nm'USINGPigStorage('$delimiter')AS($fields);B=FILTERAby($field_nm)ISNOTNULL;C=FOREACHBGENERATE($field_nm)asfld;D=GROUPCALL;E=FOREACHDGENERATEmyfuncs.theResu