草庐IT

file_example

全部标签

file - '无法从空字符串创建路径',使用 csv 的 hadoop -put 命令

我正在尝试将基本的csv文件拉入hdfs我正在使用这个:hadoopfs-putC:\Users\Desktop\Terrorism.csv/user/Mydata/terrorism.csv它给我以下错误:CannotcreateaPathfromanullstring我可以通过创建一个配置单元表并将数据加载到该表中来解决问题,但我只想将数据放到hdfs上。 最佳答案 在路径上使用转义,因为它是Windows并且使用反斜杠:)hadoopfs-copyFromLocalC:\\Users\\Desktop\\Terrorism.c

hadoop 2.7.3 HDFS Namenode -format No Such FIle or Directory 错误

我正在尝试使用this在Lubuntu机器上安装Hadoop2.7.3|教程。我正处于使用namenode-format命令格式化HDFS的时间点。每当我这样做时,我都会收到此错误:HadoopBot@hadoopmaster-MS-7756:~/Hadoop/hadoop/bin$/home/HadoopBot/Hadoop/hadoop/bin/hdfsnamenode-format/home/HadoopBot/Hadoop/hadoop/bin/hdfs:line304:/home/HadoopBot/Hadoop/hadoop/bin/$/usr/lib/jvm/java-8

scala - HDFS : java. io.FileNotFoundException : File does not exist: name. _COPYING

我正在使用Scala处理SparkStreaming。我需要使用此行从HDFS目录动态读取.csv文件:vallines=ssc.textFileStream("/user/root/")我使用以下命令行将文件放入HDFS:hdfsdfs-put./head40k.csv它适用于相对较小的文件。当我尝试使用更大的一个时,出现此错误:org.apache.hadoop.ipc.RemoteException(java.io.FileNotFoundException):Filedoesnotexist:/user/root/head800k.csv._COPYING我能理解为什么,但我不

file - 如何将文件(PDF)传输到 Hadoop 文件系统

我有Hortonworks系统,想将文件从文件系统复制到Hadoop。最好的方法是什么? 最佳答案 尝试:hadoopfs-put/your/local/file.pdf/your/hdfs/location或hadoopfs-copyFromLocal/your/local/file.pdf/your/hdfs/location引用putcommand 关于file-如何将文件(PDF)传输到Hadoop文件系统,我们在StackOverflow上找到一个类似的问题:

hadoop - 使用 jar 命令执行 WordCount 程序时 hadoop 中出现 "No such file or directory"

我是Hadoop的新手,正在尝试执行WordCount问题。到目前为止我所做的事情-引用以下链接设置Hadoop单节点集群。http://www.bogotobogo.com/Hadoop/BigData_hadoop_Install_on_ubuntu_single_node_cluster.php引用下面的链接写出字数统计问题https://kishorer.in/2014/10/22/running-a-wordcount-mapreduce-example-in-hadoop-2-4-1-single-node-cluster-in-ubuntu-14-04-64-bit/问题

hadoop - Apache pig 错误 org.apache.pig.backend.hadoop.executionengine.Launcher - 错误 : org. apache.avro.file.DataFileWriter$AppendWriteException:

我正在尝试加载一些数据,按特定字段过滤并将输出存储到HDFS。我的代码如下所示:data=LOAD'$inputPath'usingAvroStorage();data=FILTERdatabycondition;STOREdataINTO'$outputPath'usingAvroStorage('schema','$SCHEMA');但我收到一条错误消息:ERRORorg.apache.pig.backend.hadoop.executionengine.Launcher-Error:org.apache.avro.file.DataFileWriter$AppendWriteEx

Hadoop 流式处理使用 shell 脚本 : reducer fails with error : No such file or directory

我正在使用一个10节点HDP集群,我试图在Bash上使用shell脚本运行一个简单的WordCount作业。下面是我正在使用的命令行参数。yarnjar/usr/hdp/2.6.5.0-292/hadoop-mapreduce/hadoop-streaming-2.7.3.2.6.5.0-292.jar\-mapper'wc-l'\-reducer'./reducer_wordcount.sh'\-file/home/pathirippilly/map_reduce_jobs/shell_scripts/reducer_wordcount.sh\-numReduceTasks1\-in

Hadoop :Approach to load Local xml files from Share location to Hive

我的要求是将不同来源收集到网络共享文件夹中的XML文件加载到Hive中。我需要确认要遵循的方法。根据我的理解,我必须1.首先将所有文件加载到HDFS2.然后使用Mapreduce或sqoop将xml文件转换为所需的表,然后我必须将它们加载到Hive中。如果有更好的方法,请给我建议。 最佳答案 处理和读取XML文件Mahout具有XML输入格式,请参阅下面的博客文章了解更多信息https://github.com/apache/mahout/blob/ad84344e4055b1e6adff5779339a33fa29e1265d/e

java - 打开作业 jar : file in hdfs 时出错

我一直在尝试修复这个问题,但不确定我在这里犯了什么错误!你能帮我解决这个问题吗?非常感谢!我的程序:打包hadoopbook;importjava.io.IOException;importorg.apache.hadoop.conf.Configuration;importorg.apache.hadoop.fs.Path;importorg.apache.hadoop.io.IntWritable;importorg.apache.hadoop.io.LongWritable;importorg.apache.hadoop.io.Text;importorg.apache.hado

file - Hadoop Map Reduce - 读取 HDFS 文件 - FileAlreadyExists 错误

我是Hadoop新手。我正在尝试使用以下代码读取HDFS上的现有文件。配置似乎文件和文件路径也是正确的。-publicstaticclassMapextendsMapper{privatestaticTextf1,f2,hdfsfilepath;privatestaticHashMap>friendsData=newHashMap();publicvoidsetup(Contextcontext)throwsIOException{Configurationconf=context.getConfiguration();Pathpath=newPath("hdfs://cshadoop