草庐IT

output-directory

全部标签

hadoop fs -ls “no such file or directory”

如果我写命令:[hdfs@nnode~]$hadoopfs-ls我收到消息:ls:`.':Nosuchfileordirectory我知道hadoopfs-ls默认情况下会查找文件夹/home/hdfs,所以我使用它创建了它hadoopfs-mkdir/home然后hadoopfs-mkdir/home/hdfs但是我仍然收到消息:ls:`.':Nosuchfileordirectory 最佳答案 其实是/user/hdfs,不是/home尝试hadoopfs-mkdir-p/user/hdfs

java - Hadoop-级联: Partial directory source tap

我的数据结构如下:+data|-2014080700_00.txt|-2014080700_01.txt|-2014080701_00.txt|-...|-2014080723_00.txt|-2014080800_00.txt|-...|-2014090800_00.txt我知道我可以通过Tap使用数据目录中的所有文件,如下所示:TapinTap=newHfs(newTextLine(),"/path/to/data");但我想要目录的特定部分,例如日期为20140807的文件。因此它将包括所有前缀为20140807的文件。有没有办法用级联来做到这一点?或者有什么方法可以烫一下吗?

hadoop - Hive INSERT OVERWRITE 到 Google Storage 作为 LOCAL DIRECTORY 不起作用

我使用以下Hive查询:hive>INSERTOVERWRITELOCALDIRECTORY"gs://Google/Storage/Directory/Path/Name"rowformatdelimitedfieldsterminatedby','select*from.;我收到以下错误:"Error:FailedwithexceptionWrongFS:"gs://Google/Storage/Directory/PathName",expected:file:///我做错了什么? 最佳答案 从语法中删除Local。参见下面的

hadoop - org.apache.hadoop.fs.ParentNotDirectoryException :/tmp (is not a directory)

我是Hadoop新手,正在运行wordCount2示例。但是我遇到了以下错误Exceptioninthread"main"org.apache.hadoop.fs.ParentNotDirectoryException:/tmp(isnotadirectory)atorg.apache.hadoop.hdfs.server.namenode.FSPermissionChecker.checkIsDirectory(FSPermissionChecker.java:570)atorg.apache.hadoop.hdfs.server.namenode.FSPermissionCheck

Hadoop MapReduce 错误-/bin/bash :/bin/java: is a directory

我正在尝试在macOS10.12上运行一个基本的MapReduce程序,该程序从天气数据的日志文件中检索最高温度。运行作业时,我收到以下堆栈跟踪:Stacktrace:ExitCodeExceptionexitCode=126:atorg.apache.hadoop.util.Shell.runCommand(Shell.java:582)atorg.apache.hadoop.util.Shell.run(Shell.java:479)atorg.apache.hadoop.util.Shell$ShellCommandExecutor.execute(Shell.java:773)

apache - 哈多普 : supporting multiple outputs for Map Reduce jobs

似乎Hadoop(reference)支持它,但我不知道如何使用它。我想:a.)Map-ReadahugeXMLfileandloadtherelevantdataandpassontoreduceb.)Reduce-writetwo.sqlfilesfordifferenttables为什么我选择map/reduce是因为我必须对驻留在磁盘上的超过100k(可能更多)xml文件执行此操作。欢迎大家提出更好的建议感谢任何解释如何使用它的资源/教程。我正在使用Python并且想学习如何使用streaming实现这一点谢谢 最佳答案 这

windows - mapred.JobClient : Error reading task output http:. .. 在 Windows 操作系统上从 Cygwin 运行 hadoop 时

我在Windows上运行来自Cygwin的“MahoutinAction”一书中的“从文档生成向量”样本。Hadoop仅在本地计算机上启动。下面是我的运行命令:$bin/mahoutseq2sparse-ireuters-seqfiles/-oreuters-vectors-ow但是下面显示java.io.IOException,有谁知道这个问题是什么原因造成的?提前致谢!Runningonhadoop,usingHADOOP_HOME=my_hadoop_pathHADOOP_CONF_DIR=my_hadoop_conf_path13/05/1318:38:03WARNdriver

java - Hadoop 文本输出格式 : add headers to CSV output

我正在维护一个简单的hadoop作业,该作业生成CSV文件作为HDFS中的输出。该作业使用TextOutputFormat。我想将前导标题行添加到csv文件(我知道零件文件是由不同的worker创建的,如果他们每个人都获得标题,那不是问题)。如何实现?编辑:级联可以help但乍一看我不想开始使用新框架编辑:所以我想为输出的CSV文件添加标题。列数是确定性的。这是我的Reducer类的骨架:importjava.io.IOException;importorg.apache.hadoop.io.IntWritable;importorg.apache.hadoop.io.Text;imp

java - MapReduce 作业 : weird output?

我正在编写我的第一个MapReduce作业。事情很简单:只计算文件中的字母数字字符。我已经完成生成我的jar文件并运行它,但除了调试输出之外,我找不到MR作业的输出。你能帮帮我吗?我的应用类:importCharacterCountMapper;importCharacterCountReducer;importorg.apache.hadoop.conf.Configuration;importorg.apache.hadoop.conf.Configured;importorg.apache.hadoop.fs.Path;importorg.apache.hadoop.io.Int

hadoop - fuse 挂载后返回 No such file or directory 错误

我正在运行CDH5。作为root,我正在尝试挂载以下挂载点。[root@localhost]#ll-d/exportdrwxr-xr-x2rootroot4096Feb2108:53/exportmount后出现如下错误。[root@localhost]#hadoop-fuse-dfsdfs://localhost:8020/exportINFO/data/jenkins/workspace/generic-package-rhel64-6-0/topdir/BUILD/hadoop-2.5.0-cdh5.3.1/hadoop-hdfs-project/hadoop-hdfs/src/