我是hadoop的新手，而且我手头有一个问题。有没有办法比较HDFS中两个文件之间的时间戳？非常感谢任何帮助。 最佳答案 使用FileSystem.getFileStatus(Path)获取FileStatus的方法返回对象，可以通过FileStaus.getModifiedTime()获取文件的修改时间方法FileSystemfs=FileSystem.get(conf);longts1=fs.getFileStatus(newPath("/path/to/file1")).getModifiedTime();longts2=fs

我们正在从一个看起来像这样的文件中读入。100363002100341895100355361100355643我们需要做两件事:1-按右列排序2-去掉前3个结果所以它看起来像这样:100341895100355643100363002我该怎么做？ 最佳答案 1)为了获得前3个结果，最好在Mapper中将所有值写在一个键下:context.write(NullWritable.get(),value);在Reducer中，您只能获取前三个结果并跳过其他结果。2)现在你所要做的，它的排序值，请搜索“Hadoopsecondarysor

我试图找出在简单的hadoopwordcount示例中哪些步骤花费了多少时间。在此示例中，使用了3个映射和1个reducer，每个映射生成约7MB的随机数据。我有一个通过1Gb交换机连接的集群。当我查看作业详细信息时，意识到在所有maptask完成后改组需要大约7秒，这比传输这么小的数据的预期要多。这背后的原因可能是什么？谢谢 最佳答案 Hadoop使用心跳与节点通信。默认情况下，hadoop使用最小心跳间隔等于3秒。因此，hadoop会在两次心跳(大约6秒)内完成您的任务。更多详情:https://issues.apache.or

要传输文件到数据节点，hadoop使用什么协议(protocol)？SSHorhttporhttps 最佳答案 我想TCP就是您想要的答案。服务器是DataXceiverServer客户是DFSClient.基本上，他们使用JavaSocketAPI。 关于hadoop-数据节点中的文件传输-hadoop，我们在StackOverflow上找到一个类似的问题： https://stackoverflow.com/questions/19899083/

我已经配置了Hadoop集群。我有两台机器MA和MB当我使用以下代码运行mapreduce程序时hadoopjar/HDP/hadoop-1.2.0.1.3.0.0-0380/contrib/streaming/hadoop-streaming-1.2.0.1.3.0.0-0380.jar-mapper"pythonC:\Python33\mapper.py"-reducer"pythonC:\Python33\redu.py"-input"/user/XXXX/input/input.txt"-output"/user/XXXX/output/out20131112_09"where

当尝试在hadoop中格式化我的namenode时，运行此命令$HADOOP_HOME/bin/hdfsnamenode-format后出现以下异常。2013-11-1213:49:48,580FATALnamenode.NameNode(NameNode.java:main(808))-Exceptioninnamenodejoinjava.io.IOException:Cannotcreatedirectory/test/dfs/name/current此问题的修复，如thislink所示和thislink,是用sudo运行命令。我在这台机器上没有root权限，也无法访问root。

我正在寻找hadoop集群的系统测试框架。受支持的用例应包括HDFS的系统测试、mapreduce作业和hive查询。我从apache中找到了一个名为herriot的,但我不确定它是否仍在维护中。你们知道任何现有框架吗？ 最佳答案 看看1和2用于对集群进行基准测试。它有测试的代码和数据。将它们自动化应该不是什么难事。 关于hadoop-hadoop集群的系统测试自动化框架，我们在StackOverflow上找到一个类似的问题： https://stackove

我想创建一个由三个Hadoop作业组成的链，其中一个作业的输出作为输入提供给第二个作业，依此类推。我想在不使用Oozie的情况下执行此操作。我已经编写了以下代码来实现它:-publicclassTfIdf{publicstaticvoidmain(Stringargs[])throwsIOException,InterruptedException,ClassNotFoundException{TfIdftfIdf=newTfIdf();tfIdf.runWordCount();tfIdf.runDocWordCount();tfIdf.TFIDFComputation();}publ

假设HDFS的复制因子是3，那么对于一个map任务，有三个节点保存它的输入数据。map任务是从所有3个节点并行读取还是随机选择其中一个？我做了一些实验，我将其中一个数据节点设置为具有非常低的带宽并获得一些非常慢的maptask，所以我猜maptask不会并行读取所有可用的数据节点，我是对的？感谢您的帮助! 最佳答案 如果您的复制因子是3，则集群中有三个节点保存特定映射任务的输入数据。JobTracker只会将map任务分配给这三个节点中的一个，因此它只会从该节点读取数据。Hadoop具有称为推测执行的功能。在推测执行中，如果JobT

如果我的数据集包含这样的行199.72.81.55--[01/Jul/1995:00:00:01-0400]"GET/history/apollo/HTTP/1.0"2006245并且我正在使用hadoop运行mapreduce作业，如何获取每行中的最后一个元素？我已经尝试了所有明显的答案，例如StringlastWord=test.substring(test.lastIndexOf("")+1);但这给了我-性格。我试过根据空格拆分它，并获取最后一个元素，但最后一个字符仍然是-。难道我不指望数据会一行一行的传送给我吗？换句话说，我难道不能期望abcd\nefgh\n形式的文件逐行传