在linux中，您可以使用touch来更改文件的时间戳。但是，当文件已经存在时，HDFStouchz不会更改文件时间戳。是否有一种在不删除文件的情况下更改HDFS时间戳的简单方法？ 最佳答案 您可以使用FileSystem#setTimes方法。 关于hadoop-如何更改HDFS中的文件时间戳？，我们在StackOverflow上找到一个类似的问题： https://stackoverflow.com/questions/11856385/
我有一个很大的文本文件(5GB)，每行一个字符串。我需要使用专有算法将每一行与其他每一行进行比较。我是MapReduce的新手，但有Java经验。给我带来麻烦的问题是创建单独的map输入。文档似乎是在假设每一行都不依赖于任何其他行的情况下编写的。执行此操作的最佳方法是什么？ 最佳答案 这里有一些关于使用Hadoop进行连接的有趣论文:http://www.inf.ed.ac.uk/publications/thesis/online/IM100859.pdfhttp://www.inf.ed.ac.uk/publications/t
我正在通过–Dmapred.cache.archives=hdfs://host:port/path/archive.zip#foldername–D.mapred.create.symlink=yes将存档发送到分布式缓存并在工作目录中创建一个新文件夹并取消存档那里的文件。问题是我需要工作目录中的那些文件并且我已经尝试使用.和./作为文件夹名称以及发送一个空的。除了在我的Java代码中显式移动文件之外，关于如何解决此问题的任何想法？ 最佳答案 将文件放在工作目录中的具体需求是什么(这样我就可以理解并提出一些替代方案)。无论如何，分
我有一个ClouderaHadoop安装，我想编写一个Java程序来从Windows机器的文件系统中读取/写入。这应该是可能的吗？我的程序很简单:publicclassHadoopReader{static{URL.setURLStreamHandlerFactory(newFsUrlStreamHandlerFactory());}publicstaticvoidmain(String[]args)throwsException{System.out.println("okay");InputStreamin=null;try{in=newURL("hdfs://HOST/PATH"
我有一个文件，其中每一行都是一条记录。我希望某个字段中具有相同值的所有记录(如果字段A则调用)转到同一个映射器。我听说这被称为Map-SideJoin，而且我还听说如果文件中的记录按我所说的字段A排序很容易。如果更简单的话，数据可以分布在多个文件中，但每个文件都按字段A排序。这样对吗？我如何在流媒体中做到这一点？我正在使用Python。假设它只是我用来启动Hadoop的命令的一部分？ 最佳答案 只希望将某些记录发送给某些映射器的真正理由是什么？如果您想要的最终结果是3个输出文件(一个全是A，另一个全是B，最后一个全是C)，您可以使用
我正在使用HADOOP-0.22在HDFS上做一些实验。另一方面，为了使我的实验可重复，我需要修复一些随机因素的HDFS种子。具体来说，每次我重新格式化文件系统并导入同一组数据时，我都希望将数据block分配给与上一个实验相同的数据节点并具有相同的名称。我不知道是否有人这样做过。感谢任何回复。 最佳答案 您的Hadoop版本支持可插入block放置策略，您可以根据需要提供更加静态或非随机的block放置策略。参见HDFS-385了解更多技术细节，以及此后该界面的相关演变。 关于hadoo
我完全按照hadoop官网上的步骤操作，但是总是报如下错误:startingnamenode,loggingto/home/videni/Tools/hadoop-1.0.3/libexec/../logs/hadoop-videni-namenode-videni-Latitude-E6400.outcat:/usr/lib/hadoop-0.20.2/conf/slaves:Nosuchfileordirectorycat:/usr/lib/hadoop-0.20.2/conf/masters:Nosuchfileordirectorystartingjobtracker,logg
我目前正在做一个需要数据加密的Hadoop项目(因为数据会存储在S3中)。虽然我主要希望通过Hive访问数据，但能够通过Pig和任何其他MapReduce方法访问它会很好。我知道Hadoop内置了对gzip、snappy等压缩编解码器的支持...是否也支持加密编解码器(特别是GPG)？有没有人写过公开可用的GPGSerDe(或类似的东西)？ 最佳答案 最后我才知道Hadoop没有对加密的任何内部支持。似乎您可以使用GPG代码重载CompressionCodec，alahttp://www.mail-archive.com/commo
我正在尝试编写一个独立的java文件，以在Windows机器中使用HiveJDBC连接到hadoopdb，并从本地csv文件加载表数据。我收到错误“语义分析错误:第1:23行无效路径'd:/Sample2.txt':仅接受"file"或“hdfs”文件系统。我正在尝试的是对还是错？我们可以为hadoopdb从客户端windows机器加载数据吗？ 最佳答案 我认为你需要使用类似的东西:file:d:/Sample2.txt 关于hadoop-Hive从客户端机器加载数据，我们在StackO
我对Hbase和Hadoop很陌生。我对MapReduce概念感到困惑，我想知道MapreduceF/w中的执行流程。我尝试在谷歌上搜索一种方法来从文件中读取数据并使用Put类使用reducer将数据加载到Htable中。我在HDFS中有一个文件，我需要从HbaseMapreducer读取该文件并将数据加载到Htable。谁能告诉我哪里出错了？ 最佳答案 您可以在不使用reducer的情况下使用Mapper。由于可以使用reducer进行排序，你只需要将文件数据直接存储到Hbase中即可。
