我是hadoop框架的新手，目前我正在处理大数据项目，在Windows7中使用cygwin、hadoop-0.19.1、eclipse-3.3.1(Europa)。现在我正在尝试从hadoop-0.19进行更改.1到hadoop-1.2.1version.i如下配置hadoop-1.2.1核心站点.xml:fs.default.namehdfs://localhost:9100hdfs.xmldfs.replication1mapred-site.xmlmapred.job.trackerlocalhost:9101但是我在启动数据节点时出错，如下所示$bin/hadoopdatano
我已经编写了一个MR作业，并使用以下配置设置在本地模式下运行它mapred.local.dir=>fs.default.name=file:///mapred.job.tracker=local在Hadoop1.x上现在我正在使用Hadoop2.x和我正在使用相同配置设置运行的相同作业，但我收到错误:DiskOutofSpace是不是如果我从Hadoop1.x切换到2.x(使用Hadoop-2.6jar)，更改Tmp目录的相同配置设置不起作用？？在Hadoop2.6上配置MR1(mapredAPI)的“tmp”目录的新设置是什么。请多多指教。问候干杯:))
我正在使用Ubuntu12.04LTS在4节点集群上安装CDH4。我能够安装cloudera管理器并在主机上启动单节点集群。但是，一旦我添加了一个新主机，CM就会说它运行状况不佳并抛出以下错误:“从Java进程检查时，此主机的主机名和规范名称不一致。”我修改了master和所有主机上的/etc/hosts的内容，以包含IP地址，后跟每台机器的FQDN。我是否还需要设置一个DNS服务器才能完成这项工作？ 最佳答案 您不一定需要设置DNS服务器才能使其正常工作，但正向和反向DNS必须明确匹配Hadoop才能正常运行。Hadoop操作书有
我正在运行单节点。NameNode总是在启动集群时开始失败。我收到以下错误。2013-06-2910:37:29,968FATALorg.apache.hadoop.hdfs.server.namenode.NameNode:Exceptioninnamenodejoinorg.apache.hadoop.hdfs.server.common.InconsistentFSStateException:Directory/tmp/hadoop/dfs/nameisinaninconsistentstate:storagedirectorydoesnotexistorisnotaccess
我们有一个用于处理原始日志文件数据的外部Hive表。这些文件按小时计算，并按日期和源主机名分区。目前，我们正在使用每小时触发几次的简单python脚本导入文件。该脚本根据需要在HDFS上创建子文件夹，从临时本地存储复制新文件并将任何新分区添加到Hive。今天，使用“ALTERTABLE...ADDPARTITION...”创建新分区。但是，如果另一个Hive查询正在该表上运行，它将被锁定，这意味着添加分区命令将失败(如果查询运行时间足够长)，因为它需要独占锁。此方法的替代方法是使用“MSCKREPAIRTABLE”，出于某种原因，它不似乎在表上获取任何锁。但是，我的印象是不建议在生产环
Hive可以配置为hive.exec.scratchdir=/user/${user.name}/tmp/hive我可以用Pig做类似的事情吗？我已尝试修改pig.properties文件，但似乎没有任何效果。pig.temp.dir=/user/${user.name}/tmp/pig我可以用别名替换pig命令，但我希望将更改写入配置文件。pig-Dpig.temp.dir=/user/`whoami`/tmp/pig谢谢!更新:我们决定将/tmp/用于生产系统。这是一个问题的原因是因为我们正在运行MapR，它似乎试图将临时目录放入用户目录，并在Hive上成功，但在Pig上却没有。
所以，我让hdfs和hive一起工作。我还有用于Hive运行的jdbc驱动程序，以便我可以进行远程jdbc调用。现在，我添加了一个Hive用户定义函数(UDF)。它在CLI中运行良好……我什至通过.hiverc文件自动加载jar和相关函数。但是，我无法使用配置单元jdbc驱动程序让它工作。我以为它也会使用.hiverc文件(默认情况下，位于/usr/lib/hive/bin/)，但它似乎不起作用。我还尝试通过“添加jar”SQL命令添加它作为第一件事，但无论我将jar文件放在哪里，我都会在hive.log中收到错误消息，指出找不到该文件。有人知道怎么做吗？我正在使用ClouderaDi
我们开始通过向Kafka主题发布消息来整合应用程序的事件日志数据。虽然我们可以直接从应用程序写入Kafka，但我们选择将其视为一般问题并使用Flume代理。这提供了一些灵active:如果我们想从服务器捕获其他内容，我们可以拖尾不同的来源并发布到不同的Kafka主题。我们创建了一个Flume代理配置文件来跟踪日志并发布到Kafka主题:tier1.sources=source1tier1.channels=channel1tier1.sinks=sink1tier1.sources.source1.type=exectier1.sources.source1.command=tail-
当我在3节点集群hadoop中运行简单的wordcount示例时，出现以下错误。我检查了必要文件夹的所有写/读权限。此错误不会停止mapreduce作业，但所有工作负载都转到集群中的一台机器上，其他两台机器在任务到达时给出与上述相同的错误。12/09/1309:38:37INFOmapred.JobClient:TaskId:attempt_201209121718_0006_m_000008_0,Status:FAILEDjava.lang.Throwable:ChildErroratorg.apache.hadoop.mapred.TaskRunner.run(TaskRunner
Hadoop有配置参数hadoop.tmp.dir，根据文档，它是`“其他临时目录的基础。”我想，这个路径指的是本地文件系统。我将此值设置为/mnt/hadoop-tmp/hadoop-${user.name}。格式化名称节点并启动所有服务后，我看到在HDFS上创建的路径完全相同。这是否意味着hadoop.tmp.dir指的是HDFS上的临时位置？ 最佳答案 这很令人困惑，但是hadoop.tmp.dir被用作本地临时目录的基础，在HDFS中也是如此。该文档不是很好，但是mapred.system.dir默认设置为"${hadoop
