草庐IT

hadoop_simple

全部标签

c++ - Hadoop C++,运行wordcount示例时出错

我试图在Hadoop1.0.4和Ubuntu12.04上用C++运行wordcount示例,但出现以下错误:命令:hadooppipes-Dhadoop.pipes.java.recordreader=true-Dhadoop.pipes.java.recordwriter=true-inputbin/input.txt-outputbin/output.txt-programbin/wordcount.错误信息:13/06/1413:50:11WARNmapred.JobClient:Nojobjarfileset.Userclassesmaynotbefound.SeeJobCon

hadoop - 在 hadoop 集群中添加新的数据节点

我设置了3节点集群,运行良好。现在我想再添加一个节点到这个集群。我试过了,但是新节点没有添加到集群中。我的问题是在哪里可以找到此类问题的异常消息。如果我启动数据节点守护进程,它将在新节点中再启动一个,但如果我连接到集群,名称节点将停止数据节点守护进程。因为我猜是一些配置或目录权限问题,所以我怎样才能找出这些错误?这些错误在哪个日志文件中可用?异常:----------------013-06-1418:20:33,987INFOorg.apache.hadoop.hdfs.server.namenode.NameNode:NameNodeupat:master/192.168.0.13

hadoop - 我可以通过 vmware 格式化磁盘吗?

我在vmware上安装了ubuntu12.04,在ubuntu上安装了mapr单节点。当我想格式化磁盘时,出现错误:/opt/mapr/server/disksetup-F/tmp/disks.txtthe输出是:2013-06-1816:34:02,8910ERRORGlobalmrconfig.cc:2411x.x.0.0:0InitDiskfailedDeviceorresourcebusy.(16).InitDisk/dev/sda7InitDiskresp:status16Diskinit/dev/sda7failed.Error16,Deviceorresourcebusy

hadoop - 并发执行mapreduce引发Classcastexception

我正在使用hadoop-core-1.2.0。我正在尝试执行8个并发map-reduce作业。ExecutonService用于提交作业。但是当程序运行时,它给出了以下异常java.lang.Exception:java.lang.ClassCastException:org.apache.hadoop.mapreduce.lib.input.FileSplitcannotbecasttoorg.apache.hadoop.mapred.InputSplitatorg.apache.hadoop.mapred.LocalJobRunner$Job.run(LocalJobRunner.

hadoop - 在 Pig 中过滤分组值

我有一个正在分组的关系。我怎样才能像map一样访问分组值?data=load'log.txt'as(id:chararray,name:chararray);grouped=groupdatabyid;foreachdata{filtered=filtergroupbygroup.id=data.id;};我尝试迭代组并过滤结果包的一种方法。但我的情况是我必须迭代一个外部元组,然后必须从这些结果中从分组值中获取相应的包。我尝试了嵌套的foreach,但出现以下异常,expressionisnotaprojectexpression:(Name:ScalarExpression)Type

hadoop - 文本文件与序列文件

在hadoop中,我只是使用这两种格式来评估配置单元查询的性能。当我对存储为文本文件的表进行查询时,我得到的结果比存储为序列文件的结果早。但它不应该是其他方式吗?另外,仅供引用,我首先将数据加载到TEXT文件表中,然后将数据传输到SEQUENCEFILE表中。创建表文本(酸性整数,值字符串,id整数)以“~”终止的行格式分隔字段存储为文本文件;创建表seq(acidint,valuestring,idint)存储为序列文件;加载数据本地输入路径'-----'覆盖到表文本中;insertintotableseqselect*fromtext;TextFILE:Timetaken:36.2

windows - 在 Hadoop 上格式化名称节点 - Windows 7

我正在尝试使用Cygwin在Windows7上安装Hadoop。我已经安装了Cygwin并且可以在没有密码的情况下登录sshlocalhost。我已经改变了hadoop-env.sh如下:exportJAVA_HOME=C:\\Progra~1\\Java\\jre7在我的系统变量中,我将JAVA_HOME设置为:C:\Progra~1\Java\jre7和PATH设置为:%SystemRoot%\system32;%SystemRoot%;%SystemRoot%\System32\Wbem;%SYSTEMROOT%\System32\WindowsPowerShell\v1.0\;

hadoop - 通过网络进度条跟踪 hadoop 文件上传状态?

我想设计一个web项目,当用户上传文件到hadoophdfs时,用户可以通过web查看他们的上传状态。有没有简单的javaapi?有人能帮忙吗?目前我只知道怎么用api上传文件到hdfs。publicsynchronizedstaticvoidupload(FileSystemfs,Stringlocal,Stringremote){//Pathhome=fs.getHomeDirectory();PathworkDir=fs.getWorkingDirectory();Pathdst=newPath(workDir+"/"+remote);Pathsrc=newPath(local)

hadoop - 在 oozie 工作流作业的情况下直接在 workflow.xml 中访问日期

输入数据路径包含当前日期(INPUT/YYYY/MM/DD/HH/)并且oozie作业只是工作流作业。我尝试了以下方法,但没有用。${jobTracker}${nameNode}${parse_mainClass}${inputDir}/${YEAR}/${MONTH}/${DAY}${parse_Output}通过在coordinator.xml中包含以下内容。我可以在workflow.xml中使用变量“prevDaystart”。${workflowAppUri}prevDaystart${coord:formatTime(coord:dateOffset(coord:nomina

hadoop - 不同系统之间的大数据传输

我们将不同的数据集存储到不同的系统中,例如Hadoop、Cassandra、MongoDB。但是我们的分析团队想要从不同的系统中获取拼接的数据。例如,具有人口统计信息的客户信息将在一个系统中,他们的交易将在另一个系统中。分析应该能够查询以从美国用户那里获取数据,例如交易量是多少。我们需要开发一个应用程序来提供与不同系统交互的简便方法。最好的方法是什么?另一个要求:如果我们想在像MongoDB这样的系统中提供他们的自定义工作区,他们可以很容易地使用它。按需将数据从一个系统拉到另一个系统的最佳策略是什么?用于解决此类问题的任何指针或通用架构都将非常有帮助。 最佳