草庐IT

Hadoop-Solr

全部标签

hadoop - 将列添加到Hive外部表错误

尝试将列添加到配置单元中的外部表,但出现以下错误。这个表目前已经注册了1000个分区,我希望避免重新创建这个表,然后运行msckrepair,这需要很长时间才能完成。此外,该表使用opencsvserde格式。如何添加列hive>ALTERTABLEschema.Table123ADDCOLUMNS(Column1000STRING);FAILED:ExecutionError,returncode1fromorg.apache.hadoop.hive.ql.exec.DDLTask.Unabletoaltertable.java.lang.IllegalArgumentExcepti

servlets - Hadoop 之上的 Servlet 容器?

我正处于一个大项目的架构阶段,我决定使用hbase作为我的数据库,并将使用map/reduce作业进行处理,因此我的架构完全在hadoop下工作。问题是我还需要实现一些REST、SOAPAPI的一些网页,所以我在想是否有任何运行在hadoop之上的servlet容器,以便我的系统保持冗余和分布式,而不必担心二级集群机制(因为我已经为hadoop设置了一个)。那么有没有运行在hadoop之上的servlet容器,比如运行在hadoop之上的hbase(数据库)? 最佳答案 它不完全是一个servlet,但您可能对Stargate提供的

Hadoop NameNode 启动失败,错误 : FSNamesystem initialization failed. java.io.FileNotFoundException

我得到的异常是,2011-07-1312:04:13,006ERRORorg.apache.hadoop.hdfs.server.namenode.NameNode:java.io.FileNotFoundException:Filedoesnotexist:/opt/data/tmp/mapred/system/job_201107041958_0120/j^@^@^@^@^@^@atorg.apache.hadoop.hdfs.server.namenode.FSDirectory.unprotectedSetPermission(FSDirectory.java:544)ator

Hadoop on Batch System 作为用户进程

我看过Hadoop-on-Demand,以及SGE上的Hadoop集成。我的理解是这需要管理员权限,而我在工作的大集群上没有。管理员忙得不可开交,几个月内都无法设置我们。我认识到临时虚拟集群对HDFS实用程序的限制。我也明白使用lustre文件系统是如何违背常规的,但是有没有人编写过SGE或Torque(PBS)脚本来将作业提交到启动hadoop实例的集群? 最佳答案 参见MyHadoop:http://www.sdsc.edu/~allans/MyHadoop.pdf错误链接。此处提供文章:http://archive.futur

hadoop - 从 map 函数 hadoop 写入文本输出

输入:a,b,c,d,eq,w,34,r,e1,2,3,4,e在映射器中,我将获取最后一个字段的所有值,并且我想发出(e,(a,b,c,d))即它发出(key,(该行的其余字段)).感谢帮助。当前代码:publicstaticclassMapextendsMapper{privatefinalstaticIntWritableone=newIntWritable(1);privateTextword=newText();publicvoidmap(LongWritablekey,Textvalue,Contextcontext)throwsIOException,Interrupted

hadoop - Hadoop 平台中除 mahout 之外的任何其他机器学习库

我正在做一个利用机器学习算法的项目,我选择hadoop/mahout因为它可以更好地处理大数据。但是mahout只集成了很少的算法,(不包括一些算法,比如SVM)所以我想知道Hadoop平台上除了mahout还有其他机器学习库如果是这样,我对新图书馆有一些疑问是否支持分布式计算是正式版吗?有什么支持吗?非常感谢~ 最佳答案 看看ApacheHama,它们具有简单的ML算法,例如LogisticRegression或K-means聚类。以后会有更多的算法。这是他们的网站:http://hama.apache.org/

hadoop - 如何在 Ubuntu (12.0.4)-32 位上安装 cloudera manager

我有一个32位的Ubuntu版本,似乎最新的ClouderaManager只支持64位。有没有人在Ubuntu(12.0.4)32位上安装了CDH4和云时代管理器?。你能不能让我知道怎么做。 最佳答案 我相信32位Ubuntu不支持CDH4。32位RHEL6.2支持32位 关于hadoop-如何在Ubuntu(12.0.4)-32位上安装clouderamanager,我们在StackOverflow上找到一个类似的问题: https://stackoverf

spring - 使用 Javaconfig 配置 HADOOP 作业

我现在正在关注SpringHADOOP的介绍页面http://blog.springsource.org/2012/02/29/introducing-spring-hadoop/示例配置是基于xml的。以下代码描述了wordCount示例。有没有办法用Javaconfig配置这个例子? 最佳答案 @Configuration@EnableHadoop@PropertySource(value={"classpath:config/hadoop.properties"})publicclassHadoopConfiguratione

hadoop - 基于 maven 生成的源运行 hadoop

我正在尝试对hadoop框架进行一些更改,但我在设置我的开发环境时遇到了困难。我已经从git中克隆了hadoop并生成了所有java项目以使用maven导入到eclipse中,如此处所述EclipseEnvironment.在eclipse中导入所有项目后,我生成了一个正常的java项目,它应该在hadoop中运行一个作业,我在项目的构建路径上为hadoop-common和hadoop-mapreduce-client-core设置了两个项目依赖项,所有依赖项都已解决。当我运行项目时出现错误2013-05-2312:58:01,531ERRORutil.Shell(Shell.java

hadoop DistributedCache 返回 null

我正在使用hadoopDistributedCache,但我遇到了一些麻烦。我的hadoop处于伪分布式模式。fromherewecanseeinpseudo-distributedmodeweuseDistributedCache.getLocalCache(xx)toretrivecachedfile.首先我将我的文件放入DistributedCache:DistributedCache.addCacheFile(newPath("hdfs://localhost:8022/user/administrator/myfile").toUri(),job.getConfigurati