草庐IT

default-compile

全部标签

hadoop - hadoop-2.7.3 中的 yarn : yarn-default. xml 位置

我们正在尝试在hadoop-2.7.3中找到yarn-default.xml的位置,有人可以指出它可能位于的位置......我能够找到yarn-site.xml但找不到yarn-default.xml如果有人能指出它的位置,将不胜感激。 最佳答案 在包含您的hadoop安装的目录中导航到share/doc/hadoop/hadoop-yarn/hadoop-yarn-common.如您所知,yarn-default.xml用作默认值的文档,而yarn-site.xml代表您的自定义配置值。

compilation - 编译 Hadoop 的问题

这就是问题所在:我已经完成了一个简单的Hadoop程序来“清理”保存在我稍后将使用的文本文件中的图形(使用Hadoop),但我无法编译它!编译器找不到Hadoop类(IntWritable、Textecc...),每次都会出现“找不到符号”错误。我试过:javac-classpathpath/to/hadoop/root/hadoop-core-{version}.jarfilename.java我运行的是ubuntu11.04,Hadoop版本是1.0.3。 最佳答案 问题是hadoop-core-{version}.jar依赖于

hadoop - default.fs.name 和 hive.metastore.warehouse.dir 不冲突

嗨,当我尝试运行以下命令时LoaddataInpath'/data'intoTableTablename;在hiveshell中抛出以下错误Movefrom:hdfs://hadoopcluster/datato:file:/user/hive/warehouse/Tablenameisnotvalid.Pleasecheckthatvaluesforparams"default.fs.name"and"hive.metastore.warehouse.dir"donotconflict.我的default.fs.name属性在哪里fs.defaultFShdfs://hadoopcl

hadoop - Hive 总是给出 "Number of reduce tasks determined at compile time: 1",无论我做什么

createexternaltableifnotexistsmy_table(customer_idSTRING,ip_idSTRING)location'ip_b_class';然后:hive>setmapred.reduce.tasks=50;hive>selectcount(distinctcustomer_id)frommy_table;TotalMapReducejobs=1LaunchingJob1outof1Numberofreducetasksdeterminedatcompiletime:1里面有160GB,1个reducer需要很长时间...[ihadanny@lv

Hue 中的 hadoop.hdfs_clusters.default.webhdfs_url 错误

任何人都可以帮我解决这个色调错误。Currentvalue:http://localhost:50070/webhdfs/v1Failedtocreatetemporaryfile"/tmp/hue_config_validation.15785472045199379485"仅供引用,我使用的是ClouderaManager5.1.3和Hue3.6。 最佳答案 好的,我自己解决问题。错误原因是NameNode处于安全模式。此命令将使您的Namenode离开安全模式。sudo-uhdfshdfsdfsadmin-safemodele

java - mapred-site.xml 未覆盖 mapred-default.xml 中的参数

我正在使用Hadoop版本0.20.2(Cloudera发行版cdh3u6)并发现问题。据我了解,如果我在/etc/hadoop/conf/mapred-site.xml中设置一个值,它应该自动覆盖Hadoop默认值。所以我设置了一个变量如下:mapred.child.java.opts-Xmx1024m但是,这没有任何效果。现在,我知道hadoop正在读取该文件,因为如果我将变量设置为final(true),则该设置确实适用于我的工作。但是,据我了解,这不是必需的,因为mapred-site.xml应该在mapred-default.xml之后加载所以它应该简单地覆盖它。您可能会问,

java - Hadoop 2.5.2 mvn 构建失败 Windows 7 x64 - hadoop-common 上的 compile-ms-native-dll?

我正在关注Hadoop2OnWindowsWikihere,我已经多次阅读源代码树中的BUILDING.txt。我想我已经弄清楚了所有的依赖关系,但是我得到了一个奇怪的Failedtoexecutegoal(compile-ms-native-dll)错误(下面是完整的日志)。我已经安装了WindowsSDK7.1以下内容在我的PATH中:Cygwin/binMSBuild(C:\Windows\Microsoft.NET\Framework64\v4.0.30319)ProtocolBuffer2.5.0Zlib和Zlib/include(以便它可以访问zlib.h)查找错误专家Pl

hadoop - pig 负载 : deprecated property fs. default.name

我已经在同一台机器上安装了Hadoop2.6.5和Pig0.16。我跑了pig然后我加载了一个文件使用a=load'/user/hduser/input/palabras.txt';我得到了这个信息INFOorg.apache.hadoop.conf.Configuration.deprecation-fs.default.nameis已弃用。相反,使用fs.defaultFS但我想知道如果我已经在core-site.xml文件中更改了该属性,为什么会出现此消息?我希望清楚,如果需要其他信息,请告诉我。谢谢! 最佳答案 它与您的co

Hadoop MapReduce : default number of mappers

如果我不指定映射器的数量,如何确定该数量?是否有从配置文件(例如mapred-site.xml)中读取的默认设置? 最佳答案 在Chris上面添加的内容上添加更多内容:映射的数量通常由输入文件中的DFSblock数量决定。虽然这会导致人们调整他们的DFSblock大小来调整map的数量。map的正确并行级别似乎是大约10-100个map/节点,尽管对于非常cpu-lightmaptask,这可以达到300左右。任务设置需要一段时间,因此最好至少花一分钟时间执行map。您可以通过修改JobConf的conf.setNumMapTask

compilation - 找不到 org.apache.hadoop.classification.InterfaceAudience 的 Cloudera Hadoop 类文件

这是我在尝试编译此WordCount.java文件时遇到的错误。$javac-classpath/usr/lib/hadoop/hadoop-common-2.0.0-cdh4.0.1.jar:/usr/lib/hadoop/client/hadoop-mapreduce-client-core-2.0.0-cdh4.0.1.jar-d~/wordcount/usr/lib/hadoop/wordcount_classes/WordCount.java/usr/lib/hadoop/hadoop-common-2.0.0-cdh4.0.1.jar(org/apache/hadoop/f