我正在尝试设置一个 hadoop 多节点集群。当我检查安装文件夹时,我没有看到名为/conf 的文件夹。
我看到一个/etc 目录,里面有一个 hadoop 文件夹,里面有很多 xml 文件 -
core-site.xml
hdfs-site.xml
master ...etc
但没有主文件或 conf 文件夹
最佳答案
etc/hadoop 目录结构适用于当前的 Apache Hadoop 2.x 版本。您不会获得 conf 目录。以下是全新安装的 Apache Hadoop 2.7.1 的目录结构。
> curl https://www.apache.org/dist/hadoop/common/hadoop-2.7.1/hadoop-2.7.1.tar.gz 2>/dev/null | tar xf -
> ls -l hadoop-2.7.1/
total 48
-rw-r--r-- 1 chris wheel 15K Jun 28 2015 LICENSE.txt
-rw-r--r-- 1 chris wheel 101B Jun 28 2015 NOTICE.txt
-rw-r--r-- 1 chris wheel 1.3K Jun 28 2015 README.txt
drwxr-xr-x 13 chris wheel 442B Jun 28 2015 bin/
drwxr-xr-x 3 chris wheel 102B Jun 28 2015 etc/
drwxr-xr-x 7 chris wheel 238B Jun 28 2015 include/
drwxr-xr-x 3 chris wheel 102B Jun 28 2015 lib/
drwxr-xr-x 12 chris wheel 408B Jun 28 2015 libexec/
drwxr-xr-x 30 chris wheel 1.0K Jun 28 2015 sbin/
drwxr-xr-x 4 chris wheel 136B Jun 28 2015 share/
> ls -l hadoop-2.7.1/etc/hadoop/
total 304
-rw-r--r-- 1 chris wheel 4.3K Jun 28 2015 capacity-scheduler.xml
-rw-r--r-- 1 chris wheel 1.3K Jun 28 2015 configuration.xsl
-rw-r--r-- 1 chris wheel 318B Jun 28 2015 container-executor.cfg
-rw-r--r-- 1 chris wheel 774B Jun 28 2015 core-site.xml
-rw-r--r-- 1 chris wheel 3.6K Jun 28 2015 hadoop-env.cmd
-rw-r--r-- 1 chris wheel 4.1K Jun 28 2015 hadoop-env.sh
-rw-r--r-- 1 chris wheel 2.4K Jun 28 2015 hadoop-metrics.properties
-rw-r--r-- 1 chris wheel 2.5K Jun 28 2015 hadoop-metrics2.properties
-rw-r--r-- 1 chris wheel 9.5K Jun 28 2015 hadoop-policy.xml
-rw-r--r-- 1 chris wheel 775B Jun 28 2015 hdfs-site.xml
-rw-r--r-- 1 chris wheel 1.4K Jun 28 2015 httpfs-env.sh
-rw-r--r-- 1 chris wheel 1.6K Jun 28 2015 httpfs-log4j.properties
-rw-r--r-- 1 chris wheel 21B Jun 28 2015 httpfs-signature.secret
-rw-r--r-- 1 chris wheel 620B Jun 28 2015 httpfs-site.xml
-rw-r--r-- 1 chris wheel 3.4K Jun 28 2015 kms-acls.xml
-rw-r--r-- 1 chris wheel 1.5K Jun 28 2015 kms-env.sh
-rw-r--r-- 1 chris wheel 1.6K Jun 28 2015 kms-log4j.properties
-rw-r--r-- 1 chris wheel 5.4K Jun 28 2015 kms-site.xml
-rw-r--r-- 1 chris wheel 11K Jun 28 2015 log4j.properties
-rw-r--r-- 1 chris wheel 951B Jun 28 2015 mapred-env.cmd
-rw-r--r-- 1 chris wheel 1.4K Jun 28 2015 mapred-env.sh
-rw-r--r-- 1 chris wheel 4.0K Jun 28 2015 mapred-queues.xml.template
-rw-r--r-- 1 chris wheel 758B Jun 28 2015 mapred-site.xml.template
-rw-r--r-- 1 chris wheel 10B Jun 28 2015 slaves
-rw-r--r-- 1 chris wheel 2.3K Jun 28 2015 ssl-client.xml.example
-rw-r--r-- 1 chris wheel 2.2K Jun 28 2015 ssl-server.xml.example
-rw-r--r-- 1 chris wheel 2.2K Jun 28 2015 yarn-env.cmd
-rw-r--r-- 1 chris wheel 4.5K Jun 28 2015 yarn-env.sh
-rw-r--r-- 1 chris wheel 690B Jun 28 2015 yarn-site.xml
如果您要从 Apache Hadoop 1.x 迁移到 Apache Hadoop 2.x,那么您可能希望看到一个较旧的目录布局,它确实有一个 conf 目录。这是 Apache Hadoop 1.2.1 的样子。
> curl https://www.apache.org/dist/hadoop/common/hadoop-1.2.1/hadoop-1.2.1-bin.tar.gz 2>/dev/null | tar xf -
> ls -l hadoop-1.2.1/
total 16680
-rw-r--r-- 1 chris wheel 482K Jul 22 2013 CHANGES.txt
-rw-r--r-- 1 chris wheel 13K Jul 22 2013 LICENSE.txt
-rw-r--r-- 1 chris wheel 101B Jul 22 2013 NOTICE.txt
-rw-r--r-- 1 chris wheel 1.3K Jul 22 2013 README.txt
drwxr-xr-x 19 chris wheel 646B Jul 22 2013 bin/
-rw-r--r-- 1 chris wheel 118K Jul 22 2013 build.xml
drwxr-xr-x 4 chris wheel 136B Jul 22 2013 c++/
drwxr-xr-x 19 chris wheel 646B Jul 22 2013 conf/
drwxr-xr-x 10 chris wheel 340B Jul 22 2013 contrib/
-rw-r--r-- 1 chris wheel 6.7K Jul 22 2013 hadoop-ant-1.2.1.jar
-rw-r--r-- 1 chris wheel 414B Jul 22 2013 hadoop-client-1.2.1.jar
-rw-r--r-- 1 chris wheel 4.0M Jul 22 2013 hadoop-core-1.2.1.jar
-rw-r--r-- 1 chris wheel 139K Jul 22 2013 hadoop-examples-1.2.1.jar
-rw-r--r-- 1 chris wheel 417B Jul 22 2013 hadoop-minicluster-1.2.1.jar
-rw-r--r-- 1 chris wheel 3.0M Jul 22 2013 hadoop-test-1.2.1.jar
-rw-r--r-- 1 chris wheel 377K Jul 22 2013 hadoop-tools-1.2.1.jar
drwxr-xr-x 13 chris wheel 442B Jul 22 2013 ivy/
-rw-r--r-- 1 chris wheel 10K Jul 22 2013 ivy.xml
drwxr-xr-x 52 chris wheel 1.7K Jul 22 2013 lib/
drwxr-xr-x 4 chris wheel 136B Jul 22 2013 libexec/
drwxr-xr-x 9 chris wheel 306B Jul 22 2013 sbin/
drwxr-xr-x 3 chris wheel 102B Jul 22 2013 share/
drwxr-xr-x 3 chris wheel 102B Dec 29 09:44 src/
drwxr-xr-x 9 chris wheel 306B Jul 22 2013 webapps/
> ls -l hadoop-1.2.1/conf/
total 160
-rw-r--r-- 1 chris wheel 7.3K Jul 22 2013 capacity-scheduler.xml
-rw-r--r-- 1 chris wheel 1.1K Jul 22 2013 configuration.xsl
-rw-r--r-- 1 chris wheel 178B Jul 22 2013 core-site.xml
-rw-r--r-- 1 chris wheel 327B Jul 22 2013 fair-scheduler.xml
-rw-r--r-- 1 chris wheel 2.4K Jul 22 2013 hadoop-env.sh
-rw-r--r-- 1 chris wheel 2.0K Jul 22 2013 hadoop-metrics2.properties
-rw-r--r-- 1 chris wheel 4.5K Jul 22 2013 hadoop-policy.xml
-rw-r--r-- 1 chris wheel 178B Jul 22 2013 hdfs-site.xml
-rw-r--r-- 1 chris wheel 4.9K Jul 22 2013 log4j.properties
-rw-r--r-- 1 chris wheel 2.0K Jul 22 2013 mapred-queue-acls.xml
-rw-r--r-- 1 chris wheel 178B Jul 22 2013 mapred-site.xml
-rw-r--r-- 1 chris wheel 10B Jul 22 2013 masters
-rw-r--r-- 1 chris wheel 10B Jul 22 2013 slaves
-rw-r--r-- 1 chris wheel 2.0K Jul 22 2013 ssl-client.xml.example
-rw-r--r-- 1 chris wheel 1.9K Jul 22 2013 ssl-server.xml.example
-rw-r--r-- 1 chris wheel 3.8K Jul 22 2013 task-log4j.properties
-rw-r--r-- 1 chris wheel 382B Jul 22 2013 taskcontroller.cfg
但是,在 Apache Hadoop 2.x 发行版中,您不会获得 conf 目录。
Hadoop 1.x的conf和Hadoop 2.x的etc/hadoop的内容有些相似。您将看到各种 *-site.xml 文件。有关配置的更多详细信息,请参阅 Cluster Setup指导。
关于Hadoop 安装文件夹,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/34514416/
我有一个Ruby程序,它使用rubyzip压缩XML文件的目录树。gem。我的问题是文件开始变得很重,我想提高压缩级别,因为压缩时间不是问题。我在rubyzipdocumentation中找不到一种为创建的ZIP文件指定压缩级别的方法。有人知道如何更改此设置吗?是否有另一个允许指定压缩级别的Ruby库? 最佳答案 这是我通过查看rubyzip内部创建的代码。level=Zlib::BEST_COMPRESSIONZip::ZipOutputStream.open(zip_file)do|zip|Dir.glob("**/*")d
我试图在一个项目中使用rake,如果我把所有东西都放到Rakefile中,它会很大并且很难读取/找到东西,所以我试着将每个命名空间放在lib/rake中它自己的文件中,我添加了这个到我的rake文件的顶部:Dir['#{File.dirname(__FILE__)}/lib/rake/*.rake'].map{|f|requiref}它加载文件没问题,但没有任务。我现在只有一个.rake文件作为测试,名为“servers.rake”,它看起来像这样:namespace:serverdotask:testdoputs"test"endend所以当我运行rakeserver:testid时
我的目标是转换表单输入,例如“100兆字节”或“1GB”,并将其转换为我可以存储在数据库中的文件大小(以千字节为单位)。目前,我有这个:defquota_convert@regex=/([0-9]+)(.*)s/@sizes=%w{kilobytemegabytegigabyte}m=self.quota.match(@regex)if@sizes.include?m[2]eval("self.quota=#{m[1]}.#{m[2]}")endend这有效,但前提是输入是倍数(“gigabytes”,而不是“gigabyte”)并且由于使用了eval看起来疯狂不安全。所以,功能正常,
Rails2.3可以选择随时使用RouteSet#add_configuration_file添加更多路由。是否可以在Rails3项目中做同样的事情? 最佳答案 在config/application.rb中:config.paths.config.routes在Rails3.2(也可能是Rails3.1)中,使用:config.paths["config/routes"] 关于ruby-on-rails-Rails3中的多个路由文件,我们在StackOverflow上找到一个类似的问题
对于具有离线功能的智能手机应用程序,我正在为Xml文件创建单向文本同步。我希望我的服务器将增量/差异(例如GNU差异补丁)发送到目标设备。这是计划:Time=0Server:hasversion_1ofXmlfile(~800kiB)Client:hasversion_1ofXmlfile(~800kiB)Time=1Server:hasversion_1andversion_2ofXmlfile(each~800kiB)computesdeltaoftheseversions(=patch)(~10kiB)sendspatchtoClient(~10kiBtransferred)Cl
我想为Heroku构建一个Rails3应用程序。他们使用Postgres作为他们的数据库,所以我通过MacPorts安装了postgres9.0。现在我需要一个postgresgem并且共识是出于性能原因你想要pggem。但是我对我得到的错误感到非常困惑当我尝试在rvm下通过geminstall安装pg时。我已经非常明确地指定了所有postgres目录的位置可以找到但仍然无法完成安装:$envARCHFLAGS='-archx86_64'geminstallpg--\--with-pg-config=/opt/local/var/db/postgresql90/defaultdb/po
我正在寻找执行以下操作的正确语法(在Perl、Shell或Ruby中):#variabletoaccessthedatalinesappendedasafileEND_OF_SCRIPT_MARKERrawdatastartshereanditcontinues. 最佳答案 Perl用__DATA__做这个:#!/usr/bin/perlusestrict;usewarnings;while(){print;}__DATA__Texttoprintgoeshere 关于ruby-如何将脚
使用带有Rails插件的vim,您可以创建一个迁移文件,然后一次性打开该文件吗?textmate也可以这样吗? 最佳答案 你可以使用rails.vim然后做类似的事情::Rgeneratemigratonadd_foo_to_bar插件将打开迁移生成的文件,这正是您想要的。我不能代表textmate。 关于ruby-使用VimRails,您可以创建一个新的迁移文件并一次性打开它吗?,我们在StackOverflow上找到一个类似的问题: https://sta
我打算为ruby脚本创建一个安装程序,但我希望能够确保机器安装了RVM。有没有一种方法可以完全离线安装RVM并且不引人注目(通过不引人注目,就像创建一个可以做所有事情的脚本而不是要求用户向他们的bash_profile或bashrc添加一些东西)我不是要脚本本身,只是一个关于如何走这条路的快速指针(如果可能的话)。我们还研究了这个很有帮助的问题:RVM-isthereawayforsimpleofflineinstall?但有点误导,因为答案只向我们展示了如何离线在RVM中安装ruby。我们需要能够离线安装RVM本身,并查看脚本https://raw.github.com/wayn
我有一个奇怪的问题:我在rvm上安装了rubyonrails。一切正常,我可以创建项目。但是在我输入“railsnew”时重新启动后,我有“程序'rails'当前未安装。”。SystemUbuntu12.04ruby-v"1.9.3p194"gemlistactionmailer(3.2.5)actionpack(3.2.5)activemodel(3.2.5)activerecord(3.2.5)activeresource(3.2.5)activesupport(3.2.5)arel(3.0.2)builder(3.0.0)bundler(1.1.4)coffee-rails(