草庐IT

Hadoop 安装文件夹

coder 2024-01-08 原文

我正在尝试设置一个 hadoop 多节点集群。当我检查安装文件夹时,我没有看到名为/conf 的文件夹。

我看到一个/etc 目录,里面有一个 hadoop 文件夹,里面有很多 xml 文件 -

core-site.xml
hdfs-site.xml 
master     ...etc

但没有主文件或 conf 文件夹

最佳答案

etc/hadoop 目录结构适用于当前的 Apache Hadoop 2.x 版本。您不会获得 conf 目录。以下是全新安装的 Apache Hadoop 2.7.1 的目录结构。

> curl https://www.apache.org/dist/hadoop/common/hadoop-2.7.1/hadoop-2.7.1.tar.gz 2>/dev/null | tar xf -

> ls -l hadoop-2.7.1/
total 48
-rw-r--r--   1 chris  wheel    15K Jun 28  2015 LICENSE.txt
-rw-r--r--   1 chris  wheel   101B Jun 28  2015 NOTICE.txt
-rw-r--r--   1 chris  wheel   1.3K Jun 28  2015 README.txt
drwxr-xr-x  13 chris  wheel   442B Jun 28  2015 bin/
drwxr-xr-x   3 chris  wheel   102B Jun 28  2015 etc/
drwxr-xr-x   7 chris  wheel   238B Jun 28  2015 include/
drwxr-xr-x   3 chris  wheel   102B Jun 28  2015 lib/
drwxr-xr-x  12 chris  wheel   408B Jun 28  2015 libexec/
drwxr-xr-x  30 chris  wheel   1.0K Jun 28  2015 sbin/
drwxr-xr-x   4 chris  wheel   136B Jun 28  2015 share/

> ls -l hadoop-2.7.1/etc/hadoop/
total 304
-rw-r--r--  1 chris  wheel   4.3K Jun 28  2015 capacity-scheduler.xml
-rw-r--r--  1 chris  wheel   1.3K Jun 28  2015 configuration.xsl
-rw-r--r--  1 chris  wheel   318B Jun 28  2015 container-executor.cfg
-rw-r--r--  1 chris  wheel   774B Jun 28  2015 core-site.xml
-rw-r--r--  1 chris  wheel   3.6K Jun 28  2015 hadoop-env.cmd
-rw-r--r--  1 chris  wheel   4.1K Jun 28  2015 hadoop-env.sh
-rw-r--r--  1 chris  wheel   2.4K Jun 28  2015 hadoop-metrics.properties
-rw-r--r--  1 chris  wheel   2.5K Jun 28  2015 hadoop-metrics2.properties
-rw-r--r--  1 chris  wheel   9.5K Jun 28  2015 hadoop-policy.xml
-rw-r--r--  1 chris  wheel   775B Jun 28  2015 hdfs-site.xml
-rw-r--r--  1 chris  wheel   1.4K Jun 28  2015 httpfs-env.sh
-rw-r--r--  1 chris  wheel   1.6K Jun 28  2015 httpfs-log4j.properties
-rw-r--r--  1 chris  wheel    21B Jun 28  2015 httpfs-signature.secret
-rw-r--r--  1 chris  wheel   620B Jun 28  2015 httpfs-site.xml
-rw-r--r--  1 chris  wheel   3.4K Jun 28  2015 kms-acls.xml
-rw-r--r--  1 chris  wheel   1.5K Jun 28  2015 kms-env.sh
-rw-r--r--  1 chris  wheel   1.6K Jun 28  2015 kms-log4j.properties
-rw-r--r--  1 chris  wheel   5.4K Jun 28  2015 kms-site.xml
-rw-r--r--  1 chris  wheel    11K Jun 28  2015 log4j.properties
-rw-r--r--  1 chris  wheel   951B Jun 28  2015 mapred-env.cmd
-rw-r--r--  1 chris  wheel   1.4K Jun 28  2015 mapred-env.sh
-rw-r--r--  1 chris  wheel   4.0K Jun 28  2015 mapred-queues.xml.template
-rw-r--r--  1 chris  wheel   758B Jun 28  2015 mapred-site.xml.template
-rw-r--r--  1 chris  wheel    10B Jun 28  2015 slaves
-rw-r--r--  1 chris  wheel   2.3K Jun 28  2015 ssl-client.xml.example
-rw-r--r--  1 chris  wheel   2.2K Jun 28  2015 ssl-server.xml.example
-rw-r--r--  1 chris  wheel   2.2K Jun 28  2015 yarn-env.cmd
-rw-r--r--  1 chris  wheel   4.5K Jun 28  2015 yarn-env.sh
-rw-r--r--  1 chris  wheel   690B Jun 28  2015 yarn-site.xml

如果您要从 Apache Hadoop 1.x 迁移到 Apache Hadoop 2.x,那么您可能希望看到一个较旧的目录布局,它确实有一个 conf 目录。这是 Apache Hadoop 1.2.1 的样子。

> curl https://www.apache.org/dist/hadoop/common/hadoop-1.2.1/hadoop-1.2.1-bin.tar.gz 2>/dev/null | tar xf -

> ls -l hadoop-1.2.1/
total 16680
-rw-r--r--   1 chris  wheel   482K Jul 22  2013 CHANGES.txt
-rw-r--r--   1 chris  wheel    13K Jul 22  2013 LICENSE.txt
-rw-r--r--   1 chris  wheel   101B Jul 22  2013 NOTICE.txt
-rw-r--r--   1 chris  wheel   1.3K Jul 22  2013 README.txt
drwxr-xr-x  19 chris  wheel   646B Jul 22  2013 bin/
-rw-r--r--   1 chris  wheel   118K Jul 22  2013 build.xml
drwxr-xr-x   4 chris  wheel   136B Jul 22  2013 c++/
drwxr-xr-x  19 chris  wheel   646B Jul 22  2013 conf/
drwxr-xr-x  10 chris  wheel   340B Jul 22  2013 contrib/
-rw-r--r--   1 chris  wheel   6.7K Jul 22  2013 hadoop-ant-1.2.1.jar
-rw-r--r--   1 chris  wheel   414B Jul 22  2013 hadoop-client-1.2.1.jar
-rw-r--r--   1 chris  wheel   4.0M Jul 22  2013 hadoop-core-1.2.1.jar
-rw-r--r--   1 chris  wheel   139K Jul 22  2013 hadoop-examples-1.2.1.jar
-rw-r--r--   1 chris  wheel   417B Jul 22  2013 hadoop-minicluster-1.2.1.jar
-rw-r--r--   1 chris  wheel   3.0M Jul 22  2013 hadoop-test-1.2.1.jar
-rw-r--r--   1 chris  wheel   377K Jul 22  2013 hadoop-tools-1.2.1.jar
drwxr-xr-x  13 chris  wheel   442B Jul 22  2013 ivy/
-rw-r--r--   1 chris  wheel    10K Jul 22  2013 ivy.xml
drwxr-xr-x  52 chris  wheel   1.7K Jul 22  2013 lib/
drwxr-xr-x   4 chris  wheel   136B Jul 22  2013 libexec/
drwxr-xr-x   9 chris  wheel   306B Jul 22  2013 sbin/
drwxr-xr-x   3 chris  wheel   102B Jul 22  2013 share/
drwxr-xr-x   3 chris  wheel   102B Dec 29 09:44 src/
drwxr-xr-x   9 chris  wheel   306B Jul 22  2013 webapps/

> ls -l hadoop-1.2.1/conf/
total 160
-rw-r--r--  1 chris  wheel   7.3K Jul 22  2013 capacity-scheduler.xml
-rw-r--r--  1 chris  wheel   1.1K Jul 22  2013 configuration.xsl
-rw-r--r--  1 chris  wheel   178B Jul 22  2013 core-site.xml
-rw-r--r--  1 chris  wheel   327B Jul 22  2013 fair-scheduler.xml
-rw-r--r--  1 chris  wheel   2.4K Jul 22  2013 hadoop-env.sh
-rw-r--r--  1 chris  wheel   2.0K Jul 22  2013 hadoop-metrics2.properties
-rw-r--r--  1 chris  wheel   4.5K Jul 22  2013 hadoop-policy.xml
-rw-r--r--  1 chris  wheel   178B Jul 22  2013 hdfs-site.xml
-rw-r--r--  1 chris  wheel   4.9K Jul 22  2013 log4j.properties
-rw-r--r--  1 chris  wheel   2.0K Jul 22  2013 mapred-queue-acls.xml
-rw-r--r--  1 chris  wheel   178B Jul 22  2013 mapred-site.xml
-rw-r--r--  1 chris  wheel    10B Jul 22  2013 masters
-rw-r--r--  1 chris  wheel    10B Jul 22  2013 slaves
-rw-r--r--  1 chris  wheel   2.0K Jul 22  2013 ssl-client.xml.example
-rw-r--r--  1 chris  wheel   1.9K Jul 22  2013 ssl-server.xml.example
-rw-r--r--  1 chris  wheel   3.8K Jul 22  2013 task-log4j.properties
-rw-r--r--  1 chris  wheel   382B Jul 22  2013 taskcontroller.cfg

但是,在 Apache Hadoop 2.x 发行版中,您不会获得 conf 目录。

Hadoop 1.x的conf和Hadoop 2.x的etc/hadoop的内容有些相似。您将看到各种 *-site.xml 文件。有关配置的更多详细信息,请参阅 Cluster Setup指导。

关于Hadoop 安装文件夹,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/34514416/

有关Hadoop 安装文件夹的更多相关文章

  1. ruby - 使用 RubyZip 生成 ZIP 文件时设置压缩级别 - 2

    我有一个Ruby程序,它使用rubyzip压缩XML文件的目录树。gem。我的问题是文件开始变得很重,我想提高压缩级别,因为压缩时间不是问题。我在rubyzipdocumentation中找不到一种为创建的ZIP文件指定压缩级别的方法。有人知道如何更改此设置吗?是否有另一个允许指定压缩级别的Ruby库? 最佳答案 这是我通过查看ruby​​zip内部创建的代码。level=Zlib::BEST_COMPRESSIONZip::ZipOutputStream.open(zip_file)do|zip|Dir.glob("**/*")d

  2. ruby - 其他文件中的 Rake 任务 - 2

    我试图在一个项目中使用rake,如果我把所有东西都放到Rakefile中,它会很大并且很难读取/找到东西,所以我试着将每个命名空间放在lib/rake中它自己的文件中,我添加了这个到我的rake文件的顶部:Dir['#{File.dirname(__FILE__)}/lib/rake/*.rake'].map{|f|requiref}它加载文件没问题,但没有任务。我现在只有一个.rake文件作为测试,名为“servers.rake”,它看起来像这样:namespace:serverdotask:testdoputs"test"endend所以当我运行rakeserver:testid时

  3. ruby-on-rails - 在 Rails 中将文件大小字符串转换为等效千字节 - 2

    我的目标是转换表单输入,例如“100兆字节”或“1GB”,并将其转换为我可以存储在数据库中的文件大小(以千字节为单位)。目前,我有这个:defquota_convert@regex=/([0-9]+)(.*)s/@sizes=%w{kilobytemegabytegigabyte}m=self.quota.match(@regex)if@sizes.include?m[2]eval("self.quota=#{m[1]}.#{m[2]}")endend这有效,但前提是输入是倍数(“gigabytes”,而不是“gigabyte”)并且由于使用了eval看起来疯狂不安全。所以,功能正常,

  4. ruby-on-rails - Rails 3 中的多个路由文件 - 2

    Rails2.3可以选择随时使用RouteSet#add_configuration_file添加更多路由。是否可以在Rails3项目中做同样的事情? 最佳答案 在config/application.rb中:config.paths.config.routes在Rails3.2(也可能是Rails3.1)中,使用:config.paths["config/routes"] 关于ruby-on-rails-Rails3中的多个路由文件,我们在StackOverflow上找到一个类似的问题

  5. ruby - 将差异补丁应用于字符串/文件 - 2

    对于具有离线功能的智能手机应用程序,我正在为Xml文件创建单向文本同步。我希望我的服务器将增量/差异(例如GNU差异补丁)发送到目标设备。这是计划:Time=0Server:hasversion_1ofXmlfile(~800kiB)Client:hasversion_1ofXmlfile(~800kiB)Time=1Server:hasversion_1andversion_2ofXmlfile(each~800kiB)computesdeltaoftheseversions(=patch)(~10kiB)sendspatchtoClient(~10kiBtransferred)Cl

  6. ruby - 在 64 位 Snow Leopard 上使用 rvm、postgres 9.0、ruby 1.9.2-p136 安装 pg gem 时出现问题 - 2

    我想为Heroku构建一个Rails3应用程序。他们使用Postgres作为他们的数据库,所以我通过MacPorts安装了postgres9.0。现在我需要一个postgresgem并且共识是出于性能原因你想要pggem。但是我对我得到的错误感到非常困惑当我尝试在rvm下通过geminstall安装pg时。我已经非常明确地指定了所有postgres目录的位置可以找到但仍然无法完成安装:$envARCHFLAGS='-archx86_64'geminstallpg--\--with-pg-config=/opt/local/var/db/postgresql90/defaultdb/po

  7. ruby - 如何将脚本文件的末尾读取为数据文件(Perl 或任何其他语言) - 2

    我正在寻找执行以下操作的正确语法(在Perl、Shell或Ruby中):#variabletoaccessthedatalinesappendedasafileEND_OF_SCRIPT_MARKERrawdatastartshereanditcontinues. 最佳答案 Perl用__DATA__做这个:#!/usr/bin/perlusestrict;usewarnings;while(){print;}__DATA__Texttoprintgoeshere 关于ruby-如何将脚

  8. ruby - 使用 Vim Rails,您可以创建一个新的迁移文件并一次性打开它吗? - 2

    使用带有Rails插件的vim,您可以创建一个迁移文件,然后一次性打开该文件吗?textmate也可以这样吗? 最佳答案 你可以使用rails.vim然后做类似的事情::Rgeneratemigratonadd_foo_to_bar插件将打开迁移生成的文件,这正是您想要的。我不能代表textmate。 关于ruby-使用VimRails,您可以创建一个新的迁移文件并一次性打开它吗?,我们在StackOverflow上找到一个类似的问题: https://sta

  9. ruby - 完全离线安装RVM - 2

    我打算为ruby​​脚本创建一个安装程序,但我希望能够确保机器安装了RVM。有没有一种方法可以完全离线安装RVM并且不引人注目(通过不引人注目,就像创建一个可以做所有事情的脚本而不是要求用户向他们的bash_profile或bashrc添加一些东西)我不是要脚本本身,只是一个关于如何走这条路的快速指针(如果可能的话)。我们还研究了这个很有帮助的问题:RVM-isthereawayforsimpleofflineinstall?但有点误导,因为答案只向我们展示了如何离线在RVM中安装ruby。我们需要能够离线安装RVM本身,并查看脚本https://raw.github.com/wayn

  10. ruby-on-rails - rails 目前在重启后没有安装 - 2

    我有一个奇怪的问题:我在rvm上安装了ruby​​onrails。一切正常,我可以创建项目。但是在我输入“railsnew”时重新启动后,我有“程序'rails'当前未安装。”。SystemUbuntu12.04ruby-v"1.9.3p194"gemlistactionmailer(3.2.5)actionpack(3.2.5)activemodel(3.2.5)activerecord(3.2.5)activeresource(3.2.5)activesupport(3.2.5)arel(3.0.2)builder(3.0.0)bundler(1.1.4)coffee-rails(

随机推荐