草庐IT

java - Hadoop 2.6.0 的 Eclipse 插件

coder 2024-01-06 原文

我想用 Java 编写 MapReduce 作业。为此,我在 Ubuntu 14.04 LTS VM 中安装了 Hadoop 2.6.0。安装目录为/usr/local/hadoop

现在根据很多教程,在/contrib目录下找到一个Eclipse插件,粘贴到/Eclipse/plugins文件夹下。

问题是没有 src/contrib 文件夹,也没有任何与 Hadoop 2.6.0 捆绑在一起的 Eclipse 插件。那么如何配置 Eclipse Europa 来运行 Hadoop MapReduce 作业呢?如果那不可能,编写 MapReduce 作业的替代方案是什么?

最佳答案

将Hadoop-2.6.0与eclipse集成

  1. 在所有 Hadoop 进程运行的地方创建用户“hdfs”。
  2. Hadoop 安装到目录“/opt/hadoop”。
  3. Eclipse 安装到目录“/opt/eclipse”。

第 1 步: 下载 hadoop-eclipse-plugin 2.6.0 jar

第 2 步: 将 eclipse 的 Map-Reduce 插件复制到您的 eclipse 文件夹的插件目录中 – sudo cp/home/hdfs/Downloads/hadoop-eclipse-plugin-2.6.0.jar/opt/eclipse/plugins/ 使用命令重新启动 eclipse – /opt/eclipse/eclipse -vm/usr/local/jdk1.8.0_05/bin/java -vmargs -Xmx1024m 如果 elcipse 由于 X11 转发问题而没有出现,请在切换到“hdfs”时尝试使用“sux”而不是“su”。 第 3 步:启动 eclipse 1. $ECLIPSE_HOME/ eclipse

第 4 步:在 Eclipse 菜单中单击 Window --> Open Perspective --> Others --> MapReduce

第 5 步:在底部的 MapReduce 图标中单击以添加新的 Hadoop 位置

第六步:输入MapReduce & HDFS运行端口 回想一下,在 $HADOOP_HOME/conf/mapred-site.xml 中指定的 MapReduce 端口 (9001) 回想一下,在 $HADOOP_HOME/conf/core-site.xml 中指定的 HDFS 端口 (9000) 输入Hadoop用户名

第 7 步:添加 Hadoop 位置后,将在 Eclipse Project Explorer 窗口中看到/显示 DFS 位置(Windows-->Show View-->Project Explorer)

第 8 步:添加 Hadoop 后,DFS 位置将在 Project Explorer 窗口中看到/显示,

第9步:右击DFS位置,点击连接

第十步:连接成功后,会显示所有DFS文件夹。

第 11 步:您可以创建目录,将文件上传到 HDFS 位置,通过右键单击列出的任何目录将文件下载到本地。

关于java - Hadoop 2.6.0 的 Eclipse 插件,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/28494727/

有关java - Hadoop 2.6.0 的 Eclipse 插件的更多相关文章

  1. ruby - 如何每月在 Heroku 运行一次 Scheduler 插件? - 2

    在选择我想要运行操作的频率时,唯一的选项是“每天”、“每小时”和“每10分钟”。谢谢!我想为我的Rails3.1应用程序运行调度程序。 最佳答案 这不是一个优雅的解决方案,但您可以安排它每天运行,并在实际开始工作之前检查日期是否为当月的第一天。 关于ruby-如何每月在Heroku运行一次Scheduler插件?,我们在StackOverflow上找到一个类似的问题: https://stackoverflow.com/questions/8692687/

  2. ruby-on-rails - 无法使用 Rails 3.2 创建插件? - 2

    我对最新版本的Rails有疑问。我创建了一个新应用程序(railsnewMyProject),但我没有脚本/生成,只有脚本/rails,当我输入ruby./script/railsgeneratepluginmy_plugin"Couldnotfindgeneratorplugin.".你知道如何生成插件模板吗?没有这个命令可以创建插件吗?PS:我正在使用Rails3.2.1和ruby​​1.8.7[universal-darwin11.0] 最佳答案 随着Rails3.2.0的发布,插件生成器已经被移除。查看变更日志here.现在

  3. java - 等价于 Java 中的 Ruby Hash - 2

    我真的很习惯使用Ruby编写以下代码:my_hash={}my_hash['test']=1Java中对应的数据结构是什么? 最佳答案 HashMapmap=newHashMap();map.put("test",1);我假设? 关于java-等价于Java中的RubyHash,我们在StackOverflow上找到一个类似的问题: https://stackoverflow.com/questions/22737685/

  4. java - 从 JRuby 调用 Java 类的问题 - 2

    我正在尝试使用boilerpipe来自JRuby。我看过guide从JRuby调用Java,并成功地将它与另一个Java包一起使用,但无法弄清楚为什么同样的东西不能用于boilerpipe。我正在尝试基本上从JRuby中执行与此Java等效的操作:URLurl=newURL("http://www.example.com/some-location/index.html");Stringtext=ArticleExtractor.INSTANCE.getText(url);在JRuby中试过这个:require'java'url=java.net.URL.new("http://www

  5. java - 我的模型类或其他类中应该有逻辑吗 - 2

    我只想对我一直在思考的这个问题有其他意见,例如我有classuser_controller和classuserclassUserattr_accessor:name,:usernameendclassUserController//dosomethingaboutanythingaboutusersend问题是我的User类中是否应该有逻辑user=User.newuser.do_something(user1)oritshouldbeuser_controller=UserController.newuser_controller.do_something(user1,user2)我

  6. java - 什么相当于 ruby​​ 的 rack 或 python 的 Java wsgi? - 2

    什么是ruby​​的rack或python的Java的wsgi?还有一个路由库。 最佳答案 来自Python标准PEP333:Bycontrast,althoughJavahasjustasmanywebapplicationframeworksavailable,Java's"servlet"APImakesitpossibleforapplicationswrittenwithanyJavawebapplicationframeworktoruninanywebserverthatsupportstheservletAPI.ht

  7. Observability:从零开始创建 Java 微服务并监控它 (二) - 2

    这篇文章是继上一篇文章“Observability:从零开始创建Java微服务并监控它(一)”的续篇。在上一篇文章中,我们讲述了如何创建一个Javaweb应用,并使用Filebeat来收集应用所生成的日志。在今天的文章中,我来详述如何收集应用的指标,使用APM来监控应用并监督web服务的在线情况。源码可以在地址 https://github.com/liu-xiao-guo/java_observability 进行下载。摄入指标指标被视为可以随时更改的时间点值。当前请求的数量可以改变任何毫秒。你可能有1000个请求的峰值,然后一切都回到一个请求。这也意味着这些指标可能不准确,你还想提取最小/

  8. 【Java 面试合集】HashMap中为什么引入红黑树,而不是AVL树呢 - 2

    HashMap中为什么引入红黑树,而不是AVL树呢1.概述开始学习这个知识点之前我们需要知道,在JDK1.8以及之前,针对HashMap有什么不同。JDK1.7的时候,HashMap的底层实现是数组+链表JDK1.8的时候,HashMap的底层实现是数组+链表+红黑树我们要思考一个问题,为什么要从链表转为红黑树呢。首先先让我们了解下链表有什么不好???2.链表上述的截图其实就是链表的结构,我们来看下链表的增删改查的时间复杂度增:因为链表不是线性结构,所以每次添加的时候,只需要移动一个节点,所以可以理解为复杂度是N(1)删:算法时间复杂度跟增保持一致查:既然是非线性结构,所以查询某一个节点的时候

  9. 【Java入门】使用Java实现文件夹的遍历 - 2

    遍历文件夹我们通常是使用递归进行操作,这种方式比较简单,也比较容易理解。本文为大家介绍另一种不使用递归的方式,由于没有使用递归,只用到了循环和集合,所以效率更高一些!一、使用递归遍历文件夹整体思路1、使用File封装初始目录,2、打印这个目录3、获取这个目录下所有的子文件和子目录的数组。4、遍历这个数组,取出每个File对象4-1、如果File是否是一个文件,打印4-2、否则就是一个目录,递归调用代码实现publicclassSearchFile{publicstaticvoidmain(String[]args){//初始目录Filedir=newFile("d:/Dev");Datebeg

  10. hadoop安装之保姆级教程(二)之YARN的配置 - 2

    1.1.1 YARN的介绍 为克服Hadoop1.0中HDFS和MapReduce存在的各种问题⽽提出的,针对Hadoop1.0中的MapReduce在扩展性和多框架⽀持⽅⾯的不⾜,提出了全新的资源管理框架YARN. ApacheYARN(YetanotherResourceNegotiator的缩写)是Hadoop集群的资源管理系统,负责为计算程序提供服务器计算资源,相当于⼀个分布式的操作系统平台,⽽MapReduce等计算程序则相当于运⾏于操作系统之上的应⽤程序。 YARN被引⼊Hadoop2,最初是为了改善MapReduce的实现,但是因为具有⾜够的通⽤性,同样可以⽀持其他的分布式计算模

随机推荐