Hadoop和Spark伪分布式安装与使用（史上最全，本人遇到的所有问题都记录在内）第一期本教程（也算不上不哈）适用于从零开始安装，就是电脑上什么都没安装的那种，因为本人就是，看到这篇文章的伙伴，让我们一起安装吧！注意下面下载的所有文件均是免费的，如有网页弹出付费，请及时叉掉，我提供的一般都是官方网站，谨防受骗，在此温馨提醒！下面是我的安装步骤：由于本文着重点在于“Hadoop和Spark伪分布式安装”，所以虚拟机的安装我就不一个一个截图了，但又详细的步骤说明，大家可以参考一下1、在Windows（也就是你的电脑）上下载VMwareWorkstationPro下载网址：https://www.
文章较长，附目录，此次安装是在VM虚拟环境下进行。文章第一节主要是介绍Hadoop与Hadoop生态圈并了解Hadoop三种集群的区别，第二节和大家一起下载，配置Linux三种集群以及大数据相关所需的jdk，zookeeper，只需安装配置的朋友可以直接跳到文章第二节。同时，希望我的文章能帮助到你，如果觉得我的文章写的不错，请留下你宝贵的点赞，谢谢。目录一、了解HadoopHadoop什么是HadoopHadoop的历史Hadoop的特点Hadoop的生态系统1.HDFS2.MapReduce3.YARN4.Hive5.HBase6.Oozie7.Mahout8.spark9.Flink10.
一、安装1.进入文件夹cd/usr/loacl2.上传文件rz3.解压文件 tar-zxvfhadoop-3.3.1.tar.gz 二、配置（单机）1.配置环境变量vim/etc/profile添加一下内容：exportHADOOP_HOME=/usr/local/hadoop-3.3.1exportPATH=$HADOOP_HOME/bin:$HADOOP_HOME/sbin:$PATHexportHDFS_NAMENODE_USER=rootexportHDFS_DATANODE_USER=rootexportHDFS_SECONDARYNAMENODE_USER=rootexportYA
拓展阅读linuxShell命令行-00-intro入门介绍linuxShell命令行-02-var变量linuxShell命令行-03-array数组linuxShell命令行-04-operator操作符linuxShell命令行-05-test验证是否符合条件linuxShell命令行-06-flowcontrol流程控制linuxShell命令行-07-func函数linuxShell命令行-08-fileinclude文件包含linuxShell命令行-09-redirect重定向shellShell是一个用C语言编写的程序，它是用户使用Linux的桥梁。Shell既是一种命令语言，
shelltr命令支持用另一组字符替换一组字符。例如，echohello|tr[a-z][A-Z]会将hello翻译成HELLO。但是，在java中，我必须像下面这样单独替换每个字符"10DogsAreRacing".replaceAll("0","０").replaceAll("1","１").replaceAll("2","２")//....replaceAll("9","９").replaceAll("A","Ａ")//...;apache-commons-lang库提供了一种方便的replaceChars方法来进行此类替换。//half-widthtofull-widthSys
Shell脚本自动输入密码的三种方式注意，如果创建.sh文件后不可以执行，请执行sudochmod755文件名.sh来修改权限。方式一使用echo“密码”|（管道符）使用场景:sudo命令在使用普通用户执行root命令时有时候会需要输入密码，并且在输入密码后一段时间不需要再次输入（但是不影响），这时候可以使用echo"密码"|sudo命令比如我需要一键清空服务器，则可以创建一个clear.sh文件（假使我的密码是123456）：echo"123456"|sudorm-rf/*那么在执行的时候，我只需要./clear.sh就可以清空我的整个数据库。方式二重定向用重定向方法实现交互的前提是指令需要
一、Spark概述Spark最初由美国加州伯克利大学（UCBerkeley）的AMP（Algorithms，MachinesandPeople）实验室于2009年开发，是基于内存计算的大数据并行计算框架，可用于构建大型的、低延迟的数据分析应用程序。Spark在诞生之初属于研究性项目，其诸多核心理念均源自学术研究论文。2013年，Spark加入Apache孵化器项目后，开始获得迅猛的发展，如今已成为Apache软件基金会最重要的三大分布式计算系统开源项目之一（即Hadoop、Spark、Storm）二、Spark的特点Spark计算框架在处理数据时，所有的中间数据都保存在内存中，从而减少磁盘读写
一.HereDocument免交互1.交互的概念交互：当计算机播放某多媒体程序的时候，编程人员可以发出指令控制该程序的运行，而不是程序单方面执行下去，程序在接受到编程人员相应的指令后而相应地做出反应。 对于Linux操作系统中，有许多操作都会触及到交互（根据系统的指示做出相对应的操作满足操作者的需求），对于shell脚本的自动化运维，就要实现免交互来达到自动化运维的效果。常用的交互程序：read，ftp，passwd，su，sudo，fdisk等等 cat也可配合免交互的方式重定向输出到文件。2.HereDoucument的作用和格式HereDocument的作用：使用I/O重定向的方式将命
一、元数据是什么在HDFS中，元数据主要指的是文件相关的元数据，通过两种形式来进行管理维护，第一种是内存，维护集群数据的最新信息，第二种是磁盘，对内存中的信息进行维护与持久化，由namenode管理维护。从广义的角度来说，因为namenode还需要管理众多的DataNode结点，因此DataNode的位置和健康状态信息也属于元数据。二、文件的组成meta:文件的索引，文件和目录是文件系统的基本元素，HDFS将这些元素抽象成INode，每一个文件或目录都对应一个唯一的INode。block:真实的数据存储的位置，Block是对于文件内容组织而言的，按照固定大小，顺序对文件进行划分并编号，划分好的
大数据开发（Hadoop面试真题）1、介绍下YARN？2、YARN有几个模块？3、YARN工作机制？4、YARN高可用？5、YARN中Container是如何启动的？6、YARN的改进之处，Hadoop3.x相对于Hadoop2.x？7、Hive中如何调整Mapper和Reducer的数目？8、Hive的mapjoin？9、Hive使用的时候会将数据同步到HDFS，小文件问题怎么解决的？10、Hive的SQL转换为MapReduce的过程？1、介绍下YARN？YARN是ApacheHadoop生态系统中的一个集群资源管理器。它的主要目的是管理和分配集群中的资源，并为运行在Hadoop集群上的应
