记录笔记，尝试在centOS下安装Hadoop伪分布式（之前是在Ubuntu下安装的），查漏补缺。步骤第一步：先把在window系统中下载好的关于Hadoop、jdk压缩包用Xftp传输到centos名称自定义，主机我写的是IP地址，需要去centOS的终端输入ifconfig,划黄线的是IP地址 用户名如果在安装centos中没有创建的话，默认是root，密码是登陆密码。点击连接，弹出下面这个对话框，我选的是一次性接受（自行选择）。 成功会亮起小绿点，然后直接把从此电脑中的目标压缩包拖拽到新建会话那边你想放的地方，能记住地址就行。这个地址建议简洁，之后的安装会出现多次。 第二步：设置cen
Hadoop集群安装和搭建（从零开始超级超级详细的过程）（上）目录Hadoop集群安装和搭建（从零开始超级超级详细的过程）（上）前言一、Hadoop项目结构二、Hadoop安装方式三、VMware虚拟网络设置+Windows10的IP地址配置+CentOS7静态IP设置(1)VMware虚拟网络设置(2)Window10的IP地址配置(3)CentOS（hadoop100）静态IP设置(5)设置名字解析四、XSHELL7远程访问工具+XFTP7文件传输(1)分别下好XSHELL7和XFTP71）先安装Xshell2）打不开Xshell7的解决方法3）新建XShell文件4）安装Xftp五、基础
目录Hadoop集群搭建环境准备安装虚拟机Linux系统网络配置虚拟机克隆SSH服务配置Hadoop集群搭建安装JDK安装HadoopHadoop集群配置Hadoop集群测试格式化文件系统启动和查看Hadoop进程查看Web界面简单使用Hadoop集群Hadoop集群搭建环境准备虚拟机：OracleVMVirtualBox操作系统：Centos8Hadoop版本：3.3.4JDK版本：1.8免密登录（SSH协议）：MobaXterm安装虚拟机打开OracleVMVirtualBox并新建虚拟机内存选择选择现在创建虚拟硬盘设置虚拟硬盘文件类型建议动态分配设置虚拟硬盘大小注意：创建完先不要打开，先
google.common的guava依赖的partition分割产生的浅拷贝问题解决方案问题背景解决方案Lyric：说你不爱我问题背景使用google.common的guava依赖的partition分割产生的浅拷贝问题，如:把userList集合分割成每个10000的小集合Listpartitions=Lists.partition(userList,10000);在老年代中会越来越到，知道产生FullGC如果直接partitions.get(0).clear()或者userList.clear()都会导致原数据的丢失，因为这是浅拷贝的方式解决方案Listpartitions=Lists.
1.概述上一篇安装了Hadoop单机，所以今天打算先用Hadoop的mapreduce自带的Grep实例实践一下，顺带测试Hadoop是否成功安装。（不是水博客，有在努力填坑）实践开始之前，我们需要了解一下Grep实例，Grep（缩写来自GloballysearchaRegularExpressionandPrint）是一种强大的文本搜索工具，它能使用特定模式匹配（包括正则表达式）搜索文本。在今天的实例当中我们将创建一个input文件夹，并利用这个工具从该文件夹中匹配到符合正则式“dfs[a-z.]+”的xml文件，自动创建output文件夹并将结果在该文件夹中输出。那么让我们开始吧！2.Gr
使用EclipseMars。我已经通过帮助中的安装软件添加了awsjavasdk1.11.123。现在，当我运行TomcatServer7时，出现此错误:2017年5月2日下午11:57:32org.apache.catalina.core.StandardWrapperValve调用SEVERE:Servlet.service()forservlet[PdsServlet]在路径[/PdsAWS]的上下文中抛出异常[java.lang.NoClassDefFoundError:无法初始化类com.amazonaws.partitions.PartitionsLoader]根本原因ja
我正在尝试安装spark2.3.0，更具体地说，它是spark-2.3.0-bin-hadoppo2.7'D:\spark\bin'已经添加到环境变量PATH中。同时，安装了JDK-10。未安装Hadoop。但是谷歌说spark可以在没有hadoop的情况下工作。这是错误信息C:\Users\a>spark-shellExceptioninthread"main"java.lang.ExceptionInInitializerErroratorg.apache.hadoop.util.StringUtils.(StringUtils.java:80)atorg.apache.hadoo
HDFS通讯协议及主要流程HDFS的通讯协议HDFS架构HDFS架构HDFS基本概念HDFS通讯协议HDFSRPC接口HDFS的通讯协议HDFS架构HDFS(Hadoop分布式文件系统)是ApacheHadoopCore项目的一部分，被设计为可运行在通用硬件上、能处理超大文件的分布式文件系统，其具有高容错、高吞吐、易扩展、高可靠等特性。HDFS架构HDFS是一个主/从体系结构的分布式系统，在HDFS集群中，有一个NameNode和一组DataNode，用户可以通过HDFS客户端同NameNode和DataNode交互访问数据。其中NameNode是主，DataNode是从。NameNode负责
tl;dr;我试图了解分配了多个分区的单个消费者如何处理到达分区的消费记录。例如:在移动到下一个之前完全处理单个分区。每次从每个分区处理一大块可用记录。从第一个可用分区处理一批N条记录以循环方式处理来自分区的一批N条记录我找到了Ranged或RoundRobin分配器的partition.assignment.strategy配置，但这只决定了消费者如何分配分区，而不是它如何分配从分配给它的分区中消耗。我开始深入研究KafkaConsumer源代码并#poll()带我去#pollForFetches()#pollForFetches()然后带我到fetcher#fetchedRecor
上学期的大数据处理课程，笔者被分配到Impala的汇报主题。然而汇报内容如果单纯只介绍Impala的理论知识，实在是有些太过肤浅，最起码得有一些实际操作来展示一下Impala的功能。但是Impala的配置实在是有些困难与繁琐，于是笔者通过各种渠道找到了Cloudera公司（Hadoop数据管理软件与服务提供商）在早些年发行的虚拟机文件，通过配置该虚拟机可以直接获得一个较为完整的大数据处理应用环境（包括Hadoop、Impala等数种大数据处理应用）。【虚拟机文件资源已上传百度网盘，没办法，这个虚拟机文件实在是太大了（5+G），要不然我就直接在博客上资源绑定了】链接：https:
