草庐IT

集群NoSQL

全部标签

【docker】docker-compose安装带ui页面的kafka集群

docker-compose安装带kafka-ui的kafka集群在日常的工作当中,kafka集群作为常用的中间件,其搭建过程略显繁琐,需要配置的文件颇多,为了方便各位初学者快速体验kafka的魅力,本文采取一键式安装kafka-3.3.1(不带zookeeper版本)的集群化安装。仅需将下面配置中的10.0.0.147改为自己本机的ip即可version:"3"services:#kafka可视化工具kafka-ui:container_name:kafka-uiimage:provectuslabs/kafka-ui:latestports:-8989:8080depends_on:-ka

解决Hadoop完全分布式集群中从节点jps没有datanode节点问题

当用start-dfs.sh和start-yarn.sh后,在slave节点(从节点)中用jps命令查看进程正常情况:有时候可能发现没有Datanode,即只有两项(第一项和最后一项)。原因可能是重复格式化namenode后,导致datanode的clusterID和namenode的clusterID不一致。解决方法:在master节点(namenode):找到你的hadoop安装目录(我的是/usr/local/hadoop)下的tmp文件: 进入以下目录(/tmp/dfs/name/current),找到VERSION文件: 打开,记录namedode下的clusterID: 然后到你的

kafka 集群的安装以及配置

1、安装1.1下载与安装kafka下载地址:ApacheKafka需要说明的是,kafka的安装依赖于zk,zk的部署可直接参考《Zookeeper介绍与基本部署》。当然,kafka默认也内置了zk的启动脚本,在kafka安装路径的bin目录下,名称为zookeeper-server-start.sh,如果不想独立安装zk,可直接使用该脚本。1.2配置kafkakafka的配置文件在/app/www/kafka/config/server.properties中broker.id=0listeners=PLAINTEXT://10.0.2.5:9092num.network.threads=3

K8s集群部署最新Jenkins 2.387.1

K8s集群部署最新Jenkins2.387.1概述环境准备设置存储目录并启动NFS服务安装NFS服务端动态创建NFS存储(动态存储)部署jenkins服务概述Jenkins是一个开源软件项目,是基于Java开发的一种持续集成工具,用于监控持续重复的工作,旨在提供一个开放易用的软件平台,使软件项目可以进行持续集成。在Devops时代Jenkins有着不可缺失地位,也体现了Jenkins的亮点,废话不多说,我们进入在k8s环境下安装最新的Jenkins。环境准备一般k8s的数据都会存放于远程存储服务器上来保证安全,采用的方式也有很多,如nfs,ceph等等多种,这里我们介绍nfs存储。nfs存储配

Kafka集群搭建步骤

安装Java运行环境:Kafka是用Java语言编写的,因此需要安装Java运行环境。可以从Oracle官网下载并安装对应版本的JDK。安装ZooKeeper:ZooKeeper是Kafka集群所必需的组件。在官网下载并解压对应版本的ZooKeeper,配置zoo.cfg配置文件,启动ZooKeeper。下载并解压Kafka:在官网上下载并解压对应版本的Kafka。修改配置文件:编辑server.properties配置文件,设置broker.id、listeners、log.dirs等参数,具体设置可根据需要调整。启动Kafka:分别在每台Kafka服务器上启动Kafka,执行以下命令:bi

基于 k8s+docker 环境构建一个高可用、高性能的 web 集群。

目录项目架构图项目描述项目环境环境准备IP地址规划关闭selinux和firewall配置静态ip地址修改主机名升级系统(可做可不做)添加hosts解析项目步骤一.使用ProcessOn设计了整个集群的架构,规划好服务器的IP地址,使用kubeadm安装k8s单master的集群环境(1个master+2个node节点)。二.部署ansible完成相关软件的自动化运维工作,部署防火墙服务器,部署堡垒机。部署堡垒机部署firewall服务器三.部署nfs服务器,为整个web集群提供数据,让所有的web业务pod都去访问,通过pv、pvc和卷挂载实现。四.构建CI/CD环境,部署gitlab,Je

VMware搭建Hadoop集群 for Windows(完整详细,实测可用)

目录一、VMware虚拟机安装(1)虚拟机创建及配置 (2)创建工作文件夹二、克隆虚拟机三、配置虚拟机的网络(1)虚拟网络配置(2)配置虚拟机主机名(3)配置虚拟机hosts(4)配置DNS、网关等(5)reboot重启虚拟机四、配置SSH服务(1)确认ssh进程 (2)生成秘钥(3)秘钥拷贝 五、JDK安装(1)把JDK安装包传输到虚拟机(2)把JDK安装包解压到/export/software/(3)配置JDK环境变量六、Hadoop安装(1)安装包上传及解压(2)Hadoop系统环境配置 (3)Hadoop集群境配置 3.1 修改hadoop-env.sh文件3.2 修改core-sit

头歌 · NoSQL系列课程 · Neo4J / MongoDB 实验

科研部建设中,覆盖歌云端实验平台对于Neoj4、MongoDB 的实验项目目录目录​编辑Neo4j 实验一、二MonGoDB实验三、四实验五六、redis Neo4j 实验一、二//NoSQL专项1.第1关:创建第一个Neo4j数据库节点CREATE(TomC:Person{name:'TomCruise',born:1962})2.第2关:一次创建多个演员节点UNWIND[{name:'TomHanks',born:1956},{name:'KeanuReeves',born:1964},{name:'TomCruise',born:1962}]ASrowCREATE(p:Person)SE

K8S最新版本集群部署(v1.28) + 容器引擎Docker部署(下)

温故知新📚第三章Kubernetes各组件部署📗安装kubectl(可直接跳转到安装kubeadm章节,直接全部安装了)📕下载kubectl安装包📕执行kubectl安装📕验证kubectl📗安装kubeadm📕添加yum存储库配置文件kubernetes.repo📕安装kubeadm&kubelet&kubectl(前面安装kubectl可以放到这里一块安装)📕查看版本信息📕启动kubelet📘kubelet启动、查看状态、日志命令📗其他机器Kubernetes组件安装📕关闭防火墙、swap、selinux📕创建sudo安装用户kubernetes📕添加kubernetes对应的yum存储库

ES(ElasticSearch)快速入门和集群搭建

文章目录1.ES快速入门1.1.index管理1.2.mapping管理1.3.document管理1.4.ES读写过程1.4.1.documnetrouting(数据路由)1.4.2.为什么primaryshard数量不可变?1.5.luke查看ES的逻辑结构2.IK分词器2.1.测试分词器2.2.中文分词器2.2.1.Lucene自带中文分词器2.2.2.第三方中文分析器2.3.安装IK分词器2.4.两种分词模式2.5.自定义词库3.field详细介绍3.1.field的属性介绍3.2.常用field类型3.2.1.text文本字段3.2.2.keyword关键字字段3.2.3.date日