草庐IT

网易Spark Kyuubi核心架构设计与源码实现剖析

版权声明:本文为xpleaf(香飘叶子)博主原创文章,遵循CC4.0BY-SA版权协议,转载请附上原文出处链接和本声明。本文较为系统、全面并且由浅入深地介绍了网易SparkKyuubi出现的背景、核心架构设计与关键源码实现,是学习、应用和对Kyuubi进行二次开发不可多得的技术干货,但由于作者认知水平有限,文中难免会出现描述不准确的措辞,还请多多包容和指出。1概述Kyuubi是网易数帆旗下易数大数据团队开源的一个高性能的通用JDBC和SQL执行引擎,建立在ApacheSpark之上,Kyuubi的出现,较好的弥补了SparkThriftServer在多租户、资源隔离和高可用等方面的不足,是一个

Nginx共享内存剖析及开源项目分享

1.介绍nginx共享内存是利用mmap将内容存储在内存中以及使用自旋锁。当master启动的时候,根据相应的指令去初始化共享内存。利用共享内存实现一个轻量级的k/v系统。2.共享内存内部结构2.1全局变量ngx_cycle结构image.png2.2ngx_cycle结构image.png2.3ngx_zone_s结构image.png2.4ngx_shmtx_t结构image.png2.5ngx_slab_pool_t结构image.png2.6ngx_slab_pool_t内存分配image.png3.项目介绍根据nginx配置文件来动态的添加共享内存。开源项目地址https://git

Nginx共享内存剖析及开源项目分享

1.介绍nginx共享内存是利用mmap将内容存储在内存中以及使用自旋锁。当master启动的时候,根据相应的指令去初始化共享内存。利用共享内存实现一个轻量级的k/v系统。2.共享内存内部结构2.1全局变量ngx_cycle结构image.png2.2ngx_cycle结构image.png2.3ngx_zone_s结构image.png2.4ngx_shmtx_t结构image.png2.5ngx_slab_pool_t结构image.png2.6ngx_slab_pool_t内存分配image.png3.项目介绍根据nginx配置文件来动态的添加共享内存。开源项目地址https://git

开源交流丨一站式大数据平台运维管家ChengYing安装原理剖析

本期我们带大家回顾一下漫路同学的直播分享《ChengYing安装原理剖析》。本期内容多为实战演示,欢迎有兴趣的同学去B站配合视频观看,便于理解。一、ChengYing安装原理ChengYing安装主要分为下面八个模块的内容,下面为大家介绍一下每个模块主要能做的事情:1、主机编排一个组件包里面有很多服务,指定服务安装到哪些主机。2、冲突校验根据组件包之间的依赖关系,校验编排结果是否符合部署条件。3、依赖配置获取依赖服务的配置信息,注入到自身服务。  (图片为:DTUic依赖DTBase组件包的mysql服务)4、自定义配置获取用户自定义的配置,替换组件包内已有的配置:1)获取自定义配置2)根据编

开源交流丨一站式大数据平台运维管家ChengYing安装原理剖析

本期我们带大家回顾一下漫路同学的直播分享《ChengYing安装原理剖析》。本期内容多为实战演示,欢迎有兴趣的同学去B站配合视频观看,便于理解。一、ChengYing安装原理ChengYing安装主要分为下面八个模块的内容,下面为大家介绍一下每个模块主要能做的事情:1、主机编排一个组件包里面有很多服务,指定服务安装到哪些主机。2、冲突校验根据组件包之间的依赖关系,校验编排结果是否符合部署条件。3、依赖配置获取依赖服务的配置信息,注入到自身服务。  (图片为:DTUic依赖DTBase组件包的mysql服务)4、自定义配置获取用户自定义的配置,替换组件包内已有的配置:1)获取自定义配置2)根据编

11.0 Zookeeper watcher 事件机制原理剖析

zookeeper的watcher机制,可以分为四个过程:客户端注册watcher。服务端处理watcher。服务端触发watcher事件。客户端回调watcher。其中客户端注册watcher有三种方式,调用客户端API可以分别通过getData、exists、getChildren实现,利用前面章节创建的maven工程,新建WatcherDemo类,以exists方法举例说明其原理。实例publicclassWatcherDemoimplementsWatcher{  staticZooKeeperzooKeeper;  static{    try{      zooKeeper=new

11.0 Zookeeper watcher 事件机制原理剖析

zookeeper的watcher机制,可以分为四个过程:客户端注册watcher。服务端处理watcher。服务端触发watcher事件。客户端回调watcher。其中客户端注册watcher有三种方式,调用客户端API可以分别通过getData、exists、getChildren实现,利用前面章节创建的maven工程,新建WatcherDemo类,以exists方法举例说明其原理。实例publicclassWatcherDemoimplementsWatcher{  staticZooKeeperzooKeeper;  static{    try{      zooKeeper=new