distributecachepurge阻塞task的bug测试。cdh4.2.0:测试方法：local.cache.size=650因为cachedirsize和count是存在内存中的HashMap中的，把local.cache.size值设置的足够小，在每次job运行时都会触发deletedistributecache的操作。又因为是private的，是同步删除，会造成task阻塞。使用dd来构造1M个的小文件至某一个cachedir目录。观察阻塞时间，bug可以重现。#!/bin/bashdir=`foriin{1..11};dofind/home/xxx/hard_disk/${i}
distributecachepurge阻塞task的bug测试。cdh4.2.0:测试方法：local.cache.size=650因为cachedirsize和count是存在内存中的HashMap中的，把local.cache.size值设置的足够小，在每次job运行时都会触发deletedistributecache的操作。又因为是private的，是同步删除，会造成task阻塞。使用dd来构造1M个的小文件至某一个cachedir目录。观察阻塞时间，bug可以重现。#!/bin/bashdir=`foriin{1..11};dofind/home/xxx/hard_disk/${i}
CDH6.3.2集成openldap配置标签（空格分隔）：大数据运维专栏一：hive集成openldap1.1CDH6.3.2的主机节点安装openldap的客户端openldap服务端已经配置完成，不会看flyfish博文https://blog.51cto.com/flyfish225/4562546在此不做部署：安装openldap-client装包：yum-yinstallopenldap-clientssssdauthconfignss-pam-ldapd编辑配置文件：vim/etc/openldap/ldap.conf---BASEdc=flyfish,dc=comURIldap:
CDH6.3.2集成openldap配置标签（空格分隔）：大数据运维专栏一：hive集成openldap1.1CDH6.3.2的主机节点安装openldap的客户端openldap服务端已经配置完成，不会看flyfish博文https://blog.51cto.com/flyfish225/4562546在此不做部署：安装openldap-client装包：yum-yinstallopenldap-clientssssdauthconfignss-pam-ldapd编辑配置文件：vim/etc/openldap/ldap.conf---BASEdc=flyfish,dc=comURIldap:
Atlas是什么?Atlas是一组可扩展和可扩展的核心基础治理服务，使企业能够有效地满足Hadoop中的合规性要求，并允许与整个企业数据生态系统集成。ApacheAtlas为组织提供了开放的元数据管理和治理功能，以建立其数据资产的目录，对这些资产进行分类和治理，并为数据科学家，分析师和数据治理团队提供围绕这些数据资产的协作功能。如果没有Atlas大数据表依赖问题不好解决，元数据管理需要自行开发，如：hive血缘依赖图对于表依赖问题，没有一个可以查询的工具，不方便错误定位，即业务sql开发官网：http://atlas.apache.org表与表之间的血缘依赖字段与字段之间的血缘依赖1Atlas
Atlas是什么?Atlas是一组可扩展和可扩展的核心基础治理服务，使企业能够有效地满足Hadoop中的合规性要求，并允许与整个企业数据生态系统集成。ApacheAtlas为组织提供了开放的元数据管理和治理功能，以建立其数据资产的目录，对这些资产进行分类和治理，并为数据科学家，分析师和数据治理团队提供围绕这些数据资产的协作功能。如果没有Atlas大数据表依赖问题不好解决，元数据管理需要自行开发，如：hive血缘依赖图对于表依赖问题，没有一个可以查询的工具，不方便错误定位，即业务sql开发官网：http://atlas.apache.org表与表之间的血缘依赖字段与字段之间的血缘依赖1Atlas
欢迎访问我的GitHub这里分类和汇总了欣宸的全部原创(含配套源码)：https://github.com/zq2599/blog_demos系列介绍《CDH5部署三部曲》共三篇文章，对CDH5.7.2版本的准备、部署、启动、设置等环节进行实战，内容如下：第一篇：《准备工作》，即CDH集群中每一台机器都要做的操作；第二篇：《部署和设置》，本章完成CDH集群部署和启动；第三篇：《问题总结》，列出实战中遇到的问题及解决办法；版本信息CentOS：7.6.1810Python：2.7.5（操作系统自带）CM包：cloudera-manager-centos7-cm5.7.2_x86_64.tar.g
欢迎访问我的GitHub这里分类和汇总了欣宸的全部原创(含配套源码)：https://github.com/zq2599/blog_demos系列介绍《CDH5部署三部曲》共三篇文章，对CDH5.7.2版本的准备、部署、启动、设置等环节进行实战，内容如下：第一篇：《准备工作》，即CDH集群中每一台机器都要做的操作；第二篇：《部署和设置》，本章完成CDH集群部署和启动；第三篇：《问题总结》，列出实战中遇到的问题及解决办法；版本信息CentOS：7.6.1810Python：2.7.5（操作系统自带）CM包：cloudera-manager-centos7-cm5.7.2_x86_64.tar.g
