etcd是一款兼具一致性和高可用性的键值数据库,简单、安全、快速、可信,目前是Kubernetes的首要数据存储。我们先来看一段etcd官方对于名字的解释。Thename“etcd”originatedfromtwoideas,theunix“/etc”folderand“d"istributedsystems.The“/etc”folderisaplacetostoreconfigurationdataforasinglesystemwhereasetcdstoresconfigurationinformationforlargescaledistributedsystems.Hence,a
背景ClickHouse作为开源OLAP引擎,因其出色的性能表现在大数据生态中得到了广泛的应用。区别于Hadoop生态组件通常依赖HDFS作为底层的数据存储,ClickHouse使用本地盘来自己管理数据,官方推荐使用SSD作为存储介质来提升性能。但受限于本地盘的容量上限以及SSD盘的价格,用户很难在容量、成本和性能这三者之间找到一个好的平衡。JuiceFS的某个客户近期就遇到了这样的难题,希望将ClickHouse中的温冷数据从SSD盘迁移到更大容量、更低成本的存储介质,更好地支撑业务查询更长时间数据的需求。JuiceFS是基于对象存储实现并完全兼容POSIX的开源分布式文件系统,同时Juic
背景ClickHouse作为开源OLAP引擎,因其出色的性能表现在大数据生态中得到了广泛的应用。区别于Hadoop生态组件通常依赖HDFS作为底层的数据存储,ClickHouse使用本地盘来自己管理数据,官方推荐使用SSD作为存储介质来提升性能。但受限于本地盘的容量上限以及SSD盘的价格,用户很难在容量、成本和性能这三者之间找到一个好的平衡。JuiceFS的某个客户近期就遇到了这样的难题,希望将ClickHouse中的温冷数据从SSD盘迁移到更大容量、更低成本的存储介质,更好地支撑业务查询更长时间数据的需求。JuiceFS是基于对象存储实现并完全兼容POSIX的开源分布式文件系统,同时Juic
近年来,云计算已成为主流,企业从自身利益出发,或是不愿意被单一云服务商锁定,或是业务和数据冗余,或是出于成本优化考虑,会尝试将部分或者全部业务从线下机房迁移到云或者从一个云平台迁移到另一个云平台,业务迁移涉及到数据的迁移。正好JuiceFS已经对接了各种对象存储的API,也实现了数据同步的逻辑,让我们来了解下JuiceFS的sync命令。什么是JuiceFSSyncJuiceFS的sync子命令是功能完整的数据同步实用工具,可以在所有JuiceFS支持的对象存储之间多线程并发同步或迁移数据,既支持在「对象存储」与「JuiceFS」之间迁移数据,也支持在「对象存储」与「对象存储」之间跨云跨区迁移
近年来,云计算已成为主流,企业从自身利益出发,或是不愿意被单一云服务商锁定,或是业务和数据冗余,或是出于成本优化考虑,会尝试将部分或者全部业务从线下机房迁移到云或者从一个云平台迁移到另一个云平台,业务迁移涉及到数据的迁移。正好JuiceFS已经对接了各种对象存储的API,也实现了数据同步的逻辑,让我们来了解下JuiceFS的sync命令。什么是JuiceFSSyncJuiceFS的sync子命令是功能完整的数据同步实用工具,可以在所有JuiceFS支持的对象存储之间多线程并发同步或迁移数据,既支持在「对象存储」与「JuiceFS」之间迁移数据,也支持在「对象存储」与「对象存储」之间跨云跨区迁移
近年来,云计算已成为主流,企业从自身利益出发,或是不愿意被单一云服务商锁定,或是业务和数据冗余,或是出于成本优化考虑,会尝试将部分或者全部业务从线下机房迁移到云或者从一个云平台迁移到另一个云平台,业务迁移涉及到数据的迁移。正好JuiceFS已经对接了各种对象存储的API,也实现了数据同步的逻辑,让我们来了解下JuiceFS的sync命令。什么是JuiceFSSyncJuiceFS的sync子命令是功能完整的数据同步实用工具,可以在所有JuiceFS支持的对象存储之间多线程并发同步或迁移数据,既支持在「对象存储」与「JuiceFS」之间迁移数据,也支持在「对象存储」与「对象存储」之间跨云跨区迁移
近年来,云计算已成为主流,企业从自身利益出发,或是不愿意被单一云服务商锁定,或是业务和数据冗余,或是出于成本优化考虑,会尝试将部分或者全部业务从线下机房迁移到云或者从一个云平台迁移到另一个云平台,业务迁移涉及到数据的迁移。正好JuiceFS已经对接了各种对象存储的API,也实现了数据同步的逻辑,让我们来了解下JuiceFS的sync命令。什么是JuiceFSSyncJuiceFS的sync子命令是功能完整的数据同步实用工具,可以在所有JuiceFS支持的对象存储之间多线程并发同步或迁移数据,既支持在「对象存储」与「JuiceFS」之间迁移数据,也支持在「对象存储」与「对象存储」之间跨云跨区迁移
作者简介:陈海峰,移动云数据库ApacheHBase开发人员,对ApacheHBase、RBF、ApacheSpark有浓厚兴趣。背景ApacheHBase是ApacheHadoop生态体系中的大规模、可扩展、分布式的数据存储服务。同时它还是NoSQL数据库。它的设计初衷是为包含了数百万列的数十亿行记录提供随机的、强一致性的实时查询。默认情况下,HBase的数据会保存在HDFS上,HBase为HDFS做了很多优化来保证稳定性与性能。但是维护HDFS本身一点也不轻松,要不断进行监控、运维、调优、扩容、灾难恢复等一系列事情,而且在公有云上搭建HDFS的费用也是相当高的。为了节省费用、降低维护成本,
作者简介:陈海峰,移动云数据库ApacheHBase开发人员,对ApacheHBase、RBF、ApacheSpark有浓厚兴趣。背景ApacheHBase是ApacheHadoop生态体系中的大规模、可扩展、分布式的数据存储服务。同时它还是NoSQL数据库。它的设计初衷是为包含了数百万列的数十亿行记录提供随机的、强一致性的实时查询。默认情况下,HBase的数据会保存在HDFS上,HBase为HDFS做了很多优化来保证稳定性与性能。但是维护HDFS本身一点也不轻松,要不断进行监控、运维、调优、扩容、灾难恢复等一系列事情,而且在公有云上搭建HDFS的费用也是相当高的。为了节省费用、降低维护成本,