导读:本文主要介绍哔哩哔哩在数据湖与数据仓库一体架构下,探索查询加速以及索引增强的一些实践。主要内容包括:什么是湖仓一体架构哔哩哔哩目前的湖仓一体架构湖仓一体架构下,数据的排序组织优化湖仓一体架构下,索引增强与优化的实践探索--01什么是湖仓一体当我们讲湖仓一体时,涉及到数据湖和数据仓库两个概念。什么是数据湖?通常来说,它有以下几个特点:有一个统一的存储系统,所有的数据都放到这个统一的存储系统里,没有数据孤岛。支持任意数据类型,比较自由,包括结构化、半结构化和非结构化的数据。这些不同类型的数据都可以统一放到存储系统里。对于多个计算引擎是开放的,包括实时、离线的分析等,计算引擎很丰富。有比较灵活
导读:本文主要介绍哔哩哔哩在数据湖与数据仓库一体架构下,探索查询加速以及索引增强的一些实践。主要内容包括:什么是湖仓一体架构哔哩哔哩目前的湖仓一体架构湖仓一体架构下,数据的排序组织优化湖仓一体架构下,索引增强与优化的实践探索--01什么是湖仓一体当我们讲湖仓一体时,涉及到数据湖和数据仓库两个概念。什么是数据湖?通常来说,它有以下几个特点:有一个统一的存储系统,所有的数据都放到这个统一的存储系统里,没有数据孤岛。支持任意数据类型,比较自由,包括结构化、半结构化和非结构化的数据。这些不同类型的数据都可以统一放到存储系统里。对于多个计算引擎是开放的,包括实时、离线的分析等,计算引擎很丰富。有比较灵活
TheDataStreamAPIgetsitsnamefromthespecial DataStream classthatisusedtorepresentacollectionofdatainaFlinkprogram.Youcanthinkofthemasimmutablecollectionsofdatathatcancontainduplicates.Thisdatacaneitherbefiniteorunbounded,theAPIthatyouusetoworkonthemisthesame.执行模式(流/批)DataStreamAPI支持不同的运行时执行模式,你可以根据你的用
TheDataStreamAPIgetsitsnamefromthespecial DataStream classthatisusedtorepresentacollectionofdatainaFlinkprogram.Youcanthinkofthemasimmutablecollectionsofdatathatcancontainduplicates.Thisdatacaneitherbefiniteorunbounded,theAPIthatyouusetoworkonthemisthesame.执行模式(流/批)DataStreamAPI支持不同的运行时执行模式,你可以根据你的用
在2022世界人工智能大会(WAIC)上,腾讯云数据库技术负责人程彬为大家分享了数据库与AI相结合背后的故事。在专场《当数据库遇上AI》中,程彬基于腾讯云数据库在AI智能化的探索与实践,剖析数据库与AI融合背后的技术关键点,为产业界提供前沿解决方案。以下为演讲实录:点击观看完整版直播回放线上、线下的朋友们,大家好,我是腾讯云数据库工程师程彬,非常荣幸能够在这个时期跟大家一起交流数据库技术。今天我代表我们团队,和大家一起谈谈AI和数据库结合的技术思考,并结合腾讯云数据库的实战经验分享一下AI工程化落地实践。云数据库面临的新挑战随着数字化转型的深入,越来越多的企业生产从线下到线上,大量的数据存储、
在2022世界人工智能大会(WAIC)上,腾讯云数据库技术负责人程彬为大家分享了数据库与AI相结合背后的故事。在专场《当数据库遇上AI》中,程彬基于腾讯云数据库在AI智能化的探索与实践,剖析数据库与AI融合背后的技术关键点,为产业界提供前沿解决方案。以下为演讲实录:点击观看完整版直播回放线上、线下的朋友们,大家好,我是腾讯云数据库工程师程彬,非常荣幸能够在这个时期跟大家一起交流数据库技术。今天我代表我们团队,和大家一起谈谈AI和数据库结合的技术思考,并结合腾讯云数据库的实战经验分享一下AI工程化落地实践。云数据库面临的新挑战随着数字化转型的深入,越来越多的企业生产从线下到线上,大量的数据存储、
本文分享自华为云社区《【华为云Stack】【大架光临】第7期:湖仓一体天花板,大数据一站式SQL分析技术实践》,作者:华为云HetuEngine首席架构师武文博。(一)背景早在2020年5月华为云全球分析师大会中,华为率先提出“湖仓一体”概念,并落地在华为云FusionInsight智能数据湖解决方案中。其中,HetuEngine河图引擎承担一站式SQL分析引擎角色,使能跨源、跨域的一体化分析落地。基于云原生架构,让“逻辑数据湖”大规模数据融合分析提效50倍,本文将详细阐述HetuEngine在实现一站式SQL分析所面临的挑战、技术架构和案例。(二)需求和挑战我们调研了上千家客户,对于一站式S
本文分享自华为云社区《【华为云Stack】【大架光临】第7期:湖仓一体天花板,大数据一站式SQL分析技术实践》,作者:华为云HetuEngine首席架构师武文博。(一)背景早在2020年5月华为云全球分析师大会中,华为率先提出“湖仓一体”概念,并落地在华为云FusionInsight智能数据湖解决方案中。其中,HetuEngine河图引擎承担一站式SQL分析引擎角色,使能跨源、跨域的一体化分析落地。基于云原生架构,让“逻辑数据湖”大规模数据融合分析提效50倍,本文将详细阐述HetuEngine在实现一站式SQL分析所面临的挑战、技术架构和案例。(二)需求和挑战我们调研了上千家客户,对于一站式S
近年来,一方面业务应用的开发逐渐走向简化,企业更加注重业务应用实质的提效性。另一方面,各企业的研发效能也在逐步提升。而这两者也促进了研发一体化管理、业务模版化等软件(平台)的发展。从前端业务应用开发层面,我们见证了众多解决前端开发效能的软件工具或平台的诞生:解决营销活动快速上线的业务效率问题--HTML5营销模版工具,如易企秀解决前端页面从设计稿到前端CSS代码层面的转换效率问题,如Code.FUN解决小程序页面开发过程中的组件复用问题--微信小程序组件,图鸟UI组件解决前端复杂图表的开发问题,如:uCharts插件另外,前端业务应用开发偏底层一些的,就是遍地开发的低代码或零代码平台,如:腾讯
近年来,一方面业务应用的开发逐渐走向简化,企业更加注重业务应用实质的提效性。另一方面,各企业的研发效能也在逐步提升。而这两者也促进了研发一体化管理、业务模版化等软件(平台)的发展。从前端业务应用开发层面,我们见证了众多解决前端开发效能的软件工具或平台的诞生:解决营销活动快速上线的业务效率问题--HTML5营销模版工具,如易企秀解决前端页面从设计稿到前端CSS代码层面的转换效率问题,如Code.FUN解决小程序页面开发过程中的组件复用问题--微信小程序组件,图鸟UI组件解决前端复杂图表的开发问题,如:uCharts插件另外,前端业务应用开发偏底层一些的,就是遍地开发的低代码或零代码平台,如:腾讯