几天把跨年搞的和人生分水岭似的
那么,2023年的你有什么不一样了吗?
是不是还和去年一样的造型?新姿势,学起来!
腾讯云开发者社区带着干货来了,腾讯云×尚硅谷大数据研究院强强联手,重磅推出新年第一弹:
腾讯云EMR数仓教程发布
腾讯云开发者社区“公开课”直达:
这套教程由腾讯云官方与尚硅谷大数据研究院联合推出,分为实时及离线两部分。
实时数仓依托国内电商巨头的真实业务场景,基于各大互联网企业对于腾讯云EMR架构体系的需求,将整个电商的实时数据仓库体系搭建在腾讯云架构上。教程全方面完成了整个实时数据仓库架构的海量数据采集、存储、计算以及可视化展示,整个业务流程全部搭建在腾讯云服务器上,并全部采用腾讯云EMR的服务组件,将各EMR服务组件进行充分联动。
离线数仓则基于腾讯云EMR平台打通数据采集通道,从数仓建模到逐层构建离线数仓,拥有完整的数仓建模理论及建模过程,且在构建过程中采用了EMR平台组件和原生组件相结合的方式,让企业在组件选择上更加灵活。
项目文档按照出书标准编写,详细讲解一行一行手敲代码,内容全面且细致,教程附赠全套视频、文档、代码、资料。通过本套教程的学习,你可以全方位掌握腾讯云的大数据服务组件使用和调优!
【教程简介】
在“腾讯云开发者”公众号发送“数仓建设”免费获取全套教程
【教程目录】
实时数仓:
001.腾讯云EMR实时数仓教程简介
002.需求及架构-简介
003.需求及架构-课程目标
004.需求及架构-数据仓库概念
005.需求及架构-项目需求
006.需求及架构-技术选型
007.需求及架构-数据流程设计
008.需求及架构-框架的版本选型
009.需求及架构-服务器选型
010.需求及架构-集群规模及集群规划
011.需求及架构-电商业务简介
012.需求及架构-EMR的购买与启动
013.需求及架构-EMR集群简单说明
014.需求及架构-使用XShell连接服务
015.需求及架构-修改主机映射&配置无密登录
016.需求及架构-电商业务数据说明
017.需求及架构-上传资料包
018.需求及架构-MySQL的安装与启动
019.需求及架构-MySQL修改密码&远程访问
020.需求及架构-生成业务数据
021.需求及架构-Kafka安装
022.需求及架构-Kafka配置环境变量&群起
023.需求及架构-同步策略&开启MySQL Binlog
024.需求及架构-Flink安装
025.需求及架构-项目构建
026.需求及架构-FlinkCDC代码讲解&本地测试
027.需求及架构-FlinkCDC代码远程测试
028.实时数仓搭建-课程介绍
029.实时数仓搭建-分层框架-ODS&DIM层
030.实时数仓搭建-DWD&DWS&ADS层
031.实时数仓搭建-架构分析
032.实时数仓搭建-准备工作
033.实时数仓搭建-具体工作
034.实时数仓搭建-HBase部署
035.实时数仓搭建-HBase启动&测试
036.实时数仓搭建-IDEA代码环境说明
037.实时数仓搭建-Phoenix部署
038.实时数仓搭建-Phoenix启动
039.实时数仓搭建-Redis部署
040.实时数仓搭建-Redis启动&测试
041.实时数仓搭建-ClickHouse安装&启动&测试
042.实时数仓搭建-课程说明
043.实时数仓搭建-DIM层-思路分析 1
044.实时数仓搭建-DIM层-思路分析 2
045.实时数仓搭建-DIM层-思路分析 3
046.实时数仓搭建-DIM层-思路整理
047.实时数仓搭建-DIM层-消费&过滤&转换数据
048.实时数仓搭建-DIM层-配置信息表
049.实时数仓搭建-DIM层-读取配置信息&处理成广播流
050.实时数仓搭建-DIM层-处理连接流-思路分析
051.实时数仓搭建-DIM层-处理连接流-广播流-解析数据
052.实时数仓搭建-DIM层-处理连接流-广播流-校验并建表
053.实时数仓搭建-DIM层-处理连接流-广播流-写入状态
054.实时数仓搭建-DIM层-处理连接流-主流-读取状态&过滤数据
055.实时数仓搭建-DIM层-处理连接流-主流-补充字段并写出数据
056.实时数仓搭建-DIM层-将数据写出到Phoenix-编码
057.实时数仓搭建-DIM层-将数据写出到Phoenix-测试
058.实时数仓搭建-DIM层-将数据写出到Phoenix-打包上传集群
059.实时数仓搭建-DWD层-用户域用户注册代码讲解
060.实时数仓搭建-DWD层-前置知识-WindowJOIN-说明
061.实时数仓搭建-DWD层-前置知识-IntervalJOIN-说明
062.实时数仓搭建-DWD层-前置知识-IntervalJOIN-编码
063.实时数仓搭建-DWD层-前置知识-IntervalJOIN-测试
064.实时数仓搭建-DWD层-交易域加购事实表
065.实时数仓搭建-DWD层-工具域领券事实表
066.实时数仓搭建-DWD层-互动域评价事实表
067.实时数仓搭建-DWD层-交易域订单事实表
068.实时数仓搭建-DWS层-整体介绍
069.实时数仓搭建-DWS层-用户域用户注册基础代码
070.实时数仓搭建-DWS层-ClickHouse工具类 1
071.实时数仓搭建-DWS层-ClickHouse工具类 2
072.实时数仓搭建-DWS层-ClickHouse工具类 3
073.实时数仓搭建-DWS层-交易域加购需求基础代码
074.实时数仓搭建-DWS层-交易域SKU粒度下单需求前置说明
075.实时数仓搭建-DWS层-交易域-SKU粒度下单需求-需求分析 1
076.实时数仓搭建-DWS层-交易域-SKU粒度下单需求-需求分析 2
077.实时数仓搭建-DWS层-交易域-SKU粒度下单需求-思路整理
078.实时数仓搭建-DWS层-交易域-SKU粒度下单需求-JavaBean封装
079.实时数仓搭建-DWS层-交易域-SKU粒度下单需求-读取&转换&过滤&分组数据
080.实时数仓搭建-DWS层-交易域-SKU粒度下单需求-left join重复数据去重
081.实时数仓搭建-DWS层-交易域-SKU粒度下单需求-分组&开窗&聚合
082.实时数仓搭建-DWS层-交易域-SKU粒度下单需求-中间测试
083.实时数仓搭建-DWS层-交易域-SKU粒度下单需求-关联维表说明
084.实时数仓搭建-DWS层-交易域-SKU粒度下单需求-JDBCUtil封装 1
085.实时数仓搭建-DWS层-交易域-SKU粒度下单需求-JDBCUtil封装 2
086.实时数仓搭建-DWS层-交易域-SKU粒度下单需求-JDBCUtil测试&再封装
087.实时数仓搭建-DWS层-交易域-SKU粒度下单需求-关联维表-优化的必要性
088.实时数仓搭建-DWS层-交易域-SKU粒度下单需求-关联维表-旁路缓存-说明
089.实时数仓搭建-DWS层-交易域-SKU粒度下单需求-关联维表-旁路缓存-读写编码
090.实时数仓搭建-DWS层-交易域-SKU粒度下单需求-关联维表-旁路缓存-读写测试
091.实时数仓搭建-DWS层-交易域-SKU粒度下单需求-关联维表-旁路缓存-删除缓存数据
092.实时数仓搭建-DWS层-交易域-SKU粒度下单需求-关联维表-旁路缓存-删除缓存数据 测试
093.实时数仓搭建-DWS层-交易域-SKU粒度下单需求-关联维表-异步IO-说明
094.实时数仓搭建-DWS层-交易域-SKU粒度下单需求-关联维表-异步IO-API说明
095.实时数仓搭建-DWS层-交易域-SKU粒度下单需求-关联维表-异步IO-线程池工具类
096.实时数仓搭建-DWS层-交易域-SKU粒度下单需求-关联维表-异步IO-异步函数 1
097.实时数仓搭建-DWS层-交易域-SKU粒度下单需求-关联维表-异步IO-异步函数 2
098.实时数仓搭建-DWS层-交易域-SKU粒度下单需求-关联维表-异步IO-异步函数 3
099.实时数仓搭建-DWS层-交易域-SKU粒度下单需求-关联维表-异步IO-异步函数 4
100.实时数仓搭建-DWS层-交易域-SKU粒度下单需求-完整测试
101.实时数仓搭建-DWS层-交易域-SKU粒度下单需求-关联维表-测试准备工作
102.实时数仓搭建-DWS层-交易域-SKU粒度下单需求-关联维表-测试完成
103.实时数仓搭建-DWS层-交易域-SKU粒度下单需求-关联其他维表&写出数据
104.实时数仓搭建-可视化展示-课程介绍
105.实时数仓搭建-可视化展示-任务介绍
106.实时数仓搭建-可视化展示-Sugar基本介绍
107.实时数仓搭建-可视化展示-Web项目基本说明
108.实时数仓搭建-可视化展示-构建SpringBoot Web模块
109.实时数仓搭建-可视化展示-初体验SpringBoot Web模块
110.实时数仓搭建-可视化展示-再体验SpringBoot Web模块
111.实时数仓搭建-可视化展示-GMV需求-Mapper完成
112.实时数仓搭建-可视化展示-GMV需求-Service完成
113.实时数仓搭建-可视化展示-GMV需求-Controllrt完成
114.实时数仓搭建-可视化展示-GMV需求-接口测试完成
115.实时数仓搭建-可视化展示-GMV需求-对接Sugar测试完成
离线数仓:
01.腾讯云EMR离线数仓教程简介
02.采集模块介绍
03.课程目标
04.数据仓库概念
05.项目需求
06.技术选型
07.数据流程设计
08.框架版本选型
09.服务器选型
10.集群规模&规划
11.电商业务简介
12.选购EMR集群
13.远程连接
14.修改主机名
15.配置主机映射
16.配置免密登录
17.电商业务数据分析
18.上传资料包
19.MySQL安装与启动
20.远程连接MySQL&建库建表
21.业务数据生成
22.Kafka服务安装
23.Kafka服务群起&测试
24.Flume&同步策略和工具概述
25.开启MySQL Binlog 配置信息
26.开启MySQL Binlog 测试
27.使用Sqoop完成全量数据同步
28.增量数据同步数据通道
29.Flink部署
30.FlinkCDC简单代码说明
31.FlinkCDC简单代码本地测试
32.FlinkCDC完整代码说明
33.FlinkCDC完整代码打包测试
34.Flume配置文件
35.增量数据同步测试
36.Flume脚本完成
37.构建离线数仓文档说明
38.数据仓库概述
39.建模准备工作
40.建模具体工作
41.Hive环境准备-修改配置
42.Hive环境准备-测试
43.Yarn环境准备
44.开发环境准备说明
45.ODS层-建表
46.ODS层-装载数据
47.DIM层-商品维度表
48.DIM层-优惠券维度表
49.DIM层-活动维度表
50.DIM层-地区维度表
51.DIM层-用户维度表
52.DWD层-加购事实表
53.DWD层-下单事实表
54.DWD层-取消订单事实表
55.DWD层-其他事实表&脚本封装
56.DWD层-数据展示
57.DWS层-交易域用户商品粒度订单需求-需求分析
58.DWS层-交易域用户商品粒度订单需求-建表&装载数据
59.DWS层-交易域用户商品粒度退单需求-建表&装载数据
60.ADS层-品牌订单统计
61.ADS层-交易综合统计
62.数据可视化-建表&导出数据
63.数据可视化-最终总结
猛击“阅读原文”
我主要使用Ruby来执行此操作,但到目前为止我的攻击计划如下:使用gemsrdf、rdf-rdfa和rdf-microdata或mida来解析给定任何URI的数据。我认为最好映射到像schema.org这样的统一模式,例如使用这个yaml文件,它试图描述数据词汇表和opengraph到schema.org之间的转换:#SchemaXtoschema.orgconversion#data-vocabularyDV:name:namestreet-address:streetAddressregion:addressRegionlocality:addressLocalityphoto:i
有时我需要处理键/值数据。我不喜欢使用数组,因为它们在大小上没有限制(很容易不小心添加超过2个项目,而且您最终需要稍后验证大小)。此外,0和1的索引变成了魔数(MagicNumber),并且在传达含义方面做得很差(“当我说0时,我的意思是head...”)。散列也不合适,因为可能会不小心添加额外的条目。我写了下面的类来解决这个问题:classPairattr_accessor:head,:taildefinitialize(h,t)@head,@tail=h,tendend它工作得很好并且解决了问题,但我很想知道:Ruby标准库是否已经带有这样一个类? 最佳
我正在尝试使用Curbgem执行以下POST以解析云curl-XPOST\-H"X-Parse-Application-Id:PARSE_APP_ID"\-H"X-Parse-REST-API-Key:PARSE_API_KEY"\-H"Content-Type:image/jpeg"\--data-binary'@myPicture.jpg'\https://api.parse.com/1/files/pic.jpg用这个:curl=Curl::Easy.new("https://api.parse.com/1/files/lion.jpg")curl.multipart_form_
无论您是想搭建桌面端、WEB端或者移动端APP应用,HOOPSPlatform组件都可以为您提供弹性的3D集成架构,同时,由工业领域3D技术专家组成的HOOPS技术团队也能为您提供技术支持服务。如果您的客户期望有一种在多个平台(桌面/WEB/APP,而且某些客户端是“瘦”客户端)快速、方便地将数据接入到3D应用系统的解决方案,并且当访问数据时,在各个平台上的性能和用户体验保持一致,HOOPSPlatform将帮助您完成。利用HOOPSPlatform,您可以开发在任何环境下的3D基础应用架构。HOOPSPlatform可以帮您打造3D创新型产品,HOOPSSDK包含的技术有:快速且准确的CAD
本教程将在Unity3D中混合Optitrack与数据手套的数据流,在人体运动的基础上,添加双手手指部分的运动。双手手背的角度仍由Optitrack提供,数据手套提供双手手指的角度。 01 客户端软件分别安装MotiveBody与MotionVenus并校准人体与数据手套。MotiveBodyMotionVenus数据手套使用、校准流程参照:https://gitee.com/foheart_1/foheart-h1-data-summary.git02 数据转发打开MotiveBody软件的Streaming,开始向Unity3D广播数据;MotionVenus中设置->选项选择Unit
文章目录一、概述简介原理模块二、配置Mysql使用版本环境要求1.操作系统2.mysql要求三、配置canal-server离线下载在线下载上传解压修改配置单机配置集群配置分库分表配置1.修改全局配置2.实例配置垂直分库水平分库3.修改group-instance.xml4.启动监听四、配置canal-adapter1修改启动配置2配置映射文件3启动ES数据同步查询所有订阅同步数据同步开关启动4.验证五、配置canal-admin一、概述简介canal是Alibaba旗下的一款开源项目,Java开发。基于数据库增量日志解析,提供增量数据订阅&消费。Git地址:https://github.co
我正在尝试在Rails上安装ruby,到目前为止一切都已安装,但是当我尝试使用rakedb:create创建数据库时,我收到一个奇怪的错误:dyld:lazysymbolbindingfailed:Symbolnotfound:_mysql_get_client_infoReferencedfrom:/Library/Ruby/Gems/1.8/gems/mysql2-0.3.11/lib/mysql2/mysql2.bundleExpectedin:flatnamespacedyld:Symbolnotfound:_mysql_get_client_infoReferencedf
文章目录1.开发板选择*用到的资源2.串口通信(个人理解)3.代码分析(注释比较详细)1.主函数2.串口1配置3.串口2配置以及中断函数4.注意问题5.源码链接1.开发板选择我用的是STM32F103RCT6的板子,不过代码大概在F103系列的板子上都可以运行,我试过在野火103的霸道板上也可以,主要看一下串口对应的引脚一不一样就行了,不一样的就更改一下。*用到的资源keil5软件这里用到了两个串口资源,采集数据一个,串口通信一个,板子对应引脚如下:串口1,TX:PA9,RX:PA10串口2,TX:PA2,RX:PA32.串口通信(个人理解)我就从串口采集传感器数据这个过程说一下我自己的理解,
SPI接收数据左移一位问题目录SPI接收数据左移一位问题一、问题描述二、问题分析三、探究原理四、经验总结最近在工作在学习调试SPI的过程中遇到一个问题——接收数据整体向左移了一位(1bit)。SPI数据收发是数据交换,因此接收数据时从第二个字节开始才是有效数据,也就是数据整体向右移一个字节(1byte)。请教前辈之后也没有得到解决,通过在网上查阅前人经验终于解决问题,所以写一个避坑经验总结。实际背景:MCU与一款芯片使用spi通信,MCU作为主机,芯片作为从机。这款芯片采用的是它规定的六线SPI,多了两根线:RDY和INT,这样从机就可以主动请求主机给主机发送数据了。一、问题描述根据从机芯片手
前言一般来说,前端根据后台返回code码展示对应内容只需要在前台判断code值展示对应的内容即可,但要是匹配的code码比较多或者多个页面用到时,为了便于后期维护,后台就会使用字典表让前端匹配,下面我将在微信小程序中通过wxs的方法实现这个操作。为什么要使用wxs?{{method(a,b)}}可以看到,上述代码是一个调用方法传值的操作,在vue中很常见,多用于数据之间的转换,但由于微信小程序诸多限制的原因,你并不能优雅的这样操作,可能有人会说,为什么不用if判断实现呢?但是if判断的局限性在于如果存在数据量过大时,大量重复性操作和if判断会让你的代码显得异常冗余。wxswxs相当于是一个独立