草庐IT

建设者

全部标签

11万字数字政府智慧政务大数据建设平台(大数据底座、数据治理)

本资料来源公开网络,仅供个人学习,请勿商用,如有侵权请联系删除。部分资料内容:一.1.1 数据采集子系统数据采集需要实现对全区各委办单位的数据采集功能,包括离线采集、准实时采集和实时采集的采集方式,根据各委办局业务数据的情况进行采集技术的实现。Ø 数据采集:政府数据来源多样,包含视频类数据、物联感知类数据以及传统的政务公共数据,各数据来源的数据格式也不一致,在收集的过程中需对数据进行规范化处理,以便于管理使用。Ø 大数据存储:实现现有应用的大量结构化数据、半结构化数据,以及将全市统一规划的大量图片、视频资料等非结构化数据的存储需求,要求大数据基础平台采用分布式文件

腾讯丁珂:以数字安全免疫力建设安全新范式

6月13日,腾讯安全联合IDC等多家机构在北京举办研讨论坛,并发布“数字安全免疫力”模型框架,提出用免疫的思维应对新时期下安全建设与企业发展难以协同的挑战。腾讯集团副总裁、腾讯安全总裁丁珂在论坛上表示,数智化新阶段,发展驱动成为安全建设的普遍共识,企业需从被动安全变为主动防御,以数据资产和业务资产为目标,建设一套全新的安全范式和框架。(腾讯集团副总裁、腾讯安全总裁丁珂)丁珂表示,当前企业普遍存在安全与发展断层的问题,其背后原因是数字化时代安全建设驱动力发生了根本变化。进入“数智化”新阶段,企业开始成为数字化社会的细胞,很多企业逐步完成业务数字化向数字业务方向的探索,数据成为企业核心资产之一。“

美团买菜基于 Flink 的实时数仓建设

摘要:本文整理自美团买菜实时数仓技术负责人严书,在FlinkForwardAsia2022实时湖仓专场的分享。本篇内容主要分为四个部分:背景介绍技术愿景和架构设计典型场景、挑战与应对未来规划点击查看原文视频&演讲PPT一、背景介绍美团买菜是美团自营生鲜零售平台,上面所有的商品都由美团亲自采购,并通过供应链物流体系,运输到距离用户3km范围内的服务站。用户从美团买菜平台下单后,商品会从服务站送到用户手中,最快30分钟内。上图中,左侧的时间轴展示了美团买菜的发展历程,右侧展示了美团买菜丰富的商品。目前,美团买菜在北上广深、武汉等城市均有业务覆盖,为人们日常的生活提供便利。在疫情场景下,起到了非常重

公安大数据平台建设项目

第一部分:软硬件集成服务一、整体建设内容:本项目按照公安部统一部署,根据XX省公安厅大数据智能化建设总体方案,新建YY公安大数据平台,主要包括新一代公安信息网建设、网络安全建设、云计算平台建设、大数据平台建设、构建统一运维运营服务体系。项目主要建设内容为:(1)新一代公安信息网建设:根据《信息安全技术网络安全等级保护基本要求》(GB/T22239-2019)标准的第三级安全保护能力要求以及公安部相关建设标准,构建数据汇聚节点、用户汇聚节点,实现用户接入网改造、汇聚层改造,形成一个高性能、高可靠、可扩展的网络平台,满足公安大数据对网络的大带宽、低延时、高可靠需求和公安日常办公需求,支持与其他网络

公安大数据平台建设项目

第一部分:软硬件集成服务一、整体建设内容:本项目按照公安部统一部署,根据XX省公安厅大数据智能化建设总体方案,新建YY公安大数据平台,主要包括新一代公安信息网建设、网络安全建设、云计算平台建设、大数据平台建设、构建统一运维运营服务体系。项目主要建设内容为:(1)新一代公安信息网建设:根据《信息安全技术网络安全等级保护基本要求》(GB/T22239-2019)标准的第三级安全保护能力要求以及公安部相关建设标准,构建数据汇聚节点、用户汇聚节点,实现用户接入网改造、汇聚层改造,形成一个高性能、高可靠、可扩展的网络平台,满足公安大数据对网络的大带宽、低延时、高可靠需求和公安日常办公需求,支持与其他网络

腾讯安全发布“数字安全免疫力”模型框架,建设发展驱动安全新范式

随着数字化进程加快,企业数字化体系的边界在不断拓展,安全风险和挑战不断增加,传统被动防御的安全应对常显疲态,数字安全时代亟待建立全新的安全范式。6月13日,腾讯安全联合IDC在北京发布“数字安全免疫力”模型框架,提出用免疫的思维应对新时期下安全建设与企业发展的协同关系,以企业数据和业务为目标,建设弹性、自适应、可扩展的安全免疫体系,为企业在数字时代的高质量发展保驾护航。(数字安全免疫力模型框架在北京发布)腾讯集团副总裁、腾讯安全总裁丁珂表示,数智化新阶段,发展驱动成为安全建设的普遍共识,企业需从被动安全变为主动防御,建设一套全新的安全范式和框架,提升数字安全免疫力,以更积极、主动的安全观,用“

建设数字工厂:华为云数字工厂平台接入第三方网关设备数据

摘要:本期介绍工业自动化产线设备由第三方数采网关(软件)采集数据后,如何快速接入到华为云数字工厂平台,实现生产自动化控制层与数字工厂应用层的数据集成和实时交互。本文分享自华为云社区《数字工厂深入浅出系列(五):接入第三方网关设备数据》,作者:云起MAE。华为云数字工厂平台内置工业IoT数据引擎,基于同一业务对象对业务信息流和自动化设备控制流进行统一建模,能构建“主动感知、主动分析、主动执行”的智能化应用,实现IT业务层与OT控制层的实时融合。华为云数字工厂平台接入设备数据有两种方法:边缘连接器直连设备采集:在华为云数字工厂平台(前提条件:在开通数字工厂企业账号时,选择开通物联网服务)的“系统模

美团买菜基于 Flink 的实时数仓建设

美团买菜基于Flink的实时数仓建设1.背景介绍2.技术愿景和架构设计3.典型场景、挑战与应对3.1动态ETA实时特征3.2实时数据经营分析4.未来规划1.背景介绍美团买菜是美团自营生鲜零售平台,上面所有的商品都由美团亲自采购,并通过供应链物流体系,运输到距离用户3km范围内的服务站。用户从美团买菜平台下单后,商品会从服务站送到用户手中,最快30分钟内。上图中,左侧的时间轴展示了美团买菜的发展历程,右侧展示了美团买菜丰富的商品。目前,美团买菜在北上广深、武汉等城市均有业务覆盖,为人们日常的生活提供便利。在疫情场景下,起到了非常重要的保障民生作用。接下来,介绍一下实时数仓场景。美团买菜的实时数仓

实时数仓建设第2问:怎样使用flink sql快速无脑统计当天下单各流程(已发货,确认收货等等)状态的订单数量

实时统计当天下单各流程状态(已支付待卖家发货,卖家通知物流揽收,待买家收货等等)中的订单数量。订单表的binlog数据发送到kafka,flink从kafka接受消息进行指标统计。因为每笔订单的状态会发生变化,比如上午为【已支付待卖家发货】,这个时候【已支付待卖家发货】指标数要+1,下午订单的状态变更为【卖家通知物流揽收】,这个时候【卖家通知物流揽收】指标数要+1,而【已支付待卖家发货】指标数要-1。如果采用Java代码编程,那么需要深入理解业务考虑每种状态变更,编写大量if逻辑稍有遗留就会统计错误结果。但是如果使用flinksql是不是就不需要考虑这些业务问题了?要想使得selectorde

面向故障处理的可观测性体系建设

笔者从12年开始入行,从事DevOps研发工作,做过部署系统、监控系统、可观测性相关产品,也做过SRE一线和管理工作,对于可观测性的理解和实践,有一些小小的见解,利用本文和大家做一个探讨分享。本文主要内容包括:可观测性在整个商业体系中的位置和价值如何快速发现故障,使用哪类指标告警SRE在谈论故障定位的时候,谈的是什么如何找到故障直接原因,找到止损依据如何让可观测性系统呈现观点,辅助洞察,定位故障可观测性在整个商业体系中的位置和价值做一个事,首先得有价值,如果价值太小不值得投入。可观测性也不例外,我们首先分析一下可观测性在整个商业体系中的位置和价值。思考第一个问题:作为在线类产品,我们希望客户/