草庐IT

Sample案例

全部标签

线上 hive on spark 作业执行超时问题排查案例分享

线上hiveonspark作业执行超时问题排查案例分享大家好,在此分享一个某业务系统的线上hiveonspark作业在高并发下频现作业失败问题的原因分析和解决方法,希望对大家有所帮助。1问题现象某业务系统中,HIVESQL以hiveonspark模式运行在yarn上指定的资源队列下,在业务高峰期发现部分SQL会报错,但重试有时又能够成功。作业具体报错信息,和示例截图如下:SQLfailedtocreatesparkclientforsparksessionxx:java.util.concurrent.TimeoutException:clientxxtimedoutwaitingforcon

大数据分析案例-基于XGBoost算法构建居民收入分类预测模型

🤵‍♂️个人主页:@艾派森的个人主页✍🏻作者简介:Python学习者🐋希望大家多多支持,我们一起进步!😄如果文章对你有帮助的话,欢迎评论💬点赞👍🏻收藏📂加关注+喜欢大数据分析项目的小伙伴,希望可以多多支持该系列的其他文章大数据分析案例合集大数据分析案例-基于随机森林算法预测人类预期寿命

【华为S5735交换机telnet配置不成解决案例】

笔者近期刚拿到一台华为S5735S-24T4X交换机,想配置telnet登录来管理设备,之前配置过华为交换机路由器的telnet和ssh,尤其是在模拟器是配置过多次,认为这是一个简单的事情。按说不在话下。配置过程如下:1、通过console口连接交换机2、配置vlan100,将G0/0/1端口配置为VLAN1003、配置vlanif100IP地址4、将telnet服务使能开启5、配置aaa,用户名,密码,登录级别15,登录类型为telnet6、进入vty接口,配置认证类型为aaa,protocolinbound为telnet具体如下:telnetserverenableaaalocal-use

10. unity预制体、动态创建实体案例

1.预制体预制体Prefab就是事先制作好的物体,可以提高开发效率。1.1预制体的制作第一步:在界面编辑器中先创建一个三维模型,比如创建一个正方体,命名为“骰子”,然后给它添加一个材质,再挂载一个旋转的脚本,如图所示:第二步:经过上述步骤制作好模型后,鼠标在Hierarchy层级窗口内选中模型,按住鼠标左键,将其拖拽到事先建立好的Assets->Prefabs文件夹内,即可创建对应模型的预制体,如下图所示:制作完成后,在Hierarchy窗口的原始模型即可删除,想要使用模型时,直接在预制体文件夹内拖拽上去即可,创建多个都行。想要让自己做的预制体给别人使用或者在其它项目中使用,还需要将预制体导出

ElasticSearch - 旅游酒店案例es功能实现

目录案例搜索与分页功能条件过滤功能附近的酒店功能广告置顶功能HotelService(es操作)总览案例搜索与分页功能案例需求:实现旅游的酒店搜索功能,完成关键字搜索和分页实现步骤如下:1.定义实体类,接收前端请求实体类有两个:(1)一个是前端的请求参数实体key:搜索关键字page:页码size:每页大小sortBy:排序,目前暂不实现(2)一个是服务端应该返回的响应结果实体分页查询,需要返回分页结果PageResult,包含两个属性:total:总条数List:当前页的数据2.定义controller接口,接收页面请求,调用IHotelService的search方法定义一个HotelCo

MapReduce设计案例:好友推荐功能实现

小伙伴们都使用过各种社交平台,如:QQ、微博、朋友网等等,应该都知道有一个叫"可能认识"或者"好友推荐"的功能。而MapReduce的算法主要是根据你们之间的共同好友数进行推荐,当然也可根据其他,如爱好、特长等等。共同好友的数量越多,表明你们可能认识,系统便会自动推荐。今天我将向大家介绍如何使用MapReduce计算共同好友。目录一、项目说明二、程序需求2.1需求2.2数据三、代码实现     3.1MapReduce原理分析     3.2 代码实现     3.3启动HDFS集群总结一、项目说明互为推荐关系非好友的两个人之间存在相同好友则互为推荐关系朋友圈两个非好友的人,存在共同好友人数越

机器学习案例 | 通过EBG学习概念cup

基于解释的学习(explanation-basedlearning)可简称为解释学习,是20世纪80年代中期开始兴起的一种机器学习方法。解释学习根据任务所在领域知识和正在学习的概念知识,对当前实例进行分析和求解,得出一个表征求解过程的因果解释树,以获取新的知识。在获取新知识的过程中,通过对属性、表征现象和内在关系等进行解释而学习到新的知识。01、解释学习过程和算法解释学习一般包括下列3个步骤。(1)利用基于解释的方法对训练实例进行分析与解释,以说明它是目标概念的一个实例。(2)对实例的结构进行概括性解释,建立该训练实例的一个解释结构,以满足所学概念的定义;解释结构的各个叶子结点应符合可操作性准

【SPSS】数据预处理基础教程(附案例实战)

🤵‍♂️个人主页:@艾派森的个人主页✍🏻作者简介:Python学习者🐋希望大家多多支持,我们一起进步!😄如果文章对你有帮助的话,欢迎评论💬点赞👍🏻收藏📂加关注+         SPSS(StatisticalProductandServiceSolutions),“统计产品与服务解决方案”软件。最初软件全称为“社会科学统计软件包”(SolutionsStatisticalPackagefortheSocialSciences),但是随着SPSS产品服务领域的扩大和服务深度的增加,SPSS公司已于2000年正式将英文全称更改为“统计产品与服务解决方案”,这标志着SPSS的战略方向正在做出重大调

分享3个深度学习练手的小案例

🤵‍♂️个人主页:@艾派森的个人主页✍🏻作者简介:Python学习者🐋希望大家多多支持,我们一起进步!😄如果文章对你有帮助的话,欢迎评论💬点赞👍🏻收藏📂加关注+目录前言问题一问题二问题三 前言        最近有粉丝找到我问了三个关于深度学习的问题,也算是小作业吧,做完之后我便写下这篇文章分享给大家,适合初学或有一定基础到小伙伴练手,我的答案仅供参考学习,如有疑问或建议欢迎提出!问题一请设计一个多层感知机(mlp)网络。1.该网络执行如下操作:  -将输入32×32的图像拉伸为1×1024;  -将拉伸后的数据传入第一个隐藏层,该隐藏层为全连接层,包含2048个隐藏单元,并使用Sigmoid

线上问题处理案例:出乎意料的数据库连接池

导读本文是线上问题处理案例系列之一,旨在通过真实案例向读者介绍发现问题、定位问题、解决问题的方法。本文讲述了从垃圾回收耗时过长的表象,逐步定位到数据库连接池保活问题的全过程,并对其中用到的一些知识点进行了总结。一、问题描述大促期间,某接口超时次数增多,经排查直接原因是GC耗时过长,查看监控FullGC达500ms以上,接口超时时间与FullGC发生时间吻合。图1FullGC耗时监控二、应用基本情况容器:8C12G;JVM配置:-XX:+UseConcMarkSweepGC-Xms6144m-Xmx6144m-Xmn2048m-XX:ParallelGCThreads=8-XX:+UseCMSI