草庐IT

运维课程

全部标签

大数据集群基础之Yarn的运维

spark中的yarn的作用是什么在ApacheSpark中,YARN(YetAnotherResourceNegotiator)是一种用于集群资源管理的开源框架。YARN最初是Hadoop项目的一部分,但后来成为了独立的顶级Apache项目,广泛应用于Hadoop生态系统以及其他大数据处理框架,包括ApacheSpark。在Spark中,YARN的主要作用是协调和管理集群上的资源,以确保Spark应用程序能够有效地利用集群中的计算资源。以下是YARN在Spark中的一些关键作用:资源管理:YARN负责为Spark应用程序分配和管理集群上的资源,包括CPU、内存等。它通过协调各个节点上的资源来

【运维知识高级篇】超详细的Jenkins教程5(pipeline流水线配置+分布式构建)

CI/CD是持续集成,持续部署,集成就是开发人员通过自动化编译,发布,测试的手段集成软件,在开发的测试环境上测试发现自己的错误;持续部署是自动化构建,部署,通常也是在测试环境上进行,方便开发人员查看效果。生产环境的话要谨慎很多,在测试环境上由测试人员测试好后开始上生产环境,生产环境集成Jenkins要确保整个流程相当完善,形成一套pipeline,后续迭代更新也由Jenkins来做自动化更新,一键更新生产环境。听同事说有的C语言的项目,只是编译就要好几个钟头,如果项目集成比较耗费时间,运行在master上会消耗过多资源,影响其他项目集成,这时候就需要建立多台设备,配置slave机器来为mast

常见运维面试题及答案【个人收集】

1.http状态码200-请求成功301-资源(网页等)被永久转移到其它URL404-请求的资源(网页等)不存在500-内部服务器错误2.shell取出本地IP地址#!/bin/baship=`ifconfig-a|grepinet|grep-v127.0.0.1|grep-vinet6|awk'{print$2}'|tr-d"addr:"​`echo$ip有的机器上可能没有安装net-tools可以使用ipaddr#!/bin/shipaddr|grep"ens33"|awk'/^[0-9]+:/{};/inet.*global/{printgensub(/(.*)\/(.*)/,"\\1"

python-自动篇-运维-根据计算机硬盘、主板、CPU生成注册信息

文章目录准备代码效果准备本实例需要使用WMI模块,所以需要安装WMI模块。在安装WMI模块之前,先要安装pywin32模块,WMI模块需要win32api的支持。使用pip安装pywin32模块和WMI模块的代码如下:pipinstallwin32compipinstallwmi代码importwmiimportrandomimportossec="t95p0q2f6dz1cxmowgjensr7yh384bvualki"dec="dn7vhlk3wx1efsyc56zu2bomjtq8i0g4rp9a"c=wmi.WMI()forphysical_diskinc.Win32_DiskDriv

我的网站被攻击了,运维大佬给了我自动封禁ip的脚本。

我的网站被攻击了,发现友圈最近出现这种情况的还不少,真是神奇了,这事也能扎堆发生。分享出来给大家,万一以后用得着呢~故事背景我的一个小网站最近总是收到云监控报警,一个部署在4核8G单机上的小网站。查了log发现,我是被流量攻击了。我招谁惹谁了呀,烦死了。昨天半夜11点收到报警短信,搞到了半夜12点,太耽误我睡觉了。调研了一下云平台的安全服务,还挺贵,弃疗了。我还是自己写吧,不是为了提升技术水平,单纯的为了省钱!实现思路首先,我的小网站访问量不高,如果某位大哥一天访问超过10次我就觉得有鬼了。除非你是在爬我的数据~还是你就是吃饱撑的!有些ip定位是酱婶的,你可控制住自己,别太自由喽~综上分析,我

【运维】Ubuntu18.04系统docker方式安装ElasticSearch和kibana

前言    最近需要搭建一套测试环境,用到了ElasticSearch(简称es)搜索引擎,安装过程有些曲折,记录下来作为经验。正文环境Ubuntu18.04操作系统DockerServerVersion:20.10.7ElasticSearchVersion:8.5.3KibanaVersion:8.5.3说明    ElasticSearch是一个开源分布式搜索引擎,可以快速地储存、搜索和分析海量数据,Kibana是为ElasticSearch设计的可视化平台,可以用来搜索、查看ElasticSearch的数据,实现数据分析和图表的可视化。安装及配置ElasticSearch和Kibana

AlarmManager没有及时执行课程?

在我的项目中,我想每天在特定时间更改共享式汇率中的标志值,我已经实现了警报器,但没有执行任务。我打电话给我的接收器课程的功能:publicvoidchangeAttendaceFlag(){Log.d(TAG,"changeAttendaceFlag!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!");Calendarcalendar=Calendar.getInstance();calendar.set(Calendar.HOUR_OF_DAY,14);calendar.set(Calendar.MINUTE,23);calendar.set(Calendar.SECOND,

教务管理系统——数据库课程设计mysql+java

数据库原理与应用课程设计任 务 书https://download.csdn.net/download/weixin_48388330/85448967https://download.csdn.net/download/weixin_48388330/85448967 此为工程文件资源包 【题目】教务管理系统(或自拟题目)【目的】该实践性环节对于巩固学生的数据库知识,系统地掌握数据库设计理论与应用,加强学生的实践动手能力和提高学生的综合开发经验十分重要和必要。本课程分为系统需求分析与数据库设计、应用程序功能设计和系统集成调试三个阶段进行。主要目标如下:1、加深学生对数据库系统、应用程序设计语

微软为新闻编辑行业推出 AI 辅助项目:记者可参加免费课程,学习如何最佳使用 AI

2月6日消息,微软当地时间5日发布新闻稿宣布与多家新闻机构展开多项基于生成式AI的合作。微软表示,其使命是确保新闻编辑室在今年和未来拥有创新。通过这次官宣的项目,微软将帮助新闻机构识别、完善使用AI进行新闻采编、业务实践的程序及政策,并辅助培训新一代记者:指导其如何“最佳”利用AI,并寻找AI辅助完成高效业务的方式,“造福后代”。据介绍,微软将与新闻机构Semafor合作,利用AI工具协助记者进行研究、来源发现、翻译等工作,通过“SemaforSignals”工具来帮助记者向读者提供“多样化”“可信”的当地、本国和全球信息。美国纽约市立大学雷格・纽马克新闻研究生院还将邀请富有经验的记者参与一项

工作中Redis有哪些好用的运维工具

工作中使用Redis时,如果大家公司没有专业运维,可能开发人员就会面临这些运维的工作,包括Redis的运行状态监控,数据迁移,主从集群、切片集群的部署和运维等等。本文我就从这三个方面,给大家介绍一些工具,帮助大家更好的运维管理Redis。最后文末还有免费红包封面可以领取,回馈给各位读者朋友。本文目录如下,图片最基本的监控命令:INFO命令我们先来学习下监控Redis实时运行状态的工具,这些工具都用到了Redis提供的一个监控命令:INFO。Redis本身提供的INFO命令会返回丰富的实例运行监控信息,这个命令是Redis监控工具的基础。INFO命令在使用时,可以带一个参数section,这个参