草庐IT

HA集群

全部标签

K8s攻击案例:组件未授权访问导致集群入侵

K8s集群往往会因为组件的不安全配置存在未授权访问的情况,如果攻击者能够进行未授权访问,可能导致集群节点遭受入侵。比较常见的的组件未授权访问漏洞,主要包括APIServer未授权访问、kubelet未授权访问、etcd未授权访问、kube-proxy不安全配置、Dashboard未授权访问。接下来,我们将对这几个未授权访问的攻击场景和攻击过程进行详细的分析。01、APIServer未授权访问APIServer是集群的管理入口,任何资源请求或调用都是通过kube-apiserver提供的接口进行。默认情况下,APIServer提供两个端口服务,8080和6443,配置不当将出现未授权访问。808

hadoop - 集群安装卡在cloudera manager中的 "installation in progress"

我已经在ubuntu操作系统中安装了Clouderamanager5.4版本。当我尝试使用cloudera管理器安装集群时,它卡住了“正在安装”,没有任何错误。我只能从/var/log/cloudera-scm-server/cloudera-scm-server.log中看到两个错误2015-05-1219:11:42,715ERRORmain:org.hibernate.engine.jdbc.spi.SqlExceptionHelper:ERROR:relation"cm_version"doesnotexistPosition:212015-05-1219:16:58,585E

java - Reduce 任务被 Hadoop 多节点 (10x) 集群中的太多获取失败消息停止

我将Hadoop1.0.3用于一个10桌面集群系统,每个系统都有Ubuntu12.04LTS32位操作系统。JDK是7u75。每台机器有2GBRAM和core2-duo处理器。对于一个研究项目,我需要运行一个类似于“字数统计”的hadoop作业。我需要对大量数据集运行此操作,例如至少1GB的大小。我正在尝试使用hadoop的示例jarhadoop-examples-1.0.3.jar来计算输入数据集的单词数。不幸的是,我无法运行任何输入数据超过5-6MB的实验。对于输入,我使用来自https://www.gutenberg.org的纯文本共振峰故事书.我还使用了来自https://ww

hadoop - 如何从 hadoop 集群中删除已删除的数据节点详细信息

我使用以下属性来减少死节点超时。Propertyname:dfs.heartbeat.recheck.intervalvalue:1但是当我从集群中删除数据节点时,此详细信息并未从hadoop集群中删除。它仅在该集群中处于死节点状态。请建议从hadoop集群中删除删除的数据节点详细信息的任何方法。 最佳答案 您可以使用以下HDFS命令单独查看活节点或死节点hdfsdfsadmin-report-livehdfsdfsadmin-report-dead您可以使用以下HDFS命令获取实时节点名称或任何其他特定详细信息hdfsdfsadm

hadoop - 我们必须将数据上传到哪个slave到hadoop集群

我们已经用2台机器设置了hadoop集群,我们正在尝试在我们的实时项目中实现集群,我们需要多节点集群中关于上传数据的信息,假设如果我有9个数据节点,哪个从节点我们需要上传数据。我可以选择将数据上传到2个从属节点吗,如果我将数据上传到hdfs,它是否会复制到另一个从属节点?正如我们观察到的,当前使用/tmp位置的hdfs如果/tmp已满,HDFS将使用哪个位置。 最佳答案 添加更多的集群的目的是为了扩大数据存储..您是否正在寻找安全的集群,向某些用户授予权限以将数据上传到HDFS?对If表示可以实现KERBEROS原则或者授权用户上传

hadoop - 在没有格式的情况下重启Hadoop集群中的NameNode

由于某些原因不得不关闭我在集群中的主节点,就好像我们再次启动集群一样,名称节点不会运行,除非我们再次格式化它,他们是否有任何解决方案来启动名称节点而不格式化...尝试了一切..Start-all.sh或单独启动namenode/datanodes但Namenode不会启动,直到我再次格式化它,如何在不格式化的情况下启动Name-node。提前致谢 最佳答案 请发布日志信息。其实重启hadoop时不需要格式化。因为HDFS的元信息会存储在磁盘中,如果格式化namenode,元信息就会丢失。你可以试试停止集群时namenode进程是否还

hadoop - 无法让日志聚合在 Amazon-Hadoop 集群上工作

我尽我所能使日志聚合,但我做不到。所以我需要你的帮助来解决这个问题:我将其添加到yarn-site.xml并重新启动但没有任何乐趣。yarn.log-aggregation-enabletrueWheretoaggregatelogsto.yarn.nodemanager.remote-app-log-dir/tmp/logsyarn.log-aggregation.retain-seconds259200yarn.log-aggregation.retain-check-interval-seconds3600当我尝试通过以下方式进行聚合时:yarnlogs-applicationI

java - 将 Apache Pig 连接到 Hadoop 集群

我正在使用ApachePig对Hadoop集群进行一些数据分析工作。我在hadoop集群中部署了一个集合节点和32个从节点。但是,当我使用Pig以mapreduce模式运行脚本并连接到该Hadoop集群时,它总是只启动一个map和一个reduce。我如何设置Pig或Hadoop以使用所有32个从站?作业状态如下图所示:JobStats(timeinseconds):JobIdMapsReducesMaxMapTimeMinMapTimeAvgMapTimeMedianMapTimeMaxReduceTimeMinReduceTimeAvgReduceTimeMedianReduceti

hadoop - 在集群部署模式下运行 spark 提交作业失败但通过客户端

EDITI:通过删除应用程序中“setMaster”的conf设置,我能够成功运行yarn-cluster-如果有人可以帮助sparkmaster作为集群部署-那太棒了我正在尝试在本地测试机上设置spark,以便我可以从s3存储桶中读取数据,然后写回它。使用客户端运行jar/应用程序工作正常,很好,很好,因为它进入存储桶并创建一个文件并再次返回。然而,我需要它在集群模式下工作,以便它更接近我们的生产环境,但它总是失败——我能看到的日志中没有真正有意义的消息,也没有什么反馈可以继续。非常感谢任何帮助-我是spark/hadoop的新手,所以可能忽略了一些明显的事情。我也尝试以yarn-c

hadoop - 每次重新启动集群时都无法访问 HDFS 中的文件?

我刚刚配置了一个克隆hadoop版本2.7.3,我加载了我的数据大小从1g到20go,我使用这个数据(可以操作它们......)但是当我重新启动集群时这个数据没有不会被接受。我将收到此消息:警告:大约有xx个缺失block。请检查日志或运行fsck,这意味着您的HDFS安装中的某些block在任何事件DataNode上都没有单个副本。这是hdfs-site.xml:dfs.namenode.name.dirfile:///home/hduser/hadoop-2.7.3/namenodeNameNodedirectoryfornamespaceandtransactionlogssto