草庐IT

master_connection

全部标签

java - Hadoop : Code shipped from master to slave

我启动了一个hadoop集群并向master提交了一个作业。jar文件仅包含在master中。hadoop是否会在作业开始时将jar运送到所有从机?从机是否有可能使用上次运行期间发布的先前版本的代码运行?谢谢巴拉 最佳答案 来自mapreduce教程:Theframeworkwillcopythenecessaryfilestotheslavenodebeforeanytasksforthejobareexecutedonthatnode.Itsefficiencystemsfromthefactthatthefilesareonl

ubuntu - Apache Pig 和 Hadoop Connection 中运行教程脚本的环境设置是什么?

我尝试在Ubuntu中运行pig教程脚本两天,但是我无法让pig连接到hadoop文件系统。它仍然在说:“正在连接到hadoop文件系统:file:///”其实hadoop和pig都可以用,我可以用,pig安装下的pig脚本也可以连接hadoop。“连接到hadoop文件系统:hdfs://localhost:54310”我的hadoop目录在/home/hadoop/Cluster下,pig安装在/usr/share/pig下,pig教程在home/hadoop/pig下,hadoop安装在/home/someuser/hadoop下。我几乎尝试了网络上的所有解决方案,但我仍然需要一

java - 在 yarn "org.apache.hadoop.ipc.Client - Retrying connect to server: tasktracker3/10.201.2.169:50000"上运行时在 apache Pig 中出现错误

我正在运行ApachePig0.11.2和Hadoop2.2.0。我在Pig中运行的大多数简单作业都运行良好。但是,每当我尝试在大型数据集上使用GROUPBY或LIMIT运算符时,我都会收到以下连接错误:2013-12-1811:21:28,400[main]INFOorg.apache.hadoop.ipc.Client-Retryingconnecttoserver:tasktracker2/10.201.2.145:54957.Alreadytried0time(s);retrypolicyisRetryUpToMaximumCountWithFixedSleep(maxRetr

使用 Ubuntu Master 和 Windows slave 的 Hadoop 集群配置

大家好,我是Hadoop新手。Hadoop版本(2.2.0)目标:独立安装Hadoop-Ubuntu12(已完成)独立安装Hadoop-Windows7(cygwin仅用于sshd)(已完成)使用UbuntuMaster和Windows7slave设置集群(这主要是为了学习目的和设置开发环境)(卡住)设置与以下问题的关系:精通在Ubuntu上运行hadoop2.2.0在Windows7上运行的从站使用来自hadoop2.2.0源代码的自编译版本。我仅将cygwin用于sshd无密码登录设置,我可以使用ssh两种方式登录来自hadoop之外。因为我的Ubuntu和Windows机器有不同

hadoop - 无法在 Windows 10 中启动 master for spark

我是Spark的新手,我正在尝试手动启动master(在Windows10中使用MINGW64)。当我这样做时,~/下载/spark-1.5.1-bin-hadoop2.4/spark-1.5.1-bin-hadoop2.4/sbin$./start-master.sh我得到了这些日志,ps:unknownoption--oTry`ps--help'formoreinformation.startingorg.apache.spark.deploy.master.Master,loggingto/c/Users/Raunak/Downloads/spark-1.5.1-bin-hado

hadoop - Amazon EMR Application Master Web UI?

我已经开始使用HadoopYARN(AMI3.3.1)在AmazonEMR上运行PIG作业,但是由于Yarn中不再有作业跟踪器,我似乎无法找到WebUI以便我可以跟踪MapReduce作业的Mappers和Reducers的数量,当我尝试访问资源管理器UI页面中提供的ApplicationMaster链接时,我被告知该页面不存在(下面提供的图片)。有谁知道我如何通过我的网络浏览器访问一个UI,它会根据映射器、reducer的数量和每个完成的百分比等向我显示当前的工作状态?谢谢 最佳答案 从ResourceManager网页单击App

hadoop - HBase master 停止并出现 "Connetion Refused"错误

这发生在伪分布式和分布式模式中。当我尝试启动HBase时,最初所有3个服务-master、region和quorumpeer都会启动。然而不到一分钟,主人就停下了。在日志中,这是跟踪-2013-05-0620:10:25,525INFOorg.apache.hadoop.ipc.Client:Retryingconnecttoserver::9000.Alreadytried0time(s).2013-05-0620:10:26,528INFOorg.apache.hadoop.ipc.Client:Retryingconnecttoserver::9000.Alreadytried1

hadoop - 致命的 master.HMaster : Unexpected state : . 。无法将其转移到 OFFLINE

我遇到了严重的Hbase崩溃问题。我将HBase0.94.7与一个主服务器和两个区域服务器一起使用。HBasemaster经常崩溃,我什至无法重新启动它。我有如下主日志:DEBUGmaster.AssignmentManager:Handlingtransition=RS_ZK_REGION_CLOSED,server=master,60020,1374506461230,region=46c2333f401964bf877254be19c2cc8cDEBUGhandler.ClosedRegionHandler:HandlingCLOSEDeventfor6423df864603aa

php - fatal error : Call to undefined function mysql_connect()

我已经设置了PHP、MySQL和Apache。localhost()用于PHP,它运行良好。但是在我下载MySQL之后,它会报告:Fatalerror:Calltoundefinedfunctionmysql_connect()我该如何解决这个问题? 最佳答案 您升级到PHP7,现在mysql_connect已被弃用。检查你的:php-version将其更改为mysqli_connect如下:$host="127.0.0.1";$username="root";$pass="foobar";$con=mysqli_connect($

php - fatal error : Call to undefined function mysql_connect()

我已经设置了PHP、MySQL和Apache。localhost()用于PHP,它运行良好。但是在我下载MySQL之后,它会报告:Fatalerror:Calltoundefinedfunctionmysql_connect()我该如何解决这个问题? 最佳答案 您升级到PHP7,现在mysql_connect已被弃用。检查你的:php-version将其更改为mysqli_connect如下:$host="127.0.0.1";$username="root";$pass="foobar";$con=mysqli_connect($