假设我们有一个MapReduce作业,我们希望将作业的终止/终止写入到我们的JavaMapReduce中——比如在特定时间范围后,我该怎么做?例如,在指定的时间段后杀死作业 最佳答案 您可以获得Job使用作业ID,然后使用Job.killJob() 关于java-如何终止(或杀死)Java中的Hadoop作业?,我们在StackOverflow上找到一个类似的问题: https://stackoverflow.com/questions/24152843/
有没有办法杀死一个忽略所有异常的程序?愚蠢,我知道。我正在测试一些东西(因为我不确定失败的错误,嵌入式pig脚本会抛出什么),忘记将循环限制在一天内,现在即使我使用ps-ef找到并直接杀死它。我会让它运行到完成,因为它肯定会终止,但它运行hadoop作业,并且不必要地耗尽资源/在其他任务之间随机弹出终端。我想避免关闭我的桌面,因为我正在运行其他任务,但如果它会杀死它......我从ps-ef并使用kill-9直接杀死它。当我运行时它不再显示ps-ef|grep但是当我让我的终端坐一会儿(甚至是一个新窗口)时,这些“幽灵”hadoop作业就会出现,它们对应于被杀死的任务所在的位置。
我正在寻找一种方法来找出杀死YARN应用程序的用户。有办法吗? 最佳答案 与最新版本的Hadoop2.9及更高版本一样。将显示与终止应用程序的用户相关的更多详细信息。检查以下jira以获取更多信息https://issues.apache.org/jira/browse/YARN-5053 关于hadoop-如何找出谁杀死了yarn应用程序,我们在StackOverflow上找到一个类似的问题: https://stackoverflow.com/questi
我正在尝试在hadoop上执行mapreduce程序。当我在我的Macbook上提交jar并在桌面上运行该作业时,作业因容器超出虚拟内存限制而失败。但是http://master-hadoop:8088/cluster告诉我我的工作成功了,结果似乎是正确的。您可以看到使用的物理内存大小为170MB,而使用的虚拟内存大小为17.8GB。而输入的文件只有10MB。我不明白的是为什么程序使用了这么多虚拟内存,为什么hadoop说我的工作成功了,所以这可能是容器被杀死后的结果。16/11/0721:31:40INFOJoin:2016110721314062016/11/0721:31:41W
我已经安装了ApacheSamza,它使用Yarn来管理作业。它在虚拟机上的两个Debian服务器上运行。Samza是0.9.1版本。Hadoop的版本是2.6.0。我看到两个不同的问题,我不确定它们是否相关,但看起来Yarn都没有做它应该做的事情。当我尝试使用samza(kill-yarn-job.sh)提供的脚本终止作业时,我在Web界面中看到作业的状态从正在运行或已接受更改为已终止,但java进程仍在运行。很长一段时间后,杀死他们的唯一方法就是用艰难的方式做到这一点:kill-9。虽然我一直在更改yarn-site.xml的值,但我只能运行一个作业。我的机器有4Gb内存和4个cp
我已经使用oozie工作了一段时间,我想终止协调器,但我不想终止由协调器启动的工作流。我为什么要这样做?我有一个场景,我的工作必须每15分钟运行一次,但第一个工作花费了3个多小时,因为历史数据正在加载到当前正在运行的实例中,而且其余的工作堆积如山。下图就是一个例子。OozieSnapshotfortheexplainedquestion在此先致谢,如需任何其他信息,请随时询问。 最佳答案 与其杀死协调器,不如挂起它。如果协调器暂停,工作流也将暂停,但您可以恢复工作流。第一个大工作流完成后,您可以恢复协调器,以便它继续安排工作流。
在我将作业提交到Hadoop集群并且作业输入在节点之间拆分后,我可以看到一些任务得到了两次并行运行的尝试。例如在节点39任务尝试attempt_201305230321_0019_m_000073_0启动并在3分钟内attempt_201305230321_0019_m_000073_1在节点25开始。在额外的4分钟内,第一次尝试(attempt_201305230321_0019_m_000073_0)被杀死(没有任何通知,日志不包含任何信息),第二次尝试在半小时内成功完成。这是怎么回事?如何防止创建重复尝试?这些重复的尝试是否可能导致神秘的杀戮? 最佳答
我正试图结束我的Hadoop工作。我运行命令hadoopjob-kill。它以Killedjob响应由于某种原因,作业没有被终止,它仍然显示在作业列表中。我该如何解决这个问题?有什么建议么?我用谷歌搜索并找到了死胡同。 最佳答案 尝试hadoopjob-kill多次。它对我有用。 关于java-Hadoop作业不会被杀死,我们在StackOverflow上找到一个类似的问题: https://stackoverflow.com/questions/199451
我创建了一个Oozie作业,它在执行时触发一个配置单元脚本。我创建的工作流程有一些错误,导致作业卡在准备模式。但是,当我尝试使用ooziejob-ooziehttp://oozie-server>:11000/oozie/-kill0000032-160617142637089-oozie-oozi-W从命令行终止作业时,这份工作没有被杀死。请找到在oozie控制台上看到的作业信息的屏幕截图上述作业的审计日志。 最佳答案 检查您的端口一次。检查您的服务是否在端口8032上启动。Referthispost用于停留在准备状态的hiveA
当前设置mysqlconnectorversion-mysql-connector-java-5.1.13sqoopversion-sqoop-1.4.6hadoopversion-hadoop-2.7.3javaversion-Jdk-8u171-linux-x64/jdk1.8.0_171(oracleJDK)OS-Ubundu注意:也试过openjdk,这个版本也存在同样的问题Sqoop命令:bin/sqoopimport-connectjdbc:mysql://localhost:3306/testDb-usernameroot-passwordroot--tablestude