草庐IT

task_scheduler_init

全部标签

map - 如何限制并发运行的 map task ?

我的hadoop版本是1.0.2。现在我最多同时运行10个maptask。我发现了2个与这个问题相关的变量。a)mapred.job.map.capacity但在我的hadoop版本中,这个参数似乎被放弃了。b)mapred.jobtracker.taskScheduler.maxRunningTasksPerJob(http://grepcode.com/file/repo1.maven.org/maven2/com.ning/metrics.collector/1.0.2/mapred-default.xml)我像下面这样设置这个变量:Configurationconf=newCo

scala - 如何在 Spark 中获取 map task 的 ID?

有没有办法在Spark中获取maptask的ID?例如,如果每个map任务调用一个用户定义函数,我能否从该用户定义函数中获取该map任务的ID? 最佳答案 我不确定您所说的maptaskID是什么意思,但您可以使用TaskContext访问任务信息:importorg.apache.spark.TaskContextsc.parallelize(Seq[Int](),4).mapPartitions(_=>{valctx=TaskContext.getvalstageId=ctx.stageIdvalpartId=ctx.parti

Hadoop Datanode、namenode、secondary-namenode、job-tracker 和 task-tracker

我是hadoop的新手,所以我有一些疑问。如果主节点发生故障,hadoop集群会发生什么?我们能否在没有任何损失的情况下恢复该节点?是否可以保留一个辅助主节点在当前主节点发生故障时自动切换为主节点?我们有namenode(Secondarynamenode)的备份,所以我们可以在Secondarynamenode发生故障时从中恢复namenode。这样,当datanode发生故障时,我们如何恢复datanode中的数据呢?Secondarynamenode只是namenode的备份而不是datenode,对吧?如果一个节点在作业完成之前发生故障,那么作业跟踪器中有待处理的作业,该作业是

hadoop - 如何修复 "Task attempt_201104251139_0295_r_000006_0 failed to report status for 600 seconds."

我编写了一个mapreduce作业来从数据集中提取一些信息。该数据集是用户对电影的评价。用户数约250K,电影数约300k。map的输出是*>and*>.在reducer中,我将处理这些对。但是当我运行作业时,mapper按预期完成,但reducer总是提示Taskattempt_*failedtoreportstatusfor600seconds.我知道这是由于无法更新状态,所以我添加了对context.progress()的调用在我的代码中是这样的:intcount=0;while(values.hasNext()){if(count++%100==0){context.progr

php - wp_schedule_event 未触发

我正在尝试在主题的functions.php中安排一个事件,但我无法让它“启动”。我正在使用CronView插件,它显示事件已正确安排,但在执行时什么也没发生。这是我的代码if(!wp_next_scheduled('prefix_hourly_event')){wp_schedule_event(time(),'hourly','prefixhourlyevent');}add_action('prefixhourlyevent','prefix_do_this_hourly');functionprefix_do_this_hourly(){wp_mail('myemail@gma

php - wp_schedule_event()在类激活函数中不起作用

当我在主插件文件(plugin.php)的顶部安排一个事件时,cron被添加到wp_optionscron选项。wp_schedule_event(time()+10,'hourly','this_is_my_action');这很好用,它添加了新的cron。但是,当我尝试在插件类中的激活函数中使用相同的函数时,它不起作用。在plugin.php里面我有:$plugin=newMy_Plugin(__FILE__);$plugin->initialize();在My_Plugin类中我有:classMy_Plugin{function__construct($plugin_file){

php - withoutOverlapping() 在 Laravel Schedule 中不起作用

$schedule->call(function(){error_log("LineSchedule1:Start");//SendEmailerror_log("LineSchedule1:End");})->everyFiveMinutes()->name('event_name:1')->withoutOverlapping();$schedule->call(function(){error_log("LineSchedule2:Start");//SendEmailerror_log("LineSchedule2:End");})->everyFiveMinutes()->n

php - 我可以在 init() 方法中取消 Zend Controller 操作吗?

在Zend_Controller_Action::init()期间,有没有办法取消操作(这样它就不会被调用)?_cancelAction();//somethinglikethisexist?}}}我目前的解决方法是制作一个空的nullAction()方法并调用$this->_forward('null')转发给它。 最佳答案 在init()中使用$this->_forward()没有错(如果你想转发到的方法与init()在同一个Controller中),这只会改变请求对象的Controller/操作(覆盖通过路由器设置的内容)。另

php - 插件中的 wp_schedule_event() 未安排 cron 事件

我正在创建一个WordPress插件,当插件被激活时,我需要一个cron作业来安排每5分钟运行一次。这是我的代码;//Registerpluginactivationhookfunctionmy_plugin_activate(){if(!wp_next_scheduled('my_function_hook')){wp_schedule_event(time(),'5','my_function_hook');}}register_activation_hook(__FILE__,'my_plugin_activate');//Registerplugindeactivationho

php - magento cron 作业和 cron_scheduler 表

我制作了在csv文件中导出产品的magento模块。现在我想每天23.55运行cronjob。我设置了config.xml,因为它写在magentocronjobwiki中。.我的代码:5523***export/export_csv::runprofilescronjob我还在服务器上设置了cronjob。当cronjob运行时,magento中的所有cronjobs都存储在数据库表cron_schedule中,但不是我的gcompany_runprofilescronjob。例如,如果我设置不同的间隔:*/1****我的cronjob是用数据库编写的,但每分钟都在执行,我不希望这样