草庐IT

Task4Answ

全部标签

map - 如何限制并发运行的 map task ?

我的hadoop版本是1.0.2。现在我最多同时运行10个maptask。我发现了2个与这个问题相关的变量。a)mapred.job.map.capacity但在我的hadoop版本中,这个参数似乎被放弃了。b)mapred.jobtracker.taskScheduler.maxRunningTasksPerJob(http://grepcode.com/file/repo1.maven.org/maven2/com.ning/metrics.collector/1.0.2/mapred-default.xml)我像下面这样设置这个变量:Configurationconf=newCo

scala - 如何在 Spark 中获取 map task 的 ID?

有没有办法在Spark中获取maptask的ID?例如,如果每个map任务调用一个用户定义函数,我能否从该用户定义函数中获取该map任务的ID? 最佳答案 我不确定您所说的maptaskID是什么意思,但您可以使用TaskContext访问任务信息:importorg.apache.spark.TaskContextsc.parallelize(Seq[Int](),4).mapPartitions(_=>{valctx=TaskContext.getvalstageId=ctx.stageIdvalpartId=ctx.parti

Hadoop Datanode、namenode、secondary-namenode、job-tracker 和 task-tracker

我是hadoop的新手,所以我有一些疑问。如果主节点发生故障,hadoop集群会发生什么?我们能否在没有任何损失的情况下恢复该节点?是否可以保留一个辅助主节点在当前主节点发生故障时自动切换为主节点?我们有namenode(Secondarynamenode)的备份,所以我们可以在Secondarynamenode发生故障时从中恢复namenode。这样,当datanode发生故障时,我们如何恢复datanode中的数据呢?Secondarynamenode只是namenode的备份而不是datenode,对吧?如果一个节点在作业完成之前发生故障,那么作业跟踪器中有待处理的作业,该作业是

hadoop - 如何修复 "Task attempt_201104251139_0295_r_000006_0 failed to report status for 600 seconds."

我编写了一个mapreduce作业来从数据集中提取一些信息。该数据集是用户对电影的评价。用户数约250K,电影数约300k。map的输出是*>and*>.在reducer中,我将处理这些对。但是当我运行作业时,mapper按预期完成,但reducer总是提示Taskattempt_*failedtoreportstatusfor600seconds.我知道这是由于无法更新状态,所以我添加了对context.progress()的调用在我的代码中是这样的:intcount=0;while(values.hasNext()){if(count++%100==0){context.progr

安卓错误 :Execution failed for task ':app:packageDebug'

我的功能publicstaticStringpostFile(Stringurl,StringfileName,StringuserName)throwsException{HttpClientclient=newDefaultHttpClient();HttpPostpost=newHttpPost(url);MultipartEntityBuilderbuilder=MultipartEntityBuilder.create();builder.setMode(HttpMultipartMode.BROWSER_COMPATIBLE);finalFilefile=newFile(f

java - 错误 :Execution failed for task ':app:dexDebug' in android studio

我遇到未知类型的错误“错误:任务‘:app:dexDebug’的执行失败。”com.android.ide.common.process.ProcessException:org.gradle.process.internal.ExecException:Process'command'C:\ProgramFiles\Java\jdk1.8.0_51\bin\java.exe''finishedwithnon-zeroexitvalue1`我的build.gradle:-applyplugin:'com.android.application'android{compileSdkVer

java - AndroidStudio : Gradle build failed for task 'app:preDexDebug (ProcessException, ExecException,非零退出值1)

如果我将minSdkVersion设置为17,我能够毫无问题地构建和运行整个项目,但是如果我将minSdkVersion设置为21,如果我尝试运行该应用程序(构建仍然可以正常工作),它会出现以下错误.我已经阅读了有关解决此问题的所有其他建议,例如CannotbuildandroidprojectusingAndroidStudio-Gradle1.7但这并没有解决我的问题。我用--debug启动了gradle,它给了我输出:20:39:10.077[DEBUG][org.gradle.process.internal.DefaultExecHandle]Changingstateto:

android - Superpowered SDK : Error:Execution failed for task ':app:ndkBuild' . 启动进程 'command ' null/ndk-build''

我正在尝试使用AndroidStudio在我的手机上安装Superpowered示例应用程序,但它没有被构建。它显示错误:Error:Executionfailedfortask':app:ndkBuild'.>Aproblemoccurredstartingprocess'command'null/ndk-build''build.gradle代码为:applyplugin:'com.android.application'android{compileSdkVersion23buildToolsVersion"22.0.1"defaultConfig{applicationId"c

android - 出现错误 --> "Execution failed for task">NDK 未配置

我正在尝试在androidstudio上编译我的代码,但我被困在了这一点上。我没有任何东西可以使用ndk进行编译,但每次编译都会因此错误而失败。当我检查workspace.xml时,它包含用于compileDebugNdk和compileReleaseNdk的ExternalTask​​Pojo。我不需要它们,但无法找到删除它们的方法,因为它是一个自动生成的文件。请提出建议。编辑->build.gradle文件applyplugin:'android-library'android{compileSdkVersion19buildToolsVersion"19.0.3"defaultC

Android FLAG_ACTIVITY_NEW_TASK 被忽略

是否有忽略FLAG_ACTIVITY_NEW_TASK的情况?我从一个服务开始一个Activity,其Intent是设置该标志,当主要Activity在后台时,我希望在新任务中看到新Activity,所以我希望在后台再次看到应用程序,当我关闭新Activity。它不会发生,并且会显示主要Activity。只是为了测试,我尝试将主要Activity设置为singleInstance,在这种情况下它可以工作。不过,我不想将主要Activity设置为singleInstance。你知道这什么时候会发生吗?我应该补充一点,我在所有设备上都看到了这种行为,所以看起来这是它应该工作的方式,而不是设