我是Qubole的新手，想知道Hadoop集群宕机后数据是否仍在HDFS中？感谢任何帮助。谢谢。 最佳答案 HDFS上的数据没有丢失。我们不备份/恢复HDFS。EC2/S3上的计算模型是长期存在的数据始终存在于S3上，而HDFS仅用于中间数据和控制数据。我们有时也使用HDFS(和本地磁盘)作为缓存。 关于hadoop-当Hadoop集群宕机时，数据是否保留在HDFS中？，我们在StackOverflow上找到一个类似的问题： https://stackover
我有一个关于ApacheSpark(yarn集群)的问题虽然在这段代码中，创建了10个分区但是在yarncluster中，只需要3个contatinervalsc=newSparkContext(newSparkConf().setAppName("SparkCount"))valsparktest=sc.textFile("/spark_test/58GB.dat",10)valtest=sparktest.flatMap(line=>line.split("")).map(word=>(word,1))在sparkyarn集群中，容器如何工作取决于RDD分区的数量？*因为我只有一点
我最近开始使用WindowsAzure和HDInsight，以完成一些MapReduce工作。我想知道的是，是否可以在不需要时通过Azure管理门户暂停或停止正在运行的集群？我尝试了停止或暂停的选项，但找不到任何选项。任何帮助，将不胜感激。 最佳答案 HDInsight不支持除Running和Stopped之外的其他状态，这意味着无法将集群设置为暂停或Idle状态，这与其他云提供商不同。您可以找到添加此功能的请求here，如果你感兴趣。回答您的其他问题，通过管理门户管理HDInsight非常简单。有一个完整的界面部分专门用于集群的管
我正在按照以下文章尝试设置HadoopHA。http://hashprompt.blogspot.in/2015/01/fully-distributed-hadoop-cluster.html配置完成后，当我尝试运行时hdfszkfc-formatZK我收到以下错误。15/03/3012:18:14INFOzookeeper.ZooKeeper:Clientenvironment:java.library.path=/opt/hadoop-2.6.0/lib/native15/03/3012:18:14INFOzookeeper.ZooKeeper:Clientenvironment
我以伪分布式模式在单个节点上安装了hadoop。dfs.replication值为1，hdfs中的文件默认存放在哪里？我使用的hadoop版本是2.5.1。 最佳答案 dfs.datanode.data.dir:确定DFS数据节点应在本地文件系统中存储其block的位置。如果这是一个逗号分隔的目录列表，那么数据将存储在所有命名的目录中，通常在不同的设备上。不存在的目录将被忽略。此属性的默认值为:file://${hadoop.tmp.dir}/dfs/data您可以在core-site.xml文件中配置${hadoop.tmp.di
我正在寻找一个命令来显示hadoop集群上剩余空间的人类可读形式。我在这个论坛上找到了一个命令，输出在图像中。hdfsdfsadmin-报告[dfsadmin命令的输出][1]我听说hortonworks中还有另一个命令可以提供更易读的输出。该命令是hdfsdfsadmin-report该命令似乎不适用于cloudera。cloudera中是否有任何等效命令？非常感谢 最佳答案 不管您使用的是Cloudera还是Hortonworks。如果您使用的是旧版本的hadoop，则命令可能是hadoopdfsadmin-report。您还有
我正在寻找有关如何在现有虚拟yarn集群上安装spark的指南。我有一个由两个节点组成的yarn集群，运行了map-reduce作业，效果很好。在日志中查找结果，一切正常。现在我需要在我的vagrantfile中添加spark安装命令和配置文件。我找不到好的指南，有人可以给我一个好的链接吗？我将这个指南用于yarnclusterhttp://www.alexjf.net/blog/distributed-systems/hadoop-yarn-installation-definitive-guide/#single-node-installation提前致谢!
我有ClouderaCDH5.2.2集群和ApacheSpark1.5.0。有什么方法可以使用ApacheSpark2.0和数据集API在此集群应用程序上运行？集群设置最好不要更改。我尝试使用maven-shade-plugin运行内置的JARSpark2.0.0，但它不起作用(NoSuchMethodException)。 最佳答案 如果您想使用Spark2.0.0功能，您的集群应该运行Spark2.0.0。我认为没有解决方法。抛出像NoSuchMethodExeception这样的异常是因为您正在使用的方法或方法的签名已从1.5
我有一种情况，我必须将数据/文件从PROD复制到UAT(hadoop集群)。为此，我现在正在使用'distcp'。但它需要永远。由于distcp在引擎盖下使用map-reduce，有什么方法可以使用spark使过程更快？就像我们可以将hive执行引擎设置为'TEZ'(以替换map-reduce)，我们是否可以将执行引擎设置为sparkfordistcp？或者是否有任何其他'spark'跨集群复制数据的方法，甚至可能不关心distcp？这是我的第二个问题(假设我们可以将distcp执行引擎设置为spark而不是map-reduce，否则请不要费心回答这个问题):-据我所知，Spark比m
当我查看我的日志时，我发现我的ooziejava操作实际上在多台机器上运行。我认为这是因为它们被包裹在m/r作业中？(这是正确的吗)有没有办法在整个集群上只执行一个java操作实例？ 最佳答案 Java操作在Oozie“启动器”作业中运行，只有一个YARN“映射”容器。诀窍在于每个YARN作业都需要一个应用程序主(AM)容器进行协调。所以你最终有2个容器，_0001用于AM和_0002用于Oozie操作，可能在不同的机器上。要控制每个资源的分配，您可以设置以下操作属性来覆盖您的/etc/hadoop/conf/*-site.xml配
