草庐IT

non-relational

全部标签

hadoop - YARN-Cgroups : Failed to initialize container executor in non-secure cluster

我正在尝试在非安全模式下将cgroups与YARN2.6.0结合使用。有用如果我使用DefaultContainerExecutor就好了。但是,当我尝试使用LinuxContainerExecutor时出现错误。现在,当我执行-->$yarnnodemanager时,它失败了ExitCodeExceptionexitCode=24:File/home/hduser2/hadoop/hadoop-2.6.0/etc/hadoopmustbeownedbyroot,butisownedby1001atorg.apache.hadoop.util.Shell.runCommand(Shel

hadoop - pig : Select records from a relaltion only if it is present in another relation

我有以下电影数据库的数据集:Ratings:UserID,MovieID,RatingMovies:MovieID,Genre我使用以下方法过滤掉类型为“Action”或“war”的电影:movie_filter=filterMoviesby(genrematches'.*Action.*')OR(genrematches'.*War.*');现在,我必须计算war片或Action片的平均收视率。但是评级存在于评级文件中。为此,我使用查询:movie_groups=GROUPmovie_filterBYMovieID;result=FOREACHmovie_groupsGENERATE

hadoop - 映射减少作业 : Protobuf related error

我在运行MapReduce作业时遇到错误:Exceptioninthread"main"java.lang.NoSuchMethodError:org.apache.hadoop.yarn.proto.YarnProtos$LocalResourceProto.hashLong(J)Iatorg.apache.hadoop.yarn.proto.YarnProtos$LocalResourceProto.hashCode(YarnProtos.java:11655)atorg.apache.hadoop.yarn.api.records.impl.pb.LocalResourcePBI

hadoop - Hive 安装失败,出现错误 "Relative path in absolute URI"

这是我尝试运行Hive时得到的结果:SLF4J:ClasspathcontainsmultipleSLF4Jbindings.SLF4J:Foundbindingin[jar:file:/usr/local/hive/lib/log4j-slf4j-impl-2.4.1.jar!/org/slf4j/impl/StaticLoggerBinder.class]SLF4J:Foundbindingin[jar:file:/home/techdevabhi/hadoop-2.7.2/share/hadoop/common/lib/slf4j-log4j12-1.7.10.jar!/org/

Hadoop:为什么我在 Namenode Information Web 中收到 "Max Non Heap Memory is -1 B."消息?这是什么意思?

我有一个使用VirtualBox制作的Hadoop2.6.5集群(一个主节点用作名称节点和数据节点,两个从节点)(easch节点安装了Xubuntu16.04)。先验,安装是正确的,因为我运行了一个wordcount示例并且没问题。在master:50070(我看到名称节点信息的地方),我得到这个:"MaxNonHeapMemoryis-1B."你知道这是什么意思吗?我找不到答案,我想检查一下,因为在运行wordcount之后我尝试运行我自己的程序但它没有成功,尽管它在我的Hadoop单节点安装中运行正常。我希望清楚,如果您需要更多信息,请告诉我。谢谢! 最

apache-spark - Hadoop/ Spark : How replication factor and performance are related?

在不讨论所有其他性能因素、磁盘空间和名称节点对象的情况下,复制因子如何提高MR、Tez和Spark的性能。如果我们有5个数据链,执行引擎将复制设置为5是否更好?什么是最好的和最坏的值(value)?这对聚合、连接和仅限map的作业有何好处? 最佳答案 Hadoop的主要租户之一正在将计算转移到数据。如果您将复制因子设置为大约等于数据节点的数量,则可以保证每台机器都能够处理该数据。但是,正如您提到的,namenode开销非常重要,更多的文件或副本会导致请求缓慢。在不健康的集群中,更多的副本也会使您的网络饱和。我从未见过高于5的数据,而

hadoop - 在 hadoop 中释放 "Non-DFS used"空间

我正在尝试将我们的数据加载到hadoophdfs中。经过一些测试运行,当检查hadoopwebui时,我意识到标题“使用的非DFS”下占用了大量空间。事实上,“Non-DFSused”比“DFSused”要多。因此,几乎一半的集群被非DFS数据消耗。即使在重新格式化namenode并重新启动之后,这个“非DFS”空间也没有被释放。此外,我无法找到存储此“非DFS”数据的目录,因此我无法手动删除这些文件。我在网上阅读了很多陷入完全相同问题的人的帖子,但没有一个得到明确的答案。清空这个“非DFS”空间有那么难吗?还是我不应该删除它?我怎样才能释放这个空间? 最佳

mysql - phpMyAdmin 中定义的 "Internal Relations"是什么?

在phpMyAdmin关系View中,在“外键约束”旁边有一列“内部关系”。我知道在mySQL中使用什么外键,但我从未听说过内部关系。这是phpMyAdmin的事情吗? 最佳答案 这是一个phpmyadmin内部机制来管理表之间的关系。这个特性实际上对于不支持外键和约束的MISAM表很有用。通过在phpmyadmin中定义内部关系,您可以将无法链接的表链接在一起。这些信息存储在MySQL服务器内的phpmyadmin特定表中(phpmyadmin.PMA_relation)。然而,这只是一个phpmyadmin内部定义,对mysql

mysql - phpMyAdmin 中定义的 "Internal Relations"是什么?

在phpMyAdmin关系View中,在“外键约束”旁边有一列“内部关系”。我知道在mySQL中使用什么外键,但我从未听说过内部关系。这是phpMyAdmin的事情吗? 最佳答案 这是一个phpmyadmin内部机制来管理表之间的关系。这个特性实际上对于不支持外键和约束的MISAM表很有用。通过在phpmyadmin中定义内部关系,您可以将无法链接的表链接在一起。这些信息存储在MySQL服务器内的phpmyadmin特定表中(phpmyadmin.PMA_relation)。然而,这只是一个phpmyadmin内部定义,对mysql

java - hadoop java.net.URISyntaxException : Relative path in absolute URI: rsrc:hbase-common-0. 98.1-hadoop2.jar

我有一个连接到HBASE的mapreduce作业,但我不知道我在哪里遇到了这个错误:Exceptioninthread"main"java.lang.reflect.InvocationTargetExceptionatsun.reflect.NativeMethodAccessorImpl.invoke0(NativeMethod)atsun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:57)atsun.reflect.DelegatingMethodAccessorImpl.invoke