草庐IT

non-admin

全部标签

使用Kubernetes部署xxl-job-admin及xxl-job执行器服务

部署环境xxl-job-2.4.0kubernetes-1.26这里以xxl-job官方的2.4.0的代码为例子,在官方编写的Dockerfile基础上使用docker+kubernetes进行部署,++xxl-job-admin和执行器的Dockerfile、application等配置文件并不是关键,所以这里示例安装以官方Demo文件示例++编写Dockerfile、application文件xxl-job-admin-Dockerfile文件FROMopenjdk:8-jre-slimMAINTAINERxuxueliENVPARAMS=""ENVTZ=PRCRUNln-snf/usr/

hadoop - 无法创建 HDFS admin super 用户

我正在尝试创建HDFS管理员super用户。我在下面提到了另一个super用户创建。CreatingHDFSAdminuser我按照确切的步骤但是在运行之后hdfsdfsadmin-报告报告:用户abc的访问被拒绝。需要super用户权限。这里有什么指示吗?我应该如何调试它? 最佳答案 改为使用此命令即可:sudo-uhdfshdfsdfsadmin-report对我有用 关于hadoop-无法创建HDFSadminsuper用户,我们在StackOverflow上找到一个类似的问题:

hadoop - 在 Hive 中添加 JAR 给出错误 "Query returned non-zero code: 1, cause:/user/hive/warehouse/abc.jar does not exist."

我创建了一个UDF并将jar导出为abc.jar。将jar复制到/user/hive/warehouse中的hdfs。现在,我遇到以下错误:hive>ADDJAR/user/hive/warehouse/abc.jar;/user/hive/warehouse/abc.jardoesnotexistQueryreturnednon-zerocode:1,cause:/user/hive/warehouse/abc.jardoesnotexist.hive>当我这样做时,hadoopfs-ls/user/hive,我可以在/user/hive/warehouse看到abc.jar路径。我

Maven 依赖项 : non existing library 'hadoop-common-2.6.0-cdh5.9.0.jar'

我正在尝试实现一个Spark应用程序WordCount,但是当我添加hadoop-common依赖项时出现错误:'MavenDependencies'referencesnonexistinglibrary'/root/.m2/repository/org/apache/hadoop/hadoop-common/2.6.0-cdh5.9.0/hadoop-common-2.6.0-cdh5.9.0.jar'这是我的pom.xml:org.scala-langscala-library2.10.6org.apache.hadoophadoop-common2.6.0-cdh5.9.0ju

hadoop - CDH5 Hue Hive — 蜂蜡服务器 : Error opening session: Failed to validate proxy privilage of hue for admin

我通过Kerberos设置了一个具有安全性的Hadoop集群,Hive已经启用了Sentry。我对Hue-Hive(Beeswax)Editor有疑问。Hue无法在hive-server2日志中加载来自hive的数据和信息:2014-04-0311:36:39,814WARNthrift.ThriftCLIService(ThriftCLIService.java:GetSchemas(364))-Errorgettingcatalogs:org.apache.hive.service.cli.HiveSQLException:InvalidSessionHandle:SessionH

hadoop - YARN-Cgroups : Failed to initialize container executor in non-secure cluster

我正在尝试在非安全模式下将cgroups与YARN2.6.0结合使用。有用如果我使用DefaultContainerExecutor就好了。但是,当我尝试使用LinuxContainerExecutor时出现错误。现在,当我执行-->$yarnnodemanager时,它失败了ExitCodeExceptionexitCode=24:File/home/hduser2/hadoop/hadoop-2.6.0/etc/hadoopmustbeownedbyroot,butisownedby1001atorg.apache.hadoop.util.Shell.runCommand(Shel

hadoop - 可快照目录 hadoop admin

hadoop中的snapshottable目录有什么用?它是如何工作的?以下是我的snapshotabble目录的输出$hadoopfs-ls-R/Snap/.snapshotdrwxr-xr-x-hadoopsupergroup02017-03-0913:04/Snap/.snapshot/Sanpnewdrwxr-xr-x-hadoopsupergroup02017-03-0913:04/Snap/.snapshot/Sanpnew1Sanpnew和Sanpnew1这些文件夹有什么用? 最佳答案 HDFS快照是整个HDFS文件系

hadoop - 如何从 Ambari 2.3 集群中完全删除 Ranger Admin Server 和 Ranger KMS

我已将Ranger服务(RangerAdminServer、RangerUsersync和RangerKMS)添加到在Ubuntu14.04服务器上运行的现有Ambari2.3集群(4个节点)。所有服务都在主节点上。但是,它没有正确安装,现在它在主Ambari页面上可用服务的左侧列中显示“安装失败”,我相信这就是主节点关闭的原因。我在AmbariWebUI上找不到任何可用于删除服务的选项。我关注了this教程,但没有成功。每次我尝试使用以下命令删除整个服务时curl-uadmin:admin-XDELETEhttp://AMBARI_SERVER_HOST:8080/api/v1/cl

Hadoop:为什么我在 Namenode Information Web 中收到 "Max Non Heap Memory is -1 B."消息?这是什么意思?

我有一个使用VirtualBox制作的Hadoop2.6.5集群(一个主节点用作名称节点和数据节点,两个从节点)(easch节点安装了Xubuntu16.04)。先验,安装是正确的,因为我运行了一个wordcount示例并且没问题。在master:50070(我看到名称节点信息的地方),我得到这个:"MaxNonHeapMemoryis-1B."你知道这是什么意思吗?我找不到答案,我想检查一下,因为在运行wordcount之后我尝试运行我自己的程序但它没有成功,尽管它在我的Hadoop单节点安装中运行正常。我希望清楚,如果您需要更多信息,请告诉我。谢谢! 最

hadoop - 在 hadoop 中释放 "Non-DFS used"空间

我正在尝试将我们的数据加载到hadoophdfs中。经过一些测试运行,当检查hadoopwebui时,我意识到标题“使用的非DFS”下占用了大量空间。事实上,“Non-DFSused”比“DFSused”要多。因此,几乎一半的集群被非DFS数据消耗。即使在重新格式化namenode并重新启动之后,这个“非DFS”空间也没有被释放。此外,我无法找到存储此“非DFS”数据的目录,因此我无法手动删除这些文件。我在网上阅读了很多陷入完全相同问题的人的帖子,但没有一个得到明确的答案。清空这个“非DFS”空间有那么难吗?还是我不应该删除它?我怎样才能释放这个空间? 最佳