草庐IT

user_permissions

全部标签

java - Hadoop "error while writing TokenizerMapper permission denied"

我正在使用GoogleDeveloperConsole运行Hadoop示例“WordCount”。我在运行hadoopcom.sun.tools.javac.MainWordCount.java时遇到的错误是:WordCount.java:26:error:errorwhilewritingTokenizerMapper:WordCount$TokenizerMapper.class(Permissiondenied)publicstaticclassTokenizerMapper有一个箭头指向最后一行的类。echo$HADOOP_CLASSPATH返回/usr/lib/jvm/jav

apache-spark - yarn 容量调度器 : Share resource between users and queues

我在设置以下调度程序队列参数时遇到了一些问题:有2个队列Dev和Prod根100%开发30%生产率70%(如果只有一个使用它应该充当100%的集群)每个队列由多个用户使用,资源应该被平均共享,但是当只有一个用户存在时(在每个队列中)它应该使用队列的全部容量。如果用户单独在集群中,它应该使用100%的集群以防第二个用户加入,调度程序应该共享可用资源我现在有什么,示例流程:集群没有作业用户队列Dev中的提交作业。(它现在使用100%的集群)用户B在队列Dev提交作业(它卡在已接受并等待第一个作业完成)我想要什么:在这种情况下,因为第二个作业在同一个队列中,每个作业都应该接收队列的50%,即

hadoop - HDFS 加密 : User:hdfs not allowed to do 'DECRYPT_EEK' on 'hdfskey'

我正在尝试在HDP2.4上使用RangerKMS设置HDFS加密。我能够部署和配置KMS服务。我已经创建了一个key和一个访问策略,以授予hdfs用户使用此key进行操作的所有权限。我可以创建一个加密区域sudo-uhdfshdfsmkdir/data_encsudo-uhdfshdfscrypto-createZone-keyNamehdfskey-path/data_enc但是,当我尝试将文件放入目录时,出现此错误:sudo-uhdfshdfsdfs-put/tmp/file.txt/data_enc/...User:hdfsnotallowedtodo'DECRYPT_EEK'o

hadoop - 文件夹不是用 $HADOOP_HOME/bin/hadoop fs -mkdir/user/hive/warehouse 创建的

嘿,我正在Hadoop2.7.3单节点集群中安装HIVE,但我无法使用创建文件夹$HADOOP_HOME/bin/hadoopfs-mkdir/user/hive/warehouse16/11/1114:43:25WARNutil.NativeCodeLoader:Unabletoloadnative-hadooplibraryforyourplatform...usingbuiltin-javaclasseswhereapplicablemkdir:`/user/hive/warehouse':NosuchfileordirectoryHadoop的JPS运行良好:jps15411N

python - 我在 python 中有一个 Errno 13 Permission denied with subprocess

有问题的行是ret=subprocess.call(shlex.split(cmd))cmd=/usr/share/java-cppig-hadoop-conf-Simpsons:lib/pig-0.8.1-cdh3u1-core.jar:lib/hadoop-core-0.20.2-cdh3u1.jarorg.apache.pig.Main-paramfunc=cat-paramfrom=foo.txt-xmapreducefsFunc.pig错误是。File"./run_pig.py",line157,inprocessret=subprocess.call(shlex.split

hadoop - spark-submit 如何设置user.name

要设置mapreduce.job.user.name=myuser尝试过spark-submit--classcom.MyClass--confmapreduce.job.user.name=myuser\--confspark.mapreduce.job.user.name=myuser\--masteryarn\--deploy-modecluster\也试过--confuser.name在SparkUI环境中显示user.nameyarn 最佳答案 在Spark3中,将SPARK_USER设置为系统属性。https://git

Hadoop 单节点 : Permission Denied

我刚刚安装了Hadoop单节点,但是当我通过登录本地主机运行它时出现错误,因为权限被拒绝,它无法更改文件? 最佳答案 您是否按照建议执行了所有步骤:http://hadoop.apache.org/common/docs/current/single_node_setup.html?你可能想看看这个:http://getsatisfaction.com/cloudera/topics/permission_denied_error_in_desktop另外,一些更多的信息肯定会有帮助。

user-interface - 任务进度条的 Spark UI 浅蓝色部分表示什么?

下面是ApacheSparkUI的屏幕截图,显示了阶段0的进度。在“任务”列下,进度条有深蓝色和浅蓝色部分。深蓝色部分对应的是已经成功完成的任务数【下面截图中的1075/3200】。进度条的浅蓝色部分表示什么?谢谢! 最佳答案 条形的总大小表示给定阶段的任务数量深蓝色部分代表已经完成的任务条形的浅蓝色部分代表当前正在运行的任务 关于user-interface-任务进度条的SparkUI浅蓝色部分表示什么?,我们在StackOverflow上找到一个类似的问题:

permissions - Apache Pig 权限问题

我试图在我的Hadoop集群上启动并运行ApachePig,但遇到了权限问题。Pig本身可以正常启动并连接到集群-从Pigshell中,我可以ls遍历我的HDFS目录。但是,当我尝试实际加载数据并运行Pig命令时,我遇到了与权限相关的错误:grunt>A=load'all_annotated.txt'USINGPigStorage()AS(id:long,text:chararray,lang:chararray);grunt>DUMPA;2011-08-2418:11:40,961[main]ERRORorg.apache.pig.tools.grunt.Grunt-Youdon't

Hadoop Mapreduce 错误输入路径不存在 : hdfs://localhost:54310/user/hduser/input"

我已经在UbuntuLinux15.04中安装了hadoop2.6,并且运行良好。但是,当我运行示例测试mapreduce程序时,出现以下错误:org.apache.hadoop.mapreduce.lib.input.InvalidInputException:Inputpathdoesnotexist:hdfs://localhost:54310/user/hduser/input.请帮助我。以下是错误的完整详细信息。hduser@krishadoop:/usr/local/hadoop/sbin$hadoopjar/usr/local/hadoop/share/hadoop/ma