草庐IT

USER_NAME

全部标签

hadoop - 普通身份验证失败 : User yarn is not configured for any impersonation. impersonationUser:alluxio mapreduce 中的 root

Causedby:org.apache.thrift.transport.TTransportException:Plainauthenticationfailed:Useryarnisnotconfiguredforanyimpersonation.模拟用户:root当我使用alluxio在本地运行wordcount程序时它工作正常。我也通过了集成测试,但是当我使用alluxio客户端jar运行相同的Hadoop程序时它给我一个错误bin/hadoopjar/usr/lib/hadoop-mapreduce/hadoop-mapreduce-examples.jarwordcount

sql - 'pool_name' 在 CREATE TABLE 语句中意味着什么?

在CREATETABLE-statement末尾的Impala中您可以按照我的理解设置复制因子:CREATE[EXTERNAL]TABLE[IFNOTEXISTS][db_name.]table_name...[CACHEDIN'pool_name'[WITHREPLICATION=integer]|UNCACHED]无论如何,我有点不明白pool_name指的是什么。这是HDFS中存放数据的路径吗? 最佳答案 不完全是,它实际上是指使用hdfscacheadmin-addPool...命令定义的HDFS池,参见hdfscomman

java - Oozie 构建失败无法锁定存储构建/测试/数据/dfs/name1。该目录已被锁定

我正在尝试按照instruction构建Oozie4.0.1在mvntestinbuild时遇到这个问题-------------------------------------------------------------------------------Testset:org.apache.oozie.store.TestCoordinatorStore-------------------------------------------------------------------------------Testsrun:1,Failures:0,Errors:1,Skip

hadoop - 全局变量 HADOOP_USER_NAME oozie?

有什么方法可以在oozie工作流中将HADOOP_USER_NAME声明为全局变量?实际上,我正在为我的项目创建多个shell操作,但为每个shell操作声明一个HADOOP_USER_NAME效率不高,这就是为什么我想知道在这种情况下是否可以使用全局变量,如果可以,我该如何继续它。..非常感谢您的帮助。这是我正在使用的代码HADOOP_USER_NAME*****Error[${wf:errorMessage(wf:lastErrorNode())}]${jobTracker}${nameNode}script1.shscript1.sh#script1.sh出于某种原因,我没有从H

hadoop - Hive 'alter table <table name> concatenate' 是如何工作的?

我有n(large)个小型orc文件,我想将它们合并到k(small)个大型orc文件中。这是在Hive中使用altertabletable_nameconcatenate命令完成的。我想了解Hive是如何实现的。如果需要,我希望使用Spark进行任何更改来实现这一点。任何指针都会很棒。 最佳答案 根据AlterTable/PartitionConcatenate:如果表或分区包含很多小的RCFiles或ORC文件,那么上面的命令会将它们合并成更大的文件。在RCFile的情况下,合并发生在block级别,而对于ORC文件,合并发生在

hadoop - 为什么在执行 "/shared"时未列出 `hadoop fs -ls` 目录,尽管在执行 `hadoop fs -ls/shared/table_name` 时它是可见的

当我执行-ls命令时,未列出/shared目录[cts573151@aster2~]$hadoopfs-lsdrwx-------cts573151supergroup02016-12-2105:30.Trashdrwxr-xr-x-cts573151supergroup02017-02-0112:28.sparkStagingdrwx-------cts573151supergroup02017-02-0211:37.stagingdrwxr-xr-x-cts573151supergroup02016-12-1911:40_sqoopdrwxr-xr-x-cts573151super

hadoop - 使用 --proxy-user、--keytab 和 --principal 参数在 hadoop kerberos 中提交 spark-submit

只是想得到澄清,如果spark-submit--keytab--principal&&--proxy-user参数可以共存吗?我们要求以真实的业务用户身份提交作业,但该用户在hadoopkdc中没有主体。每当同时使用proxy-user和kerberosprincipal时,我都会遇到异常。17/02/0913:51:43INFODFSClient:CreatedHDFS_DELEGATION_TOKENtoken379foratlason10.12.118.92:8020Exceptioninthread"main"java.io.IOException:java.lang.refl

hadoop - org.apache.hadoop.security.AccessControlException : Permission denied: user=test-user, access=EXECUTE, inode ="system":hadoop:test-user:rwx------

以前测试用户曾经驻留在连接丢失的边缘服务器上。因此,我们重建了边缘服务器并一直在尝试启动并运行它,但我一直收到以下错误。Jobinitializationfailed:org.apache.hadoop.security.AccessControlException:org.apache.hadoop.security.AccessControlException:Permissiondenied:user=test-user,access=EXECUTE,inode="system":hadoop:test-user:rwx------atsun.reflect.GeneratedC

hadoop - fs.checkpoint.dir 和 dfs.name.dir 有什么区别?

主要是dfs.name.dir属性是用来存储namenode的fsimage到特定位置备份的,fs.checkpoint.dir属性是fsimage合并的位置。这让我有点困惑。任何人都可以详细解释我。 最佳答案 dfs.name.dir是namenode在磁盘中存放fsimage和editlogs的地方。这是一个强制性的位置。没有这个位置,hadoop集群将无法启动。这将位于名称节点主机中。fs.checkpoint.dir是本地文件系统上的目录,DFS辅助名称节点应在其中存储要合并的临时图像。如果这是一个以逗号分隔的目录列表,则图

hadoop - Oozie 和 Hive : FAILED: SemanticException Unable to fetch table <table_name>

我今天刚启动Oozie,我注意到在运行Hive操作时出现不一致的错误。当我运行完全相同的Oozie工作流时,有时它会成功,而有时它会因Hive操作的此错误而失败:FAILED:SemanticExceptionUnabletofetchtable1)这是什么原因?2)解决方法是什么?目前我只是再次运行Oozie作业直到成功,有时需要多次尝试。我正在使用ClouderaCDH4、MRv1。我是手动安装的,而不是使用ClouderaManager。我有一个三节点集群。Master节点包含NameNode、SecondaryNameNode、JobTracker、HMaster;此外,Mas