草庐IT

samba-winbind-kerberos

全部标签

两个安全(kerberos)集群之间的 Hadoop distcp

我有两个Hadoop集群,并且都运行相同的Hadoop版本。我在两个集群中都有一个用户“testuser”(示例)(因此两个集群中都存在testuserkeytabs)。Namenode#1(sourcecluster):hdfs://nn1:8020Namenode#2(destcluster):hdfs://nn2:8020我想使用hadoopdistcp将一些文件从一个集群复制到另一个集群。示例:在源集群中,我有一个路径为“/user/testuser/temp/file-r-0000”的文件,在目标集群中,目标目录为“/user/testuser/dest/”。所以我想要的是将

java - 如何将 UserGroupInformation 与 Kerberos WebHDFS 一起使用

以下是非hadoop系统上的客户端代码,用于在安全的远程HDFS上执行操作。Configurationconf=newConfiguration();conf.set("hadoop.security.authentication","kerberos");conf.set("java.security.krb5.conf",krbPath);conf.set("fs.defaultFS","webhdfs://10.31.251.254:50070");conf.set("fs.webhdfs.impl",org.apache.hadoop.hdfs.web.WebHdfsFileS

security - Kerberos 中的服务票证 - Hadoop 安全

我正在尝试使用kerberos保护我的hadoop集群。我能够使用kinit命令生成TGT。但除此之外,我被困住了。1)我想知道现实中的“serviceTicket”是什么意思。(不作为描述);我们可以使用哪个命令/代码来使用服务票证?2)'.keyTab'文件和'.keyStore'文件有什么用?Hadoop-Kerberos故事用户使用kinit命令向KDC发送认证请求。KDC发回加密票证。用户通过提供密码解密票。4。现在已通过身份验证,用户发送服务票证请求。5。KDC验证票证并发回服务票证。用户向hdfs@KERBEROS.com出示服务票据。hdfs@KERBEROS.com解

apache - Kerberos 升级

我们想升级Kerberos(服务器和客户端)当前:1.6.3-133.27.1目标:1.6.3-133.49.97.1问题是如果我们用包管理器升级它,下面会发生什么?KDC数据库所有主要信息所有以前生成的key表Kerberos配置是否一切都像以前一样工作,还是一切都必须重新配置?此处提供的升级步骤http://web.mit.edu/kerberos/krb5-1.4/krb5-1.4.4/doc/krb5-install/Upgrading-Existing-Kerberos-V5-Installations.html用于我们升级MAJOR版本时(例如1.1到1.2.x)

hadoop - "Delegation Token can be issued only with kerberos or web authentication"空闲后重启 spark context

我尝试将spark应用程序部署到由YARN控制的kerberizedhadoop集群。Spark版本为1.5.0-cdh5.5.2。在超过10秒的空闲时间后停止SparkContext并初始化一个新的时,我遇到了一个奇怪的异常。我尝试做一些类似于this的事情开发人员,并明确指定了hdfs名称节点地址,但没有帮助。更令人困惑的是,如果我根本不重置SparkContext或在此spark上下文中执行最后一个命令后不到10秒内重置它,一切都会正常工作。我该如何解决?这是遇到问题的最小化情况:packagedemo;importorg.apache.spark.SparkConf;impor

windows - 无法从 IE 中找到凭据导致 HDFS WebUI Kerberos 身份验证失败

我使用kerberos身份验证设置我的HDFS服务,这就是配置:hadoop.http.filter.initializersorg.apache.hadoop.security.AuthenticationFilterInitializerhadoop.http.authentication.typekerberoshadoop.http.authentication.simple.anonymous.allowedfalsehadoop.http.authentication.signature.secret.file/opt/hadoop/hdfs/default/etc/had

apache-spark - Kerberos Cloudera Hadoop 的 livy curl 请求错误

在kerberizedCDH5.10.x上配置了livy服务器,它在端口8998上运行良好,但curl请求给出以下错误,curl--negotiate-u:http://xxxxxxx:8998/sessionsError403HTTPERROR:403Problemaccessing/sessions.Reason:GSSException:Novalidcredentialsprovided(Mechanismlevel:FailedtofindanyKerberoscredentails)PoweredbyJetty://无法理解为什么请求没有通过kerberos安全层?

hadoop - 在运行时在 Kerberos 安全 Hadoop 集群中模拟用户

我有一个Web应用程序,它接收来自不同用户的从linux命令行运行的其他几个应用程序的请求。对于这些请求中的每一个,我都必须从hdfs读取数据以调用只有调用应用程序linux用户才能访问的应用程序文件夹。有没有一种方法可以设置配置,使其可以在运行时被覆盖以模拟调用者应用程序用户进行hadoopkerberos身份验证。我使用下面的代码创建了一个UserGroupInformation以从kerberoskeytab登录。此UGI将充当真实用户并将其传递给UserGroupInformation类以创建代理用户,如下所示。UserGroupInformationrealUgi=UserG

hadoop - 我可以使用 Kerberos 在 Yarn 上运行 DCE(Docker 容器执行器)吗?

hadoop文档指出DCE不支持具有安全模式(Kerberos)的集群:https://hadoop.apache.org/docs/r2.7.2/hadoop-yarn/hadoop-yarn-site/DockerContainerExecutor.html有人在研究这个吗?有办法绕过这个限制吗? 最佳答案 好的。当前没有关于DCE的工作(YARN-2466)。努力已经转向支持LinuxContainerExecutor中的Docker容器(YARN-3611)。这将支持Kerberos。目前还没有文档(YARN-5258),其

java - 连接到 Kerberrized HDFS,java.lang.IllegalArgumentException : Failed to specify server's Kerberos principal name;

我正在尝试使用以下代码连接到Kerberizedhdfs集群,使用以下相同的代码我能够使用HBaseConfiguration访问hbaseofcourse,Configurationconfig=newConfiguration();config.set("hadoop.security.authentication","Kerberos");UserGroupInformation.setConfiguration(config);UserGroupInformationugi=null;ugi=UserGroupInformation.loginUserFromKeytabAnd