草庐IT

already_authenticated

全部标签

java - Spark 2.0.0 抛出 AlreadyExistsException(消息 :Database default already exists) when interact with Hive 1. 0.0

我正在尝试使用SparkJava连接到Hive。当我通过Spark在Hive中运行任何查询时,它会返回如下异常:16/10/0609:37:56ERRORmetastore.RetryingHMSHandler:AlreadyExistsException(message:Databasedefaultalreadyexists)我的版本是:星火2.0.0hive1.0.0这是我的全部堆栈:16/10/0609:37:56ERRORmetastore.RetryingHMSHandler:AlreadyExistsException(message:Databasedefaultalr

authentication - 如何在 flink 独立安装上进行 kerberos 身份验证?

我有一个独立的Flink安装,我想在其上运行一个将数据写入HDFS安装的流作业。HDFS安装是Cloudera部署的一部分,需要Kerberos身份验证才能读取和写入HDFS。由于我没有找到关于如何使Flink与受Kerberos保护的HDFS连接的文档,因此我不得不对该过程进行一些有根据的猜测。这是我到目前为止所做的:我为我的用户创建了一个key表文件。在我的Flink作业中,我添加了以下代码:UserGroupInformation.loginUserFromKeytab("myusername","/path/to/keytab");最后,我使用TextOutputFormat将

java - Hadoop - java.net.BindException : Address already in use

我的Hadoop安装工作正常,直到我尝试更改端口号。现在,当我运行任何hadoop程序时,我得到:java.net.BindException:Problembindingtolocalhost/127.0.0.1:9010:Addressalreadyinuse9010是在conf/mapred-site.xml中定义的JobTracker的端口号。我尝试更改它,但仍然出现相同的错误。我什至尝试通过bin/stop-all.sh停止Hadoop,然后通过netstat-nl|检查端口是否被使用|grep9010什么也没找到。感谢任何解决此问题的帮助。 最佳

hadoop - Apache Flume 连接到 twitter API 401 :Authentication credentials

我正在尝试使用ApacheFlume将推文保存到我的HDFS。我目前正在将Cloudera图像与Hadoop和Flume一起使用。我正在按照Cloudera博客中的教程进行操作,但无法连接到TwitterAPI。我收到以下错误:2014-03-1409:43:14,021INFOorg.apache.flume.node.Application:Waitingforchannel:MemChanneltostart.Sleepingfor500ms2014-03-1409:43:14,069INFOorg.apache.flume.instrumentation.MonitoredCo

postgresql - 大量导出时出现 Sqoop PSQLException "Sorry, too many clients already"

当从HDFS导出大型(超过200万行)表到Postgres时,我看到Sqoop抛出PSQLException“抱歉,客户端已经太多了”。我有几张较小的table(约300万张),它们似乎运行良好。即使大表出现故障,我的postgres表中似乎仍然有大约200万行,但我猜这只是来自那些没有死的worker,因为他们首先获得了其中一个连接。我的Postgres表配置为允许300个max_connections,并且有大约70个连接始终来自其他应用程序,因此SQOOP应该有大约230个可供使用。我尝试在我的SQOOP导出命令中将--num-mappers切换为2-8,但这似乎并没有太大的区别

hadoop - oozie REST api POST 新配置单元作业获取 "This request requires HTTP authentication."

我正在使用RESTapi将HIVE作业提交给oozie。我尝试使用postman和curl发送请求,但收到一条错误消息:“此请求需要HTTP身份验证。”我尝试在我的Clouderaquickstart和Hortonworks上运行它,但遇到了同样的错误。config.xml是:fs.default.namehdfs://localhost:8020mapred.job.trackerlocalhost:8021user.nameclouderaoozie.hive.scriptselect*fromtest;oozie.libpathhdfs://localhost:8020/user

docker - 重试连接到服务器 : Already tried 9 time(s); retry policy is RetryUpToMaximumCountWithFixedSleep(maxRetries=10, sleepTime=1000 毫秒)

我有三个物理节点。在每个节点中,我使用此命令进入docker。dockerrun-v/home/user/.ssh:/root/.ssh--privileged-p5050:5050-p5051:5051-p5052:5052-p2181:2181-p8089:8081-p6123:6123-p8084:8080-p50090:50090-p50070:50070-p9000:9000-p2888:2888-p3888:3888-p4041:4040-p8020:8020-p8485:8485-p7078:7077-p52222:22-eWEAVE_CIDR=10.32.0.3/12-

hadoop - master.HMaster : Failed to become active master SIMPLE authentication is not enabled. 可用:[TOKEN]

我正在尝试在我的本地MAC机器上设置hbase。我通过brew安装了hadoop和hbase。hadoop和hbase的版本分别是2.7.1和1.1.2。我正在尝试以伪分布式模式运行并希望禁用身份验证,因此在以下文件中进行了以下更改。我正在使用hbase动物园管理员。以下是启用SIMPLE身份验证的更改/etc/hadoop/core-site.xmlhadoop.security.authenticationsimplehadoop.security.authorizationfalse还对libexec/conf/hbase-site.xml进行了以下更改hbase.rootdir

security - 如何从命令行向 Hadoop 进行身份验证?删除 `ls: SIMPLE authentication is not enabled` 错误

我正在Hadoop集群上设置Kerberos身份验证。在集群外的一台机器上,每当我执行hadoopfs-ls时,我都会收到以下消息:ls:SIMPLEauthenticationisnotenabled。可用:[TOKEN,KERBEROS],这很好,因为这就是我想要的。但现在我的问题是,我如何真正成功地执行该命令?我知道如果我不进行身份验证我将无法继续,但我如何从命令行进行身份验证? 最佳答案 尝试以下步骤服务器kadmin.localaddprincuser@realm.com客户端kinituser@realm.comklis

authentication - Hadoop 身份验证 http-signature.secret 文件

我正在使用受kerberos身份验证保护的hadoop-2.6.0。对于http身份验证,有一个名为hadoop.http.authentication.signature.secret.file的属性我在core-site.xml中设置了这个属性hadoop.http.authentication.signature.secret.fileC:\http-signature.secrethttp-signature.secret文件是空的。但是http身份验证工作正常。如果我禁用此属性,则在启动节点时会出现错误。我想知道这个secret文件的用途。为什么要设置这个属性?我用谷歌搜索但