草庐IT

sregex_token_iterator

全部标签

hadoop - 未经授权的容器启动请求。此 token 已过期

我收到“启动容器的未经授权的请求。此token已过期。”如何解决它。这个问题在不同的论坛上都有报道,但我找不到解决方案。下面是执行日志15/02/2616:41:02INFOimpl.YarnClientImpl:Submittedapplicationapplication_1424968835929_000115/02/2616:41:02INFOmapreduce.Job:Theurltotrackthejob:http://101-master15:8088/proxy/application_1424968835929_0001/15/02/2616:41:02INFOmap

hadoop - master.HMaster : Failed to become active master SIMPLE authentication is not enabled. 可用:[TOKEN]

我正在尝试在我的本地MAC机器上设置hbase。我通过brew安装了hadoop和hbase。hadoop和hbase的版本分别是2.7.1和1.1.2。我正在尝试以伪分布式模式运行并希望禁用身份验证,因此在以下文件中进行了以下更改。我正在使用hbase动物园管理员。以下是启用SIMPLE身份验证的更改/etc/hadoop/core-site.xmlhadoop.security.authenticationsimplehadoop.security.authorizationfalse还对libexec/conf/hbase-site.xml进行了以下更改hbase.rootdir

java - 在 reducer 的 for 循环中获取编译错误 "Can only iterate over an array or an instance of java.lang.Iterable"

在reducer的for循环中出现编译错误“Canonlyiterateoveranarrayoraninstanceofjava.lang.Iterable”。publicvoidreduce(Textkey,Iteratorvalues,OutputCollectorOutput,Reporterarg3)throwsIOException{//TODOAuto-generatedmethodstubintsum=0;for(IntWritableval:values){sum+=val.get();在上面的代码中,在“for(IntWritableval:values)”处出现编

scala - 如何在 spark-scala 中将 Iterable[String] 保存到 hdfs

valordersRDD=sc.textFile("/user/cloudera/sqoop_import/orders");valordersRDDStatus=ordersRDD.map(rec=>(rec.split(",")(3),1));valcountOrdersStatus=ordersRDDStatus.countByKey();valoutput=countOrdersStatus.map(input=>input._1+"\t"+input._2);如何将Iterable[String]的输出保存到spark-scala中的hdfs。可迭代[字符串]注意:ouput

hadoop - Spark 1.6.Token只能通过kerberos或web认证方式下发

我在shell驱动程序脚本中的spark-submit之前调用了kinitkeytab。问题是,它自己工作,但是当我通过Oozie调用shell驱动程序脚本时,我得到了这个错误:Stdoutputpy4j.protocol.Py4JJavaError:Anerroroccurredwhilecallingo49.saveAsTextFile.Stdoutput:org.apache.hadoop.ipc.RemoteException(java.io.IOException):DelegationTokencanbeissuedonlywithkerberosorwebauthenti

hadoop - 即使在向命令行添加原则后,HDFS 委托(delegate) token 也已过期

我在hadoop中运行一个sparkstreaming作业。该机器已进行kerberos化,它运行良好42小时,但由于HDFStoken委托(delegate)到期而失败。我什至为每8小时运行一次的kinit命令设置了crontab,并且我拥有10小时的Max-renew生命周期token。Failedduetoerror:org.apache.hadoop.ipc.RemoteException(org.apache.hadoop.security.token.SecretManager$InvalidToken):token(HDFS_DELEGATION_TOKENtoken我还

sql - 黑斑羚 : argument of type 'NoneType' is not iterable

我已经从MySQL导入了一个表到Hive,该表有1000万行,现在在Impala中执行一些操作以检查功能和性能。现在,当我发出以下查询时,出现错误argumentoftype'NoneType'isnotiterable。selectcount(id)frommy_table_name;导入数据后我需要做些什么来解决这个问题吗?我打算主要将Impala用于分析目的,因此它涉及很多SUM和COUNT函数。 最佳答案 尝试使用refresh命令。这是来自Cloudera文档的引用:Syntax:REFRESH[db_name.]tabl

hadoop - 在缓存中找不到 Hdfs 委托(delegate) token - Spark 应用程序出错

我在Spark版本2.3.0中有一个简单的SparkStreaming应用程序,它将每个处理批处理的结果放在HDFS上。我的应用程序在部署模式客户端的YARN上运行,我正在使用kerberizedhadoop集群(hadoop2.6.0-cdh5.9.3)。我在spark-submit命令中设置了--principal和--keytab。几天后,由于缓存中缺少委托(delegate)token,我的应用程序无法写入HDFS。重新启动应用程序后,流媒体工作正常,但几天后由于同样的原因再次失败。这是来自驱动程序的日志:ERRORJobScheduler:Errorrunningjobstr

hadoop - 客户端无法通过 :[TOKEN, KERBEROS 进行身份验证]

我正在使用YarnClient以编程方式开始一项工作。我正在运行的集群已经过kerberos化。法线贴图减少通过“yarnjarexamples.jarwordcount...”提交的工作。我尝试以编程方式提交的作业没有。我收到此错误:14/09/0421:14:29ERRORclient.ClientService:Errorhappenedduringapplicationsubmit:Applicationapplication_1409863263326_0002failed2timesduetoAMContainerforappattempt_1409863263326_00

authentication - 从 Spark 访问 Hdfs 会出现 token 缓存错误 Can't get Master Kerberos principal for use as renewer

我正在尝试运行测试Spark脚本以将Spark连接到hadoop。脚本如下frompysparkimportSparkContextsc=SparkContext("local","SimpleApp")file=sc.textFile("hdfs://hadoop_node.place:9000/errs.txt")errors=file.filter(lambdaline:"ERROR"inline)errors.count()当我用pyspark运行它时,我得到了py4j.protocol.Py4JJavaError:Anerroroccurredwhilecallingo21.