草庐IT

create_proc_read_entry

全部标签

hadoop - 配置单元 : getting parseexception in simple create external table query

我已经在mac上设置了hive。在执行简单的创建外部表查询时。我正在跟踪堆栈跟踪:hive>CREATEEXTERNALTABLEweatherext(wbanINT,dateSTRING)>ROWFORMATDELIMITED>FIELDSTERMINATEDBY‘,’>LOCATION‘/hive/data/weatherext’;NoViableAltException(80@[])atorg.apache.hadoop.hive.ql.parse.HiveParser.columnNameTypeOrPKOrFK(HiveParser.java:33341)atorg.apac

hadoop - HDFS 加密错误 | root 不允许做 'CREATE_KEY'

我正在使用HDP沙箱,并将RangerKMS安装为KMS服务器。我在沙盒上触发了以下命令。hadoopkeycreatetestKey结果我得到了以下异常。testKeyhasnotbeencreated.org.apache.hadoop.security.authorize.AuthorizationException:User:rootnotallowedtodo'CREATE_KEY'on'testKey'有什么建议吗? 最佳答案 在RangerKMS中为给定策略添加了HDFS用户并提供了适当的权限。对于前。在这里“创建”k

k8s异常Failed to create pod sandbox: rpc error: code=DeadlineExceeded desc=context deadline exceeded

一、背景在服务器测试启动防火墙的影响时,启动防火墙,再关闭防火墙后,本服务器的调度出现错误,导致pod无法启动。如下图所示:二、解决思路查看pod的描述:与kuboard提示的信息一致。查看集群状态:发现也是正常的。猜测:由于之前好使,开关防火墙可能导致网络的问题。导致网络假死。故重启kubelet试试:systemctlrestartkubelet然后重启服务:发现此时,该服务长时间不能启动,会反复尝试删除上一个pod,新建pod。查看其他资料也没有发现什么,最后想了想,决定重启docker试试。systemctlrestartdocker问题直接消失不见,如下:查看日志服务日志,也正常。有

hadoop - 为什么 HDFS ACL max_entries 设置为 32?

在HadoopHDFS中,当您启用ACL时,我发现最大ACL条目设置为32。我在这里获得了源代码,在org/apache/hadoop/hdfs/server/namenode/AclTransformation.java中:privatestaticfinalintMAX_ENTRIES=32;这样做的依据是什么?有什么考虑?我们可以将32更改为另一个更大的数字吗?我想重新配置它。 最佳答案 ACL在HDFS-4685中实现-在HDFS中实现ACL。据我所知,没有关于32限制的设计决策。但是,由于大多数Hadoop系统都在Linu

hadoop - 使用参数化位置的 Hive CREATE EXTERNAL TABLE

这按预期工作:DROPTABLEmytable;CREATEEXTERNALTABLEmytable(Dim1STRING,Dim2STRING,Dim3STRING)LOCATION'hdfs:///user/myuser/data';但这不是:setrootpath='hdfs:///user/myuser/data';DROPTABLEmytable;CREATEEXTERNALTABLEmytable(Dim1STRING,Dim2STRING,Dim3STRING)LOCATION'${hiveconf:rootpath}';失败并出现以下错误(Hive0.9.0):FAIL

hadoop - 为什么 Hive "create external table"在 S3 上将数据存储在子文件夹 "-ext-10000"下?

下面的Hive代码突然开始在一个额外的子文件夹下存储数据;DROPTABLEIFEXISTSfolder_test;CREATEEXTERNALTABLEIFNOTEXISTSfolder_test(col1STRING,col2INT,col3INT)ROWFORMATDELIMITEDFIELDSTERMINATEDBY","LOCATION's3n://bucket_name/folder_name';insertoverwritetablefolder_testselectcol1,col2,col3fromdata_tablelimit10;因此,数据不是存储在“s3n://

java.lang.NoClassDefFoundError : com/google/common when trying to create a Configuration object 错误

我正在尝试从java中与我的HDFS进行交互。当我尝试创建一个新的Configuration对象时配置conf=newConfiguration();我的应用程序抛出这个错误Exceptioninthread"main"java.lang.NoClassDefFoundError:com/google/common/base/Preconditionsatorg.apache.hadoop.conf.Configuration$DeprecationDelta.(Configuration.java:306)atorg.apache.hadoop.conf.Configuration$

scala - Spark-Scala HBase 表创建失败(MetaException(消息 :file:/user/hive/warehouse/src is not a directory or unable to create one)

我的VM中运行着hortonworks沙盒。我已经完成了所有的hive-site.xml配置并放置在Spark/conf文件中。我可以使用PySpark访问HBase并创建/更新表,但是当我在Scala中执行相同的实现时,会出现以下错误:FAILED:ExecutionError,returncode1fromorg.apache.hadoop.hive.ql.exec.DDLTask.MetaException(message:file:/user/hive/warehouse/srcisnotadirectoryorunabletocreateone)我也更改了对“hive/war

hadoop - read data as "streaming fashion"是什么意思?

我正在阅读ApacheCrunchdocumentation我发现了以下句子:Dataisreadinfromthefilesysteminastreamingfashion,sothereisnorequirementforthecontentsofthePCollectiontofitinmemoryforittobereadintotheclientusingmaterialization.我想知道以流式方式从文件系统读取是什么意思,如果有人能告诉我与其他读取数据的方式有什么区别,我将不胜感激。我想说这个概念也适用于其他工具,例如Spark。 最佳答案

java - Hadoop MapReduce : Read a file and use it as input to filter other files

我想编写一个hadoop应用程序,它将一个文件和一个包含多个文件的输入文件夹作为输入。单个文件包含需要从文件夹中的其他文件中选择和提取其记录的key。我怎样才能做到这一点?顺便说一句,我有一个正在运行的hadoopmapreduce应用程序,它将文件夹路径作为输入,进行处理并将结果写到不同的文件夹中。我对如何使用文件获取需要从特定目录中的其他文件中选择和提取的key感到困惑。包含key的文件是一个大文件,因此不能直接放入主存中。我该怎么做?谢谢! 最佳答案 如果键的数量太多而无法放入内存,则考虑将键集加载到布隆过滤器(大小合适以产生