草庐IT

gulp-load-plugins

全部标签

regex - 使用 REGEX 在 Hive Create 和 Load Query 中获取空值

我有一个日志文件,我需要在其中使用REGEX存储数据。我尝试了下面的查询,但加载了所有NULL值。我已经用http://www.regexr.com/检查了正则表达式,它对我的​​数据工作正常。CREATEEXTERNALTABLEIFNOTEXISTSavl(imeiSTRING,packetSTRING)ROWFORMATSERDE'org.apache.hadoop.hive.contrib.serde2.RegexSerDe'WITHSERDEPROPERTIES("input.regex"="(IMEI\\s\\d{15}(\\b(\\d{15})([A-Z0-9]+)))"

eclipse-plugin - Hadoop CDH4 和 Eclipse Juno

有没有人成功地针对CDH4安装为Juno构建了一个eclipse插件?我在网上看到了CDH3。寻找CDH4。非常感谢。 最佳答案 我不确定您指的是HadoopEclipse插件还是针对CDH4开发代码的插件。我会回答这两个问题。在Juno中针对CDH4进行开发:到目前为止,在Eclipse(任何版本)中针对CDH4组件编写应用程序的最简单方法是使用m2eclipse[1]并将ClouderaMaven存储库添加到您的pom.xml。事实上,Cloudera的很大一部分人(包括我自己)经常这样做。最近,我们的一位工程师(Natty)写

hadoop - WARN util.NativeCodeLoader : Unable to load native-hadoop library for your platform. .. 在适用的情况下使用内置 java 类

alpesh@alpesh-Inspiron-3647:~/hadoop-2.7.2/sbin$hadoopfs-ls16/07/0513:59:17警告util.NativeCodeLoader:无法为您的平台加载nativehadoop库...在适用的情况下使用内置java类它还向我展示了如下输出hadoop检查native-a16/07/0514:00:42警告util.NativeCodeLoader:无法为您的平台加载nativehadoop库...在适用的情况下使用内置java类native库检查:hadoop:错误zlib:错误活泼:假lz4:假的bzip2:错误open

hadoop - "Unable to load realm mapping info from SCDynamicStore"错误后跟 KrbException

我正在尝试在本地构建我的应用程序并收到以下错误:**UnabletoloadrealmmappinginfofromSCDynamicStore**2012-12-0318:13:23.910java[1172:707]***Terminatingappduetouncaughtexception'JavaNativeException',reason:'KrbException:CouldnotloadconfigurationfromSCDynamicStore'***Firstthrowcallstack:(0CoreFoundation0x00007fff919c30a6__e

hadoop - 错误 : Could not find or load main class org. apache.hadoop.util.VersionInfo

您好,我刚刚开始学习Hadoop。我正在关注“Hadoop权威指南”一书。按照本书的“附录A”在Window7中设置Hadoop时,出现错误“错误:无法找到或加载主类org.apache.hadoop.util.VersionInfo”当我运行命令时hadoop版本任何人都可以知道如何更正此问题或告诉我我缺少什么吗?我正在使用Cygwin64。 最佳答案 如果您在hadoop-config.sh的末尾添加以下行(在HADOOP_INSTALL\libexec中可用),它应该可以工作。CLASSPATH='cygpath-wp"$CL

【IntelliJ IDEA】idea plugins搜索不出来,如何找到插件的解决方案

一、背景描述安装好IDEA后,想下载一些插件来使用,因为IDEA非常方便的一点就是插件使用非常的方便,但是经常会发现进入到插件市场无法搜索到插件的情况,这个时候就有点烦人了。那么怎么解决这个问题呢?以下会把我能想到的解决方法都写出来供大家参考。二、解决方案2.1解决方案一步骤1:插件市场旁边有个设置按钮,点击它在展开的选项中点击HTTPProxySettings步骤二:在打开的页面中点击“检查连接,可以看到如下页面:步骤三:输入插件网站的地址【http://plugins.jetbrains.com/】点击确定,如果提示如下表示连接成功,则证明连接正常了。如果按照上述步骤操作之后,至此按照步骤

hadoop - Pig 如何在 'load' 语句中使用 Hadoop Glob?

因为我notedpreviously,Pig不能很好地处理空(0字节)文件。不幸的是,有很多方法可以创建这些文件(甚至是withinHadooputilitities)。我认为我可以通过在LOADstatement中显式加载与给定命名约定匹配的文件来解决这个问题。使用Hadoop'sglobsyntax.不幸的是,这似乎不起作用,因为即使我使用glob过滤已知良好的输入文件,我仍然遇到0字节故障mentionedearlier.这是一个例子:假设我在S3中有以下文件:mybucket/a/b/(0字节)mybucket/a/b/myfile.log(>0字节)mybucket/a/b/

java - org.apache.maven.plugin.MojoExecutionException : protoc failure

我在使用maven从源代码编译hadoop时遇到了一些问题。这是错误,任何人都可以帮助我吗?谢谢。[ERROR]Failedtoexecutegoalorg.apache.hadoop:hadoop-maven-plugins:3.0.0-SNAPSHOT:protoc(compile-protoc)onprojecthadoop-c[Help1]org.apache.maven.lifecycle.LifecycleExecutionException:Failedtoexecutegoalorg.apache.hadoop:hadoop-maven-plugins:3.0.0-SN

hadoop - 警告 snappy.LoadSnappy : Snappy native library not loaded

无论我做什么,我都无法摆脱这个错误。我知道snappy是一个快速的压缩/解压缩库,因此比其他选项更可取。我想使用这个库进行处理。据我所知,Google在内部将其用于他们的BigTables、MapReduce(基本上用于他们所有的killer级应用程序)。我自己做了研究。人们建议不要使用它,或者将java-snappy作为一个选项,但我想坚持使用hadoopsnappy。我的设置中有相应的库。(我是说在lib下)有人可以修复这个错误吗?我看到无论此错误如何,作业都已成功完成。****hdfs://localhost:54310/user/hduser/gutenberg12/06/01

hadoop - 错误修复后仍然得到 "Unable to load realm info from SCDynamicStore"

我使用brewinstallhadoop和brewinstallpig安装了Hadoop和Pig。我读了here您将收到UnabletoloadrealminfofromSCDynamicStore错误消息,除非您添加:exportHADOOP_OPTS="-Djava.security.krb5.realm=OX.AC.UK-Djava.security.krb5.kdc=kdc0.ox.ac.uk:kdc1.ox.ac.uk"到你的hadoop-env.sh文件,我有。但是,当我运行hadoopnamenode-format时,我仍然看到:java[1548:1703]Unable