草庐IT

PIPE_PATH

全部标签

ElasticSearch遇到java.net.SocketException: Broken pipe (Write failed)报错

        最近需要大范围使用ElasticSearch,以前这个一直是我的薄弱项(现在也还是!)        接手的一个较老的项目中,使用的第三方包(bboss)中的接口查询的ElasticSearch,里面的方法和官方给的略有一点区别。涉及到了我的知识盲区。但是原始的业务的查询逻辑很有一点复杂不方便更改现有逻辑,只能照着前人的路子改下去。报错截图我的解决思路        代码运行起来看不到一点错误,这还是使用了try-catch打印出来的。        debug下去一步一步看起来,到源码发送请求的地方,直接就返回了异常。隐约感觉到是请求的问题。但是实在想不出能有什么办法解决。 

hadoop - 有没有办法在 pig 脚本中检查 "Path or file exists"

在我的hadoop环境中,输出目录是动态创建的。因此,我想动态地读取输出目录,如果存在路径或文件,则执行此操作,否则执行此操作。那么有什么方法可以检查pig脚本中的“路径或文件是否存在”?? 最佳答案 在Pig中,您可以运行shell命令来测试路径是否存在,如果存在则返回该路径,否则返回其他始终可用的空数据路径。然后依赖Pig的参数替换。例如:%declareemptyPath'/user/me/emptyData.csv'%declarerequestedPath'/user/me/realData.csv'%declareact

Hadoop 和 JZMQ - java.library.path 中没有 jzmq

我正在尝试让JZMQ代码在Hadoop集群上的一个节点上运行。我在该节点上的-/usr/local/lib目录下安装了必要的nativejmzq库文件。这是列表-libjzmq.alibjzmq.lalibjzmq.solibjzmq.so.0libjzmq.so.0.0.0libzmq.alibzmq.lalibzmq.solibzmq.so.3libzmq.so.3.0.0pkgconfig在我的shell脚本中,如果我运行下面的Java命令,它绝对可以正常工作-java-Djava.library.path=/usr/local/lib-classpathclass/:lib/:

hadoop - Spark : Saving RDD in an already existing path in HDFS

我可以使用saveAsTextFile方法将RDD输出保存到HDFS。如果文件路径已经存在,此方法将抛出异常。我有一个用例,我需要将RDDS保存在HDFS中已有的文件路径中。有没有一种方法可以将新的RDD数据附加到同一路径中已经存在的数据中? 最佳答案 自Spark1.6以来可用的一种可能的解决方案是使用具有text格式和append模式的DataFrames:valoutputPath:String=???rdd.map(_.toString).toDF.write.mode("append").text(outputPath)

hadoop - "getMaster attempt 1 of 1 failed; no more retrying. com.google.protobuf.ServiceException: java.io.IOException: Broken pipe"连接时

我正在尝试通过一个Java小程序连接到本地系统中安装的HBase(使用Hortonworks1.1.1.16),该程序执行下一个命令:HBaseAdmin.checkHBaseAvailable(conf);值得一提的是,在命令行使用hbase命令连接HBase完全没有问题。主机文件的内容是下一个(其中example.com包含实际主机名):127.0.0.1localhostexample.comHBase配置为在独立模式下工作:hbase.cluster.distributed=false执行程序时,抛出下一个异常:13/05/1315:18:29INFOzookeeper.Zoo

hadoop - pyspark.sql.utils.AnalysisException : u'Path does not exist

我正在使用标准的hdfs运行amazonemr的spark作业,而不是S3来存储我的文件。我在hdfs://user/hive/warehouse/中有一个配置单元表,但在运行我的spark作业时找不到它。我配置了spark属性spark.sql.warehouse.dir以反射(reflect)我的hdfs目录的属性,而yarn日志确实显示:17/03/2819:54:05INFOSharedState:Warehousepathis'hdfs://user/hive/warehouse/'.稍后在日志中说(页面末尾的完整日志):LogType:stdoutLogUploadTime

hadoop - 为 YARN/Hadoop2 作业设置 LD_LIBRARY_PATH 或 java.library.path

我有一个HadoopFileSystem,它使用带有JNI的本地库。显然,我必须独立于当前执行的作业来包含共享对象。但是我找不到告诉Hadoop/Yarn应该在哪里寻找共享对象的方法。我使用以下解决方案部分成功,同时使用yarn启动wordcount示例。在启动资源和节点管理器时设置exportJAVA_LIBRARY_PATH=/path。这有助于资源和节点管理器,但实际的作业/应用程序失败了。在执行wordcount示例时打印LD_LIBRARY_PATH和java.library.path会产生以下结果。什么/logs/userlogs/application_x/contain

比特币铭文和符文有什么区别?简单梳理一下Ordinals、BRC20、Stamps、Atomcial、Runes、Pipe

最近很多新投资者可能对比特币生态中的各种铭文、符文感到困扰,尤其是那些以“20”结尾的概念,如BRC-20、ARC-20、SRC-20、DRC-20、ORC-20、PRC-20、ASC-20等。看着别人因恐错失而急于跟风,眼见各种代币价格节节攀升,自己却感觉摸不清头脑,既不跟随又担心错失良机。然而,我坚守投资的两个基本原则:首先是保护本金,其次是不轻易涉足自己不了解的领域。    今天,我们将借此机会重新整理比特币生态的关键内容,分为五个主要方面:首先,简要梳理当前备受关注的几个热门协议;其次,解析铭文和符文之间的区别;接着,探讨与铭文/符文相关的代币代表有哪些;随后,介绍近70个相关工具,附

hadoop - Hive:每当它触发 map reduce 时,它​​都会给我这个错误 "Can not create a Path from an empty string",我该如何调试?

我正在使用hive0.10以及何时使用hive-e"showtables",hive-e"desctable_name"itworks!但是当我执行类似hive-e"selectcount(*)table_name使用旧版本的配置单元和新集群抛出此错误。调试此类问题的正确方法应该是什么,没有从谷歌找到任何解决问题的方法。java.lang.IllegalArgumentException:CannotcreateaPathfromanemptystringatorg.apache.hadoop.fs.Path.checkPathArg(Path.java:91)atorg.apache

java - 以编程方式确定 Scalding/Cascading Pipe 的字段名称

我正在使用Scalding处理包含许多(>22)个字段的记录。在该过程结束时,我想将最终Pipe的字段名称写到一个文件中。我知道这是可能的,因为Mapper和Reducer日志会显示此信息。我想在工作本身中获取此信息,以将其用作穷人模式的基础。如果这不可能做到,那么是否有一种很好的方法可以将类型安全的PipesAPI用于大型记录(即,无需求助于任意嵌套的元组或案例类)? 最佳答案 .write(Tsv("filename.tsv"),writeHeader=true)通过设置writeHeader=true,您告诉.write函数也