草庐IT

avformat_find_stream_info

全部标签

java - Spark Streaming Kafka 消息未被消费

我想使用Spark(1.6.2)Streaming从Kafka(代理v0.10.2.1)中的主题接收消息。我正在使用Receiver方法。代码如下:publicstaticvoidmain(String[]args)throwsException{SparkConfsparkConf=newSparkConf().setAppName("SimpleStreamingApp");JavaStreamingContextjavaStreamingContext=newJavaStreamingContext(sparkConf,newDuration(5000));//MaptopicM

合并spark structured streaming处理流式数据产生的小文件

备注:By远方时光原创,可转载,open合作微信公众号:大数据左右手背景:做流批一体,湖仓一体的大数据架构,常见的做法就是数据源->sparkStreaming->ODS(数据湖)->sparkstreaming->DWD(数据湖)->...那么数据源->sparkStreaming->ODS,以这段为例,在数据源通过sparkstructuredstreaming写入ODS在数据湖(DeltaLake)落盘时候必然会产生很多小文件目的:为了在批处理spark-sql运行更快,也避免因为小文件而导致报错影响:WARNING:Failedtoconnectto/172.16.xx.xx:9866

java - 了解 Stream API ForEach Task 中的主循环

似乎JavaStreams并行化的核心是ForEachTask。理解其逻辑似乎对于获得必要的心智模型至关重要,该心智模型可以预测针对StreamsAPI编写的客户端代码的并发行为。然而,我发现我的预期与实际行为相矛盾。作为引用,这里是关键的compute()方法(java/util/streams/ForEachOps.java:253):publicvoidcompute(){SpliteratorrightSplit=spliterator,leftSplit;longsizeEstimate=rightSplit.estimateSize(),sizeThreshold;if((

java - Surefire Maven 插件 : "Corrupted STDOUT by directly writing to native stream in forked JVM"

我的JUnit测试在通过Maven和Surefire插件(下面的版本信息)运行时失败了。我看到错误消息:CorruptedSTDOUTbydirectlywritingtonativestreaminforkedJVM4.SeeFAQwebpageandthedumpfileC:\(...)\target\surefire-reports\2019-03-20T18-57-17_082-jvmRun4.dumpstreamFAQ页面指出了一些可能的原因,但我不知道如何使用这些信息来开始解决这个问题:CorruptedSTDOUTbydirectlywritingtonativestre

java - 使用 Streams 实现 Java 数据透视表

我这几天一直在为这个问题苦苦挣扎。我正在尝试使用JavaStreams创建Pivot功能。我只需要执行SUM、COUNT、MAX、MIN和AVERAGE。对于输入,我得到了一个数据透视列索引、一个数据透视行索引数组和要计算的值。要注意的是数据在List>中,其中Object可以是String、Integer或Double。但直到运行时我才知道。我必须以List>的形式返回我的结果。我在处理MAX/MIN时遇到问题(我假设AVERAGE与MAX和MIN相似)为了以多个表值为中心,我创建了一个类来使用我的第二个groupingBy这不会编译,我不确定要比较什么,在哪里将对象转换为int或者

Java Stream GroupingBy 在自定义对象中收集

我有温度等级classTemperature{doubleminTemp;doublemaxTemp;Stringcity;Stringcountry;}我有另一个维护温度集合的类classTemperatures{Listtemperatures;}我想使用流按countryName对温度进行分组。我想要的是publicMaptemperaturesByCountry()但是我无法使用流获取温度作为map值,我得到的是温度列表。我的groupingBy实现如下Map>result=this.getTemperatures().stream().collect(Collectors.g

Java 9 - 我可以将 MainClass 属性添加到存档中的 module-info.class 吗?

这个问题在这里已经有了答案:IsMavenreadyforJDK9?(6个答案)关闭5年前。在Java9中,您可以使用以下命令创建JAR文件jar--create--file=mlib/com.greetings.jar--main-class=com.greetings.Main-Cmods/com.greetings.这具有将MainClass属性添加到.jar文件中的module-info.class文件的副作用。是否有任何插件支持此功能,或者我是否需要直接调用Java9“jar”命令?这是提出这些问题的正确论坛,还是有更好的地方?干杯,埃里克

Java打包机: Cannot find or load main class

我已经创建了一个JavaFX项目并且能够使用命令运行它java-classpath[非常长的类路径列表]danIDE.Main但是,当我尝试使用javapackager从中创建一个jar并使用java-jarout.jar运行时,提示显示错误:无法找到或加载主类danIDE.Main我用来创建jar的命令是javapackager-createjar-v-classpath[非常长的类路径列表]-srcdirsrc-outfileout-appclassdanIDE.Main我在谷歌上搜索了很长时间,仍然找不到解决方案。有人能指出我正确的方向吗?非常感谢!编辑:这是项目结构。这是爆炸的

java - generate-module-info jdeps 时缺少依赖项

我正在尝试使用以下命令运行jdeps:jdeps--module-pathmodules--generate-module-infooutcom.demo.market.jar我的com.demo.market.jar依赖于应用程序模块和自动模块。我将所有依赖项放在“模块”文件夹中,但出现错误:Error:missingdependenciescom.demo.market.platform.MarketPlace->com.demo.client.wholesale.Clientnotfoundcom.demo.market.platform.MarketPlace->com.dem

java - 如何自动将所有 javadoc package.html 文件转换为 package-info.java 文件?

我们在项目中使用了很多遗留的package.html文件,我们想将它们转换为package-info.java文件。手动执行此操作不是一种选择(文件太多)。有什么好的方法可以实现自动化吗?我们想转换它们有几个原因:来自javadoc规范:此文件是JDK5.0中的新文件,优先于package.html。不要在同一代码库中混合两种类型的文件为避免Intellij/Eclipse构建将这些*.html文件放在我们的类目录中(并且可能在发布二进制jar中),以便它们的行为与我们的其他普通html资源一样。 最佳答案 如果您运行的不是Wind