草庐IT

flex-spark

全部标签

java - Apache Spark 启动时出错

我想在ApacheSpark中启用单集群,我安装了java和scala。我下载了ApacheHadoop2.6的spark并解压。我正在尝试打开spark-shell但抛出了一个错误,此外,我无权访问scinshell。我从源代码编译但同样的错误。我做错了什么?Welcometo______/__/__________//___\\/_\/_`/__/'_//___/.__/\_,_/_//_/\_\version1.3.1/_/UsingScalaversion2.10.4(JavaHotSpot(TM)64-BitServerVM,Java1.7.0_79)Typeinexpres

用于 Java 桌面应用程序的 JavaFX、Swing 或 Flex

按照目前的情况,这个问题不适合我们的问答形式。我们希望答案得到事实、引用或专业知识的支持,但这个问题可能会引发辩论、争论、投票或扩展讨论。如果您觉得这个问题可以改进并可能重新打开,visitthehelpcenter指导。关闭10年前。我所做的大部分桌面应用程序开发都是在Swing中进行的,我很想听听人们对使用JavaFX和/或Adob​​eFlex构建桌面应用程序的想法。您是否成功地使用这些构建了桌面应用程序?或者您会暂时坚持使用Swing并使用工具来帮助提高Swing开发的效率吗?

java - 本地类不兼容异常 : when running spark standalone from IDE

我开始测试spark。我在我的本地机器上安装了spark,并用一个worker运行一个本地集群。当我尝试通过如下设置sparconf从我的IDE执行我的工作时:finalSparkConfconf=newSparkConf().setAppName("testSparkfromJava").setMaster("spark://XXXXXXXXXX:7077");finalJavaSparkContextsc=newJavaSparkContext(conf);finalJavaRDDdistFile=sc.textFile(Paths.get("").toAbsolutePath()

采用seatunnel提交Flink和Spark任务

1、seatunnel简单介绍seatunnel是一个非常易用,高性能、支持实时流式和离线批处理的海量数据处理产品,架构于ApacheSpark和ApacheFlink之上。seatunnel让Spark和Flink的使用更简单,更高效。注:当前版本用的是2.1.3版本 如果在github下载自己编译有问题可在此地址下载编译好的文件seatunnel-2.1.3-bin包特性简单易用,灵活配置,无需开发模块化和插件化,易于扩展支持利用SQL做数据处理和聚合集成Spark和Flink官方教程集成Spark教程集成Flink教程​​​​​​2、提交Spark任务参考官方文档:https://int

OSCS开源安全周报第 56 期:Apache Airflow Spark Provider 任意文件读取漏洞

本周安全态势综述OSCS社区共收录安全漏洞3个,公开漏洞值得关注的是ApacheNiFi连接URL验证绕过漏洞(CVE-2023-40037)、PowerJob未授权访问漏洞(CVE-2023-36106)、ApacheAirflowSparkProvider任意文件读取漏洞(CVE-2023-40272)。针对NPM、PyPI仓库,共监测到81个不同版本的毒组件,其中NPM组件包mall-front-babel-directive等携带远控木马,该系列的组件包具有持续性威胁行为。重要安全漏洞列表1.ApacheNiFi连接URL验证绕过漏洞(CVE-2023-40037)ApacheNiFi

java - Apache Pivot 1.4 与 JavaFX、Flex、Silverlight、Swing

按照目前的情况,这个问题不适合我们的问答形式。我们希望答案得到事实、引用或专业知识的支持,但这个问题可能会引发辩论、争论、投票或扩展讨论。如果您觉得这个问题可以改进并可能重新打开,visitthehelpcenter指导。关闭9年前。我最近听说ApachePivot被移到了顶级项目类别,我想知道谁尝试过最新版本并将其与其他RIA工具进行比较。适合比较的类别是什么?Java开发人员似乎更容易上手,因为JavaFX具有不同的脚本语言。Pivot开发人员说Pivot是Sun应该做的,而不是JavaFX。

java - 为 Apache Spark 指定外部配置文件

我想在配置文件中指定Spark的所有属性,然后在运行时加载该配置文件。~~~~~~~~~~编辑~~~~~~~~~~~事实证明,我对如何着手做这件事感到很困惑。忽略这个问题的其余部分。要查看有关如何将.properties文件加载到Spark集群的简单解决方案(在JavaSpark中),请参阅下面我的回答。以下原题仅供引用。~~~~~~~~~~~~~~~~~~~~~~~~我要根据环境(本地、aws)不同的配置文件我想指定特定于应用程序的参数举个简单的例子,假设我想根据字符串过滤日志文件中的行。下面我有一个简单的JavaSpark程序,它从文件中读取数据并根据用户定义的字符串对其进行过滤。

云计算 - 4 - Spark的安装与应用

云计算-4-Spark的安装与应用目标Spark的安装:1、下载配置Scala1.1下载Scala1.2配置Scala的路径1.3测试Scala是否安装完成2、下载配置Spark2.1下载Spark2.2配置Spark的路径2.3修改Spark的配置文件3、将文件复制到子节点4、启动Spark5、测试Spark5.1创建测试文件5.2运行WordCount程序,得到结果Spark的应用:1、计算pagerank1.1进入spark-shell交互式环境1.2编写程序1.3记录结果2、WordCount2.1编写测试文件2.2进入spark-shell交互式环境2.3输入WordCount程序2

Spark运行架构

文章目录一、Spark是什么二、运行架构三、核心组件3.1、Driver3.1、Executor3.2、Master&Worker3.3、ApplicationMaster四、核心模块五、核心概念5.1、Executor5.2、并行度(Parallelism)5.3、有向无环图(DAG)六、提交流程6.1、YarnClient模式6.2、YarnCluster模式一、Spark是什么Spark是用于大规模数据处理的统一分析引擎。可以对结构化、半结构化、非结构化等各种类型的数据数据结构进行自定义计算。也支持Python、Java、Scala、R以及SQL语言去开发应用程序计算数据。Spark借鉴

java - 在 java 中没有 spark-submit 可以吗?

有人告诉我有一个spark集群在“remote-host-num1:7077”上运行,在“remote-host-num2:7077”“remote-host-num3:7077”上有多个节点。如果我编写了一个执行以下操作的程序:SparkConfconf=newSparkConf().setAppName("org.sparkexample.TestCount").setMaster("spark://remote-host-num1:7077");JavaSparkContextsc=newJavaSparkContext(conf);并从sc.textFile创建JavaRDD“