草庐IT

Apache Dolphin Scheduler 3.0.1 发布，对核心及UI相关进行优化

海豚调度 2023-03-28 原文

点亮 ⭐️ Star · 照亮开源之路

GitHub:https://github.com/apache/dolphinscheduler

​

版本发布

感谢本次的 Release Manager --@zhuangchong,是他主导了我们这个版本的发布流程，引导社区进行版本内容沟通，发版前的问题跟踪，blocking issue 处理，版本质量管理等，感谢@zhuangchong为社区的付出，也期待其他 Committer 和 PMC 能够一起参与到 Release Manager 的角色中来。

在3.0.0 正式版本发布1个多月之后，期间社区也紧锣密鼓的进行着新版本的迭代的筹备，通过用户访谈对一线的建议、意见反馈进行收集，作为3.0.1版本的核心开发点，我们约谈了多个企业，社区收集了上百条 issue PR，近30位贡献者参与，推出了大家期盼已久的3.0.1版本，该版本对于UI以及调度内核做了些许调整，同时也修复了一些3.0.0版本存在的bug，非常欢迎社区的小伙伴参加到社区的共建中。

Release note：

https://github.com/apache/dolphinscheduler/releases/tag/3.0.1

核心相关 Core Related

  • 工作流执行可运行将面临无限循环

  • 升级时提示数据库字段存在问题

  • 普通用户不能创建依赖任务

  • 任务、工作流实例优先级导致 NPE

  • Dependent 下游错误触发

  • 修复工作流实例可能多次故障转移

  • 任务组获取任务状态为运行错误

  • 修复worker 杀任务触发 OOM

UI相关优化 UI-related optimization

  • 工作流列表名称显示重叠

  • 工作流实例不支持运行

  • 数据源修改端口报错

  • 工作实例操作不在同一行

  • 显示工作流名称

资源中心 Resource Center

资源中心 defaultFs 配置失效问题

文档相关 Documentation Related

增加了部分提醒性语言，如上传文档时候的全路径、standalone 默认资源中心的使用；

更正了原本错误的文档，如 工作流相关描述、创建 worker group相关、 python api 跳转链接、部分拼写错误、社区 email slack 链接；

Python API

本次主要增加了python 10 和 python 11-dev 支持，修复了 switch 任务类型，sql 任务 truncate 语法识别错误问题。同时修复了 python api 只有最新版文档的问题

BUG Fix

  • [Improvement][UI] Unified local parameters UI #11190

  • [Fix][UI] Fix bug where icons are displayed in one line. #11320

  • [Improvement-11386][UI] Concise the logic available for task action buttons #11419

  • [Fix][UI] Fix the preTask options are unavailable when creating a tas… #11501

  • S3 Resource center supports bucket customization (#12022)

  • fix status check issue (#11580) (#12030)

  • [LDAP] Config value should return real null instead of 'null' string (#12031)

  • [3.0.1-preapre][cherry-pick]3.0.1 UI (#12020)

  • [Fix][UI] Fix bug where crontab special of month and year #11661

  • [UI] Enable highlight and auto-complete for SQL scripts #11659

  • [Fix][UI] Fix the problem that the pagination component is not centered in the environment management. #11646

  • [Fix][UI] Fix the port in the datasource edit. #11624

  • [Fix][UI] Fix the table header in the workflow instance. #11487

  • [Fix][UI] Fix bug where warn group name not display #11429

  • [Feature-10117][UI] Hide node execution when start from the workflow definition list page #11372

  • [Fix-11366][UI] Workflow instance should not support right-click running #11367

  • [fix-10961][alert server]Change the content of alert to an array (#11033)

  • [Fix][UI] Fix workflow name overlaps bug (#11862) (#12019)

  • [Bug] [Worker] Optimize the getAppId method to avoid worker OOM when kill task (#11994)

  • fix heartBeatTaskCount bug (#12024)

  • Fix kill task failed will cause the taskGroup cannot release and add taskGroup log (#11469) (#12013)

  • Workflow Definition Name Change Validation Optimization. (#11986)

  • add unit test ci timeout (#11655) (#12021)

  • [helm] fix worker template persistentVolumeClaim link (#11248) (#12018)

  • Set master's task running status in runTask to avoid the task group acquire failed, but the task status is in running (#11451) (#12011)

  • [python] Refactor structure to avoid cycle import (#11167)

  • [python] Add support interpreter version 310 and 311-dev (#11170)

  • [bug][python] Fix task switch error when default branch not defined last (#11606)

  • [fix][python] Sql pattern add truncate. (#11666)

  • Add dependent task instance log (#11541) (#12014)

  • If the task processor is not found need to throw error rather than exception (#11461) (#12012)

  • Fix workflow instance may failover many times due to doesn't check the restart time (#11445) (#12010)

  • Fix find last process instance in dependent task is not correct (#11424) (#12009)

  • Fix quartz threadPriority config name error (#11596) (#12015)

  • [Fix-11413] Cannot set task status to kill if the task is not in running(#11414) (#12007)

  • Clear thread name in BaseTaskProcessor (#11422) (#12008)

  • Bug Dependent downstream trigger error when schedule cycle not day. (#11987)

  • [CI] Fix cluster test abnormal (#11688) (#11985)

  • [Improvement-11380][scp-host.sh] Set StrictHostKeyChecking=no option to ssh (#11382) (#11995)

  • optimize the process instance query, change the date time range (#11719) (#11991)

  • [Fix-11051][Task]Fix the process exitValue exception when the process times out and th… (#11099) (#11983)

  • [fix-11404]: make the common.properties to configurable on values.yaml (#11441) (#11967)

  • ][fix-11452][Bug] [Logger Server] Incorrect password regular expression (#11993)

  • Remove logger header in task log file (#11555) (#11968)

  • [Bug] [API] The task priority and process instance priority might be null and cause NPE (#11969)

  • [Bug] [spark-sql] In spark-sql, select both SPARK1 and SPARK2 versions and execute /bin/spark-sql (#11971)

  • Update dolphinscheduler_ddl.sql (#11974)

  • [fix-#11815] fix ck column names contain special characters (#11973)

  • [Bug][Workflow Definition] fix ordinary users can not create depend task (#11961) (#11976)

  • [Fix-11877][UI] Fix the problem that the environment cannot be delete (#11934)

  • [fix-10938]: use dot to replace source and make the default env work in shell (#11937)

  • fix hdfs defaultFs not working (#11823) (#11936)

  • [Quartz] cron did not work as expected (#11932)

  • [Bug] [Master] WorkflowExecuteRunnable will face a infinite loop #11838 #11864 (#11949)

  • [Bug-#11650][worker] #11650 fix SQL type task, stop task does not take effect (#11938)

  • [Fix][db] fix init&upgrade mysql-meta-schema bugs #11887 (#11933)

  • Process definition length too long when copy or import #10621 (#11893)

DOC

  • [Doc] Upgrade license. (#9967)

  • [Doc] Update README. (#9970)

  • [Doc] Fix Doc deadlink in readme (#9972)

  • [Doc] Update the Document picture to new UI (#9953)

  • [Doc] Add example and notice about task type Conditions (#9945)

  • [Doc] Fix Docker link. (#9998)

  • [Doc] Add the description about execute type in SQL task (#9987)

  • [Doc] Add example and notice about task type Dependent (#10001)

  • [Doc] Correct kubernetes (#9985)

  • [Doc] Correct Doc of development-environment-setup (#9995)

  • [Bug][Document] Fix task group management Document link error (#10062)

  • [Fix-10083][Doc]Change Docker cmd && Change WebexTeams Chinese Translation (#10084)

  • [improvement-#11630]fix document about common.properties (#11653)

  • update PyDolphinScheduler documentation link. (#11474)

  • [doc] Correct E2E Doc, fix WorkerGroupPage typo (#11629)

  • Fix homepage email subscription link (#11622)

  • [DOC] should notice that need setting the full path when call the resource file #11620 (#11621)

  • [Doc][Bug] Fix resource center docs for standalone mode (#11600)

  • feat: update slack (#11578)

  • [Improvement-11550] [Doc]Document content update (#11577)

  • [Doc][Security] Update instructions on worker groups (#11483)

  • [Doc][DSIP] Move DSIP docs to the right place (#11442) (#11443)

  • [Doc][Resources] Instruct users to use local storage if they have remote storage mounted to local (#11435)

  • feat: Modifying Slack Links (#11416)

  • [python] Add multiple version of document (#11391)

  • [doc] Refine the deployment documentation (#11361)

  • [Fix-11217] [Doc] add postgresql config in doc: datasource-setting (#11326)

  • [doc] Improve the document introduction of complement (#11275)

  • [DOC] improve zk digest doc (#11703) (#11992)

  • [Doc] Remove re-upload file function in the 3.0.0's doc (#11804) (#11984)

  • [doc] Add how obtain IP address from network card in FAQ (#11311) (#11982)

  • fix doc about sub-process's child node describe (#11972)

  • [fix][doc] Update the registry related configuration in values.yaml (#11444) (#11980)

致谢 Acknowledgement

感谢所有 3.0.1 版本的贡献者（按首字母排序），是你们的不懈努力让社区不断进步

106umao、Amy0104、ChrisYuan、DarkAssassinator、EricJoy2048、EricGao888、HeZean、JinyLeeChina、MonsterChenzhuo、SbloodyS、WangJPLeo、abzymeinsjtu、devosend、fengjian1129、fuchanghai、guodongym、hiSandog、huage1994、insist777、jackfanwan、jieguangzhou、labbomb、limaiwang、liqingwang、lishiyucn、luoyedeyi、rickchengx、ruanwenjun、shangeyao、sketchmind、songjianet、stalary、wendongdi、yutianaiqingtian、zhangshuocn、zhongjiajie、zhuangchong、zhuxt2015

最后非常欢迎大家加入 DolphinScheduler 大家庭，融入开源世界！

我们鼓励任何形式的参与社区，最终成为 Committer 或 PMC，如：

  • 将遇到的问题通过 GitHub 上 issue 的形式反馈出来。

  • 回答别人遇到的 issue 问题。

  • 帮助完善文档。

  • 帮助项目增加测试用例。

  • 为代码添加注释。

  • 提交修复 Bug 或者 Feature 的 PR。

  • 发表应用案例实践、调度流程分析或者与调度相关的技术文章。

  • 帮助推广 DolphinScheduler，参与技术大会或者 meetup 的分享等。

欢迎加入贡献的队伍，加入开源从提交第一个 PR 开始。

  • 比如添加代码注释或找到带有 ”easy to fix” 标记或一些非常简单的 issue(拼写错误等) 等等，先通过第一个简单的 PR 熟悉提交流程。

注：贡献不仅仅限于 PR 哈，对促进项目发展的都是贡献。

相信参与 DolphinScheduler，一定会让您从开源中受益！

参与贡献

随着国内开源的迅猛崛起，Apache DolphinScheduler 社区迎来蓬勃发展，为了做更好用、易用的调度，真诚欢迎热爱开源的伙伴加入到开源社区中来，为中国开源崛起献上一份自己的力量，让本土开源走向全球。

参与 DolphinScheduler 社区有非常多的参与贡献的方式，包括：

贡献第一个PR(文档、代码) 我们也希望是简单的，第一个PR用于熟悉提交的流程和社区协作以及感受社区的友好度。

社区汇总了以下适合新手的问题列表：https://github.com/apache/dolphinscheduler/issues/5689

非新手问题列表：https://github.com/apache/dolphinscheduler/issues?q=is%3Aopen+is%3Aissue+label%3A"volunteer+wanted"

如何参与贡献链接：https://dolphinscheduler.apache.org/zh-cn/community/development/contribute.html

来吧，DolphinScheduler开源社区需要您的参与，为中国开源崛起添砖加瓦吧，哪怕只是小小的一块瓦，汇聚起来的力量也是巨大的。

参与开源可以近距离与各路高手切磋，迅速提升自己的技能，如果您想参与贡献，我们有个贡献者种子孵化群，可以添加社区小助手微信(Leonard-ds) ，手把手教会您( 贡献者不分水平高低，有问必答，关键是有一颗愿意贡献的心 )。

添加小助手微信时请说明想参与贡献。

来吧，开源社区非常期待您的参与。

SchedulerDolphinlidolphinschedulerstrong大数据

有关Apache Dolphin Scheduler 3.0.1 发布，对核心及UI相关进行优化的更多相关文章

  1. ruby-on-rails - 使用 Ruby on Rails 进行自动化测试 - 最佳实践 - 2

    很好奇，就使用ruby​​onrails自动化单元测试而言，你们正在做什么？您是否创建了一个脚本来在cron中运行rake作业并将结果邮寄给您？git中的预提交Hook？只是手动调用？我完全理解测试，但想知道在错误发生之前捕获错误的最佳实践是什么。让我们理所当然地认为测试本身是完美无缺的，并且可以正常工作。下一步是什么以确保他们在正确的时间将可能有害的结果传达给您？ 最佳答案 不确定您到底想听什么，但是有几个级别的自动代码库控制:在处理某项功能时，您可以使用类似autotest的内容获得关于哪些有效，哪些无效的即时反馈。要确保您的提

  2. ruby - i18n Assets 管理/翻译 UI - 2

    我正在使用i18n从头开始​​构建一个多语言网络应用程序，虽然我自己可以处理一大堆yml文件，但我说的语言(非常)有限，最终我想寻求外部帮助帮助。我想知道这里是否有人在使用UI插件/gem(与django上的django-rosetta不同)来处理多个翻译器，其中一些翻译器不愿意或无法处理存储库中的100多个文件，处理语言数据。谢谢&问候，安德拉斯(如果您已经在ruby​​onrails-talk上遇到了这个问题，我们深表歉意) 最佳答案 有一个rails3branchofthetolkgem在github上。您可以通过在Gemfi

  3. ruby-on-rails - 按天对 Mongoid 对象进行分组 - 2

    在控制台中反复尝试之后，我想到了这种方法，可以按发生日期对类似activerecord的(Mongoid)对象进行分组。我不确定这是完成此任务的最佳方法，但它确实有效。有没有人有更好的建议，或者这是一个很好的方法？#eventsisanarrayofactiverecord-likeobjectsthatincludeatimeattributeevents.map{|event|#converteventsarrayintoanarrayofhasheswiththedayofthemonthandtheevent{:number=>event.time.day,:event=>ev

  4. ruby - 使用 C 扩展开发 ruby​​gem 时，如何使用 Rspec 在本地进行测试？ - 2

    我正在编写一个包含C扩展的gem。通常当我写一个gem时，我会遵循TDD的过程，我会写一个失败的规范，然后处理代码直到它通过，等等......在“ext/mygem/mygem.c”中我的C扩展和在gemspec的“扩展”中配置的有效extconf.rb，如何运行我的规范并仍然加载我的C扩展？当我更改C代码时，我需要采取哪些步骤来重新编译代码？这可能是个愚蠢的问题，但是从我的gem的开发源代码树中输入“bundleinstall”不会构建任何native扩展。当我手动运行rubyext/mygem/extconf.rb时，我确实得到了一个Makefile(在整个项目的根目录中)，然后当

  5. ruby - 如何进行排列以有效地定制输出 - 2

    这是一道面试题，我没有答对，但还是很好奇怎么解。你有N个人的大家庭，分别是1,2,3,...,N岁。你想给你的大家庭拍张照片。所有的家庭成员都排成一排。“我是家里的friend，建议家庭成员安排如下:”1岁的家庭成员坐在这一排的最左边。每两个坐在一起的家庭成员的年龄相差不得超过2岁。输入:整数N，1≤N≤55。输出:摄影师可以拍摄的照片数量。示例->输入:4，输出:4符合条件的数组:[1,2,3,4][1,2,4,3][1,3,2,4][1,3,4,2]另一个例子:输入:5输出:6符合条件的数组:[1,2,3,4,5][1,2,3,5,4][1,2,4,3,5][1,2,4,5,3][

  6. ruby-on-rails - 相关表上的范围为 "WHERE ... LIKE" - 2

    我正在尝试从Postgresql表(table1)中获取数据，该表由另一个相关表(property)的字段(table2)过滤。在纯SQL中，我会这样编写查询:SELECT*FROMtable1JOINtable2USING(table2_id)WHEREtable2.propertyLIKE'query%'这工作正常:scope:my_scope,->(query){includes(:table2).where("table2.property":query)}但我真正需要的是使用LIKE运算符进行过滤，而不是严格相等。然而，这是行不通的:scope:my_scope,->(que

  7. ruby - 即使失败也继续进行多主机测试 - 2

    我已经构建了一些serverspec代码来在多个主机上运行一组测试。问题是当任何测试失败时，测试会在当前主机停止。即使测试失败，我也希望它继续在所有主机上运行。Rakefile:namespace:specdotask:all=>hosts.map{|h|'spec:'+h.split('.')[0]}hosts.eachdo|host|begindesc"Runserverspecto#{host}"RSpec::Core::RakeTask.new(host)do|t|ENV['TARGET_HOST']=hostt.pattern="spec/cfengine3/*_spec.r

  8. ruby - 是否可以覆盖 gemfile 进行本地开发？ - 2

    我们的git存储库中目前有一个Gemfile。但是，有一个gem我只在我的环境中本地使用(我的团队不使用它)。为了使用它，我必须将它添加到我们的Gemfile中，但每次我checkout到我们的master/dev主分支时，由于与跟踪的gemfile冲突，我必须删除它。我想要的是类似Gemfile.local的东西，它将继承从Gemfile导入的gems，但也允许在那里导入新的gems以供使用只有我的机器。此文件将在.gitignore中被忽略。这可能吗？ 最佳答案 设置BUNDLE_GEMFILE环境变量:BUNDLE_GEMFI

  9. ruby - 在 Windows 机器上使用 Ruby 进行开发是否会适得其反？ - 2

    这似乎非常适得其反，因为太多的gem会在window上破裂。我一直在处理很多mysql和ruby​​-mysqlgem问题(gem本身发生段错误，一个名为UnixSocket的类显然在Windows机器上不能正常工作，等等)。我只是在浪费时间吗？我应该转向不同的脚本语言吗？ 最佳答案 我在Windows上使用Ruby的经验很少，但是当我开始使用Ruby时，我是在Windows上，我的总体印象是它不是Windows原生系统。因此，在主要使用Windows多年之后，开始使用Ruby促使我切换回原来的系统Unix，这次是Linux。Rub

  10. ruby-on-rails - 如何在 Ruby on Rails 中实现由 JSF 2.0 (Primefaces) 驱动的 UI 魔法 - 2

    按照目前的情况，这个问题不适合我们的问答形式。我们希望答案得到事实、引用或专业知识的支持，但这个问题可能会引发辩论、争论、投票或扩展讨论。如果您觉得这个问题可以改进并可能重新打开，visitthehelpcenter指导。关闭10年前。问题1)我想知道ruby​​onrails是否有功能类似于primefaces的gem。我问的原因是如果您使用primefaces(http://www.primefaces.org/showcase-labs/ui/home.jsf)，开发人员无需担心javascript或jquery的东西。据我所知，JSF是一个规范，基于规范的各种可用实现，prim

随机推荐