Apache DolphinScheduler 迎来 2 位 PPMC
–>
经过 Apache DolphinScheduler PPMC 们的推荐和投票,我们高兴的宣布:Apache DolphinScheduler 迎来了 2 位 PPMC 。他们是(github id):Tboy 和 khadgarmage。对于成为 PPMC ,两位小伙伴说道:
Tboy:
社区在 dev 邮件列表通知被选为 PPMC 时,非常的激动。从19年10月参与 ds,到19年12月选为 committer,到20年4月选为ppmc,每一天都在为荣誉奋斗。
PPMC 不是开源的终点,而是一个全新的起点。后续,在开源的路上,我会更加的努力,更多的学习 Apache way 。也希望 ds 快速发展,早日成为*项目。
khadgarmage:
非常荣幸能成为DolphinScheduler的PPMC,我会继续努力,为我们DolphinScheduler 添砖加瓦,使其更加稳定、易用,尽快毕业~~
Apache DolphinScheduler 是一个非常多样化的社区,至今贡献者已超过 70 名,他们分别来自 30 多家不同的公司。
Apache DolphinScheduler 是什么
Apache DolphinScheduler 是一个分布式去中心化,易扩展的可视化 DAG 工作流任务调度系统。致力于解决数据处理流程中错综复杂的依赖关系,使调度系统在数据处理流程中开箱即用。
Apache DolphinScheduler 使用的公司
已经有大量知名企业和科研机构在使用 Apache DolphinScheduler,来处理各类调度和定时任务:
Apache DolphinScheduler 社区情况
Apache DolphinScheduler 1.3.0 新特性
-
Worker实现重构,提升Worker性能
-
-
Master和Worker引入Netty通信
-
去zookeeper任务队列
-
Worker节点的三种选择:随机、循环和CPU和内存的线性加权负载平衡
-
Worker去数据库操作
-
-
资源中心支持多目录
-
添加 if/else 条件任务
-
添加 sqoop/datax 任务
-
支持 windows 开发和部署
-
支持 k8s 部署
-
支持 ambari 插件安装
-
代码优化
-
大幅简化配置项,简化部署
Apache DolphinScheduler Roadmap
总体依照社区需求和关注度来安排功能优先
-
master 重构:建立 api 和 master 通信等
-
任务结果参数传递
-
任务类型插件化Plugin
-
工作流触发
-
列表依赖
-
权限重新设计
-
支持多集群任务调度
-
测试集群和正式集群
-
工作流版本管理
-
Easy to use
Apache DolphinScheduler 设计特点:
-
以DAG图的方式将Task按照任务的依赖关系关联起来,可实时可视化监控任务的运行状态
-
支持丰富的任务类型:Shell、MR、Spark、Flink、SQL(mysql、postgresql、hive、sparksql)、Python、Http、Sub_Process、Procedure等
-
支持工作流定时调度、依赖调度、手动调度、手动暂停/停止/恢复,同时支持失败重试/告警、从指定节点恢复失败、Kill任务等操作
-
支持工作流优先级、任务优先级及任务的故障转移及任务超时告警/失败
-
支持工作流全局参数及节点自定义参数设置
-
支持资源文件的在线上传/下载,管理等,支持在线文件创建、编辑
-
支持任务日志在线查看及滚动、在线下载日志等
-
实现集群HA,通过Zookeeper实现Master集群和Worker集群去中心化
-
支持对
Master/Worker
cpu load,memory,cpu在线查看 -
支持工作流运行历史树形/甘特图展示、支持任务状态统计、流程状态统计
-
支持补数
-
支持多租户
-
支持国际化
系统部分截图
在线DEMO试用
http://106.75.43.194:8888/
加入 Apache DolphinScheduler
在使用 DolphinScheduler 的过程中,如果您有任何问题或者想法、建议,都可以通过Apache 邮件列表参与到 DolphinScheduler 的社区建设中来。
发送订阅邮件也非常简单,步骤如下:
1. 用自己的邮箱向 [email protected] 发送一封邮件,主题和内容任意。
2. 接收确认邮件并回复。 完成步骤1后,您将收到一封来自[email protected] 的确认邮件(如未收到,请确认邮件是否被自动归入垃圾邮件、推广邮件、订阅邮件等文件夹)。然后直接回复该邮件,或点击邮件里的链接快捷回复即可,主题和内容任意。
接收欢迎邮件。 完成以上步骤后,您会收到一封主题为WELCOME to [email protected]的欢迎邮件,至此您已成功订阅Apache DolphinScheduler(Incubating)的邮件列表。
强烈推荐订阅开发邮件列表,与社区保持最新信息同步,这一点非常重要。
本文来源 互联网收集,文章内容系作者个人观点,不代表 本站 对观点赞同或支持。如需转载,请注明文章来源,如您发现有涉嫌抄袭侵权的内容,请联系本站核实处理。