大数据分布式工作流任务调度系统DolphinScheduler v1.3.4

▼

简介：

Apache DolphinScheduler(incubator,原EasyScheduler）是一个大数据分布式工作流任务调度系统，主要解0 q } O ?决大W L + Y \ d S数据研发过程中ETL处理错综复杂的依赖关系，而不能直观监控任务健康状态等问题。DolphinScheduler以DAG流式的方式将Task组装起来，可实时监控任务的运行状态，同时支持重试、从指定节点恢复失败、暂停及Kill任务等操作。

特点：

一个分布式易扩展的可视化DAGB a w c工作流任务调度系统。致力于解决数据处理流程中错综复杂的依赖关系，使调度系统在数据处理流程中开箱即用。

特色：

1、以DAG图的& S u [方式将Task按照任务的依赖\ P J关系关联起来，可e m g i t W i )实时可视化监控任务的运行状态G R N d {

2、支持丰富的任务类型：Shell、MR、Spark、SQL(mysql、postgresql、hive、sparksql),Python,Sub_Pra _ R V k o O socess、Procedure等

3、支持工作流定时调度、依赖调度、手动调度、手动暂停/停止/恢复，同时支持失败重试/告警、从指定节点恢复失败、Kill任务等操作

4、支| @ r h X z持工作流优先级、任务优先级及任务的故障转移及任务超时告警/失败

5、支持( 5 Q ; A N 5 | ^工作流全局参数及节点自D z ; / % s ? x定义参数设置

6、支持资源文件的在线上传/安装，管理等，支持在线文件创建、编辑

7、支持任务日志在线查看及滚动、在线安装日志等

8、实现集群HA，通过Zookeeper实现Master集群和Worker集群去中心化

9、支L i ? . 6 f m % p持对Master/Worker cpu loy t I Pad，memory，cpu在线查s p S E看

10、支持工作流运行历史树形/甘特图展示、支持任务状态统计、流程状态统计

1L 6 z *1、支持补数

12、支持多租户

13、支持国际化

14k 7 M @ J [ ~、还有更多等待伙伴们探索

图片：

▼

   特别声明    本页内容仅供参考，若有侵权，请联系我们删除。