编程开源技术交流,分享技术与知识

网站首页 > 开源技术 正文

大数据工作流调度系统Easy Scheduler正式开源

wxchong 2024-07-08 01:09:33 开源技术 60 ℃ 0 评论

Easy Scheduler 大数据工作流调度系统已经开源,欢迎下载交流: https://github.com/analysys/

Easy Scheduler

大数据工作流调度系统已经开源,欢迎下载交流 https://github.com/analysys/EasyScheduler

Easy Scheduler for Big Data

设计特点: 一个分布式易扩展的可视化DAG工作流任务调度系统。致力于解决数据处理流程中错综复杂的依赖关系,使调度系统在数据处理流程中开箱即用。

其主要目标如下:

? 以DAG图的方式将Task按照任务的依赖关系关联起来,可实时可视化监控任务的运行状态

? 支持丰富的任务类型:Shell、MR、Spark、SQL(mysql、postgresql、hive、sparksql),Python,Sub_Process、Procedure等

? 支持工作流定时调度、依赖调度、手动调度、手动暂停/停止/恢复,同时支持失败重试/告警、从指定节点恢复失败、Kill任务等操作

? 支持工作流优先级、任务优先级及任务的故障转移及任务超时告警/失败

? 支持工作流全局参数及节点自定义参数设置

? 支持资源文件的在线上传/下载,管理等,支持在线文件创建、编辑

? 支持任务日志在线查看及滚动、在线下载日志等

? 实现集群HA,通过Zookeeper实现Master集群和Worker集群去中心化

? 支持对Master/Worker cpu load,memory,cpu在线查看

? 支持工作流运行历史树形/甘特图展示、支持任务状态统计、流程状态统计

? 支持补数

? 支持多租户

? 支持国际化

? 还有更多等待伙伴们探索


与同类调度系统的对比

系统部分截图

文档

后端部署文档

前端部署文档

使用手册

更多文档请参考 easyscheduler中文在线文档

帮助:The fastest way to get response from our developers is to submit issues, or add our wechat : 510570367

本文暂时没有评论,来添加一个吧(●'◡'●)

欢迎 发表评论:

最近发表
标签列表