XXL-JOB v2.0.2,分布式任务调度平台 | 多项特性优化更新 - V2EX
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
xuxueli
V2EX    Java

XXL-JOB v2.0.2,分布式任务调度平台 | 多项特性优化更新

  •  
  •   xuxueli 2019 年 4 月 23 日 4218 次点击
    这是一个创建于 2513 天前的主题,其中的信息可能已经有所发展或是发生改变。

    v2.0.2 Release Notes

    • 1、底层通讯方案优化:升级较新版本 xxl-rpc,由"JETTY"方案调整为"NETTY_HTTP"方案,执行器内嵌 netty-http-server 提供服务,调度中心复用容器端口提供服务;
    • 2、任务告警逻辑调整,改为通过扫描失败日志方式触发。一方面精确扫描失败任务,降低描范围;另一方面取消内存队列,降低线程内存消耗;
    • 3、Quartz 触发线程池废弃并替换为 "XxlJobThreadPool",降低线程切换、内存占用带来的消耗,提高调度性能;
    • 4、调度线程池隔离,拆分为"Fast"和"Slow"两个线程池,1 分钟窗口期内任务耗时达 500ms 超过 10 次,该窗口期内判定为慢任务,慢任务自动降级进入"Slow"线程池,避免耗尽调度线程,提高系统稳定性;
    • 5、执行器热部署时 JobHandler 重新初始化,修复由此导致的 "jobhandler naming conflicts." 问题;
    • 6、新增 Class 的加载缓存,解决频繁加载 Class 会使 jvm 的方法区空间不足导致 OOM 的问题;
    • 7、任务支持更换绑定执行器,方便任务分组转移和管理;
    • 8、调度中心告警邮件发送组件改为 “ spring-boot-starter-mail ”;
    • 9、记住密码功能优化,选中时永久记住;非选中时关闭浏览器即登出;
    • 10、项目依赖升级至较新稳定版本,如 quartz、spring、jackson、groovy、xxl-rpc 等等;
    • 11、精简项目,取消第三方依赖,如 commons-collections4、commons-lang3 ;
    • 12、执行器回调日志落盘方案复用 RPC 序列化方案,并移除 Jackson 依赖;
    • 13、底层 Log 调优,应用正常终止取消异常栈信息打印;
    • 14、交互优化,尽量避免新开页面窗口;仅 WebIDE 支持新开页,并提供窗口快速关闭按钮;任务启、停、删除、触发等轻操作提示改为 toast 方式,
    • 15、任务暂停、删除优化,避免 quartz delete 不完整导致任务脏数据;
    • 16、任务回调、心跳注册成功日志优化,非核心常规日志调整为 debug 级别,降低冗余日志输出;
    • 17、调整首页报表默认区间为本周,避免日志量太大查询缓慢;
    • 18、LRU 路由更新不及时问题修复;
    • 19、任务失败告警邮件发送逻辑优化;
    • 20、调度日志排序逻辑调整为按照调度时间倒序,兼容 TIDB 等主键不连续日志存储组件;
    • 21、执行器优雅停机优化;
    • 22、连接池配置优化,增强连接有效性验证;
    • 23、JobHandler#msg 长度限制,修复异常情况下日志超长导致内存溢出的问题;
    • 24、升级 xxl-rpc 至较新版本,修复 springboot 2.x 版本兼容性问题;

    简介

    XXL-JOB 是一个轻量级分布式任务调度平台,其核心设计目标是开发迅速、学习简单、轻量级、易扩展。现已开放源代码并接入多家公司线上产品线,开箱即用。

    输入图片说明

    特性

    • 1、简单:支持通过 Web 页面对任务进行 CRUD 操作,操作简单,一分钟上手;
    • 2、动态:支持动态修改任务状态、启动 /停止任务,以及终止运行中任务,即时生效;
    • 3、调度中心 HA (中心式):调度采用中心式设计,“调度中心”基于集群 Quartz 实现并支持集群部署,可保证调度中心 HA ;
    • 4、执行器 HA (分布式):任务分布式执行,任务"执行器"支持集群部署,可保证任务执行 HA ;
    • 5、注册中心: 执行器会周期性自动注册任务, 调度中心将会自动发现注册的任务并触发执行。同时,也支持手动录入执行器地址;
    • 6、弹性扩容缩容:一旦有新执行器机器上线或者下线,下次调度时将会重新分配任务;
    • 7、路由策略:执行器集群部署时提供丰富的路由策略,包括:第一个、最后一个、轮询、随机、一致性 HASH、最不经常使用、最近最久未使用、故障转移、忙碌转移等;
    • 8、故障转移:任务路由策略选择"故障转移"情况下,如果执行器集群中某一台机器故障,将会自动 Failover 切换到一台正常的执行器发送调度请求。
    • 9、阻塞处理策略:调度过于密集执行器来不及处理时的处理策略,策略包括:单机串行(默认)、丢弃后续调度、覆盖之前调度;
    • 10、任务超时控制:支持自定义任务超时时间,任务运行超时将会主动中断任务;
    • 11、任务失败重试:支持自定义任务失败重试次数,当任务失败时将会按照预设的失败重试次数主动进行重试;其中分片任务支持分片粒度的失败重试;
    • 12、任务失败告警;默认提供邮件方式失败告警,同时预留扩展接口,可方面的扩展短信、钉钉等告警方式;
    • 13、分片广播任务:执行器集群部署时,任务路由策略选择"分片广播"情况下,一次任务调度将会广播触发集群中所有执行器执行一次任务,可根据分片参数开发分片任务;
    • 14、动态分片:分片广播任务以执行器为维度进行分片,支持动态扩容执行器集群从而动态增加分片数量,协同进行业务处理;在进行大数据量业务操作时可显著提升任务处理能力和速度。
    • 15、事件触发:除了"Cron 方式"和"任务依赖方式"触发任务执行之外,支持基于事件的触发任务方式。调度中心提供触发任务单次执行的 API 服务,可根据业务事件灵活触发。
    • 16、任务进度监控:支持实时监控任务进度;
    • 17、Rolling 实时日志:支持在线查看调度结果,并且支持以 Rolling 方式实时查看执行器输出的完整的执行日志;
    • 18、GLUE:提供 Web IDE,支持在线开发任务逻辑代码,动态发布,实时编译生效,省略部署上线的过程。支持 30 个版本的历史版本回溯。
    • 19、脚本任务:支持以 GLUE 模式开发和运行脚本任务,包括 Shell、Python、NodeJS、PHP、PowerShell 等类型脚本;
    • 20、命令行任务:原生提供通用命令行任务 Handler ( Bean 任务,"CommandJobHandler");业务方只需要提供命令行即可;
    • 21、任务依赖:支持配置子任务依赖,当父任务执行结束且执行成功后将会主动触发一次子任务的执行, 多个子任务用逗号分隔;
    • 22、一致性:“调度中心”通过 DB 锁保证集群分布式调度的一致性, 一次任务调度只会触发一次执行;
    • 23、自定义任务参数:支持在线配置调度任务入参,即时生效;
    • 24、调度线程池:调度系统多线程触发调度运行,确保调度精确执行,不被堵塞;
    • 25、数据加密:调度中心和执行器之间的通讯进行数据加密,提升调度信息安全性;
    • 26、邮件报警:任务失败时支持邮件报警,支持配置多邮件地址群发报警邮件;
    • 27、推送 maven 中央仓库: 将会把最新稳定版推送到 maven 中央仓库, 方便用户接入和使用;
    • 28、运行报表:支持实时查看运行数据,如任务数量、调度次数、执行器数量等;以及调度报表,如调度日期分布图,调度成功分布图等;
    • 29、全异步:任务调度流程全异步化设计实现,如异步调度、异步运行、异步回调等,有效对密集调度进行流量削峰,理论上支持任意时长任务的运行;
    • 30、跨平台:原生提供通用 HTTP 任务 Handler ( Bean 任务,"HttpJobHandler");业务方只需要提供 HTTP 链接即可,不限制语言、平台;
    • 31、国际化:调度中心支持国际化设置,提供中文、英文两种可选语言,默认为中文;
    • 32、容器化:提供官方 docker 镜像,并实时更新推送 dockerhub,进一步实现产品开箱即用;
    • 33、线程池隔离:调度线程池进行隔离拆分,慢任务自动降级进入"Slow"线程池,避免耗尽调度线程,提高系统稳定性;;

    文档地址

    技术交流

    6 条回复    2019-04-24 10:26:32 +08:00
    Accat1024
        1
    Accat1024  
       2019 年 4 月 23 日 via Android
    优秀,选定您的项目来读。
    xuxueli
        2
    xuxueli  
    OP
       2019 年 4 月 23 日 via Android
    @Accat1024 感谢关注啊!
    lkathous
        3
    lkathous  
       2019 年 4 月 23 日
    是数据库有改动吗
    lkathous
        span class="no">4
    lkathous  
       2019 年 4 月 23 日
    xxl-job-admin 启动报错,数据库用的是 doc/db/tables_xxl_job.sql

    ```shell
    ### SQL: SELECT id FROM `XXL_JOB_QRTZ_TRIGGER_LOG` WHERE !( (trigger_code in (0, 200) and handle_code = 0) OR (handle_code = 200) ) AND `alarm_status` = 0 ORDER BY id ASC
    ### Cause: com.mysql.jdbc.exceptions.jdbc4.MySQLSyntaxErrorException: Unknown column 'alarm_status' in 'where clause'
    ; bad SQL grammar []; nested exception is com.mysql.jdbc.exceptions.jdbc4.MySQLSyntaxErrorException: Unknown column 'alarm_status' in 'where clause'
    at org.springframework.jdbc.support.SQLErrorCodeSQLExceptionTranslator.doTranslate(SQLErrorCodeSQLExceptionTranslator.java:230)
    at org.springframework.jdbc.support.AbstractFallbackSQLExceptionTranslator.translate(AbstractFallbackSQLExceptionTranslator.java:73)
    at org.mybatis.spring.MyBatisExceptionTranslator.translateExceptionIfPossible(MyBatisExceptionTranslator.java:73)
    at org.mybatis.spring.SqlSessionTemplate$SqlSessionInterceptor.invoke(SqlSessionTemplate.java:446)
    at com.sun.proxy.$Proxy61.selectList(Unknown Source)
    at org.mybatis.spring.SqlSessionTemplate.selectList(SqlSessionTemplate.java:230)
    at org.apache.ibatis.binding.MapperMethod.executeForMany(MapperMethod.java:139)
    at org.apache.ibatis.binding.MapperMethod.execute(MapperMethod.java:76)
    at org.apache.ibatis.binding.MapperProxy.invoke(MapperProxy.java:59)
    at com.sun.proxy.$Proxy65.findFailJobLogIds(Unknown Source)
    at com.xxl.job.admin.core.thread.JobFailMonitorHelper$1.run(JobFailMonitorHelper.java:49)
    at java.lang.Thread.run(Thread.java:748)
    ```
    xuxueli
        5
    xuxueli  
    OP
       2019 年 4 月 23 日
    @lkathous 你好,变更了个别字段;可以对比两个版本建表脚本,调整即可。
    lkathous
        6
    lkathous  
       2019 年 4 月 24 日
    @xuxueli 好的,感谢!
    关于     帮助文档     自助推广系统     博客     API     FAQ     Solana     5600 人在线   最高记录 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 30ms UTC 06:39 PVG 14:39 LAX 23:39 JFK 02:39
    Do have faith in what you're doing.
    ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86