dolphinscheduler任务调度遇见的问题

本文记录了在Dolphinscheduler中遇到的任务调度问题及解决方案。问题由服务器磁盘空间不足引起,导致任务告警。通过清理/data目录下的日志文件释放空间,并修改配置文件中绑定的端口解决端口冲突问题。重启Dolphinscheduler集群后恢复正常运行。

1.问题描述

        dolphinscheduler大量任务突然全部告警,告警内容如下:

         报错原因:No space left on device

2.问题解决

        初步断定是服务器磁盘空间不足导致datax无法创建任务进程以及日志无法写入,然后去查了服务器的磁盘占用情况,我发现ds所有任务提交都在节点1上,节点1也挂点了(懵...);结果,果然是磁盘不够用了

cd / #进入根目录

du -h --max-depth=1 #寻找当前目录,哪个文件夹占用空间最大

 这里是我做了磁盘清理后的占用情况,但是还是可以发现 /data目录下文件占用磁盘资源最多,"."代表代表当前目前,眼尖的人会看见有个30G,30G是根目录下总磁盘空间占用大小;所以我们只要进入/data目录下依次执行上述命令,就能查出最终占用最多的文件夹;最后,清理文件夹数据就行。提示:如果是.log数据是完全可以清理的不会影响线上任务运行,我这里写了个脚本清理了集群一个月之前的日志数据。脚本log_backup.sh如下:

#!/bin/sh
day=`da
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值