清华大佬耗费三个月吐血整理的几百G的资源，免费分享！....>>>
#!/bin/bash
# mysql 的备份脚本
# 备份原理:
# 1
# 使用列举出所有的库;
# 2
# 使用每个库,列举出每张表,除了指定忽略的库;
# 3
# 使用mysqldump 导出每一张表到文件:主机名/年月日/库/表.mysqldump.sql
# 4
# 验证每张表的sql文件是否包含完成标志;
# 5
# 压缩每个sql文件并删除本sql文件
# 6
# 强制删除超过x天的备份文件夹全部文件
# 7
# 发送处理日志到指定email
# 8
# 请配合同步工具多处服务器备份
# mysql备份配置信息
mysqlBackupUser="backuper"
# 密码不要包含"号
mysqlBackupPwd="**#&&&#ddddddd("
# 日志文件路径/var/log/文件名.log,只记录每次运行的日志
# 不备份的数据库名称,每个名称使用()号包住,如不备份 abc.d 和 abc.e二个数据库,就拼写成"(abc.d)(abc.e)",名字不区分大小写
notBackupDatabases="(mysql)(information_schema)(performance_schema)"
#备份的目录,后面需要加/
backupRoot="/var/backup/hostname-mysql-data/"
# 删除存在大于以下天数的备份目录
deleteRootOutDays=30
#必须是完整的email地址,因为正面的命令使用到
smtpUser="qidizi@qq.com"
#smtp://协议是必须的
smtpHost="smtp://smtp.qq.com:25"
#密码不能包含又引号防止shell出错
smtpPwd="pwd"
smtpTo="qq@qq.com"
smtpSubject="主机上的mysql自动备份脚本执行信息"
# 配置结束行
shName=$(basename $0)
shLogPath="/var/log/${shName}.log"
ver=$(realpath --version 2>&1)
if [ "$?" -ne "0" ];then
echo "测试realpath --version的版本时出错,中止,出错信息:${ver}"
exit 10
fi
echo -e "$(date "+%Y-%m-%d %R:%S") By $(realpath ${0})\n" > $shLogPath
function myExit(){
exitCode=$1
ver=$(mailx -V 2>&1)
appendLog "退出时间:$(date +%Y-%m-%d/%R:%S)"
appendLog "服务器信息:\n$(ifconfig 2>&1)"
if [ "$?" -ne "0" ];then
appendLog "测试用来发送email的命令mailx时出错,请安装,如centos使用yum install mailx,忽略发送email通知的步骤,出错信息:${ver}"
else
#发送email
mailInfo=$(mailx -v -s "${smtpSubject}" -S from="${smtpUser}" -S smtp-auth="login" -S smtp="${smtpHost}" -S smtp-auth-user="${smtpUser}" -S smtp-auth-password="${smtpPwd}" -S ssl-verify=ignore "${smtpTo}" < $shLogPath 2>&1)
# 无法附加发送过程的日志给email通知中,所以,只能保存到日志中,如果需要了解email的交互过程,请到日志文件中查看
appendLog "退出时间到发送email的时间:$(date +%Y-%m-%d/%R:%S)\n使用mailx发送emial通知交互如下:\n\n${mailInfo}"
fi
exit $exitCode
}
# 追加日志
function appendLog(){
echo -e "${1} \n" >> $shLogPath
}
if [ ! -e "${backupRoot}" ];then
appendLog "备份根目录 ${backupRoot} 不存在,已创建"
mkInfo=$(mkdir -p $backupRoot 2>&1)
if [ "$?" -ne "0" ];then
appendLog "尝试创建备份目录 ${backupRoot}失败:${mkInfo}"
myExit 1
fi
elif [ ! -d "${backupRoot}" ];then
appendLog "备份根目录路径虽然存在,但是它不是目录,中止:${backupRoot}"
myExit 2
fi
#今天的备份目录
todayRoot="${backupRoot}$(date +%Y%m%d%H)/"
if [ ! -e "${todayRoot}" ];then
mkInfo=$(mkdir $todayRoot 2>&1)
if [ "$?" -ne "0" ];then
appendLog "尝试创建本轮的备份目录 ${todayRoot} 失败,中止:${mkInfo}"
myExit 3
fi
fi
appendLog "今天的备份目录:${todayRoot}"
ver=$(mysql --version 2>&1)
if [ "$?" -ne "0" ];then
appendLog "测试mysql的版本时出错,中止,出错信息:${ver}"
myExit 4
fi
ver=$(mysqldump -V 2>&1)
if [ "$?" -ne "0" ];then
appendLog "测试mysqldump命令出错,请安装,中止,出错信息:${ver}"
myExit 5
fi
ver=$(tail --version 2>&1)
if [ "$?" -ne "0" ];then
appendLog "测试tail命令的版本时出错,中止,出错信息:${ver}"
myExit 41
fi
ver=$(tar --version 2>&1)
if [ "$?" -ne "0" ];then
appendLog "测试tar命令的版本时出错,中止,出错信息:${ver}"
myExit 42
fi
databases=$(mysql --host="127.0.0.1" --user="${mysqlBackupUser}" --password="${mysqlBackupPwd}" --execute="show databases;" --silent --skip-column-names --unbuffered 2>&1)
if [ "$?" -ne "0" ]; then
appendLog "尝试使用配置信息列举mysql的数据库名时出错,中止:${databases}"
myExit 6
else
appendLog "全部的数据库名称列表如下:\n ${databases}"
fi
for database in $databases; do
# 匹配时不区分大小写
echo $notBackupDatabases|grep -i "(${database})" >/dev/null
# 属于不需要备份的库
if [ "$?" -eq "0" ];then
appendLog "数据库 ${database} 被指定不需要备份,跳过"
continue
fi
databaseRoot="${todayRoot}${database}/"
if [ ! -e "${databaseRoot}" ];then
mkInfo=$(mkdir $databaseRoot 2>&1)
if [ "$?" -ne "0" ];then
appendLog "尝试创建数据库 ${databaseRoot} 的目录失败,中止:${mkInfo}"
myExit 7
fi
fi
tables=$(mysql --host="127.0.0.1" --user="${mysqlBackupUser}" --password="${mysqlBackupPwd}" --execute="show tables from \`${database}\`;" --silent --skip-column-names --unbuffered 2>&1)
if [ "$?" -ne "0" ]; then
appendLog "尝试使用配置信息列举mysql的数据库 ${database} 表的列表时出错,中止:${tables}"
myExit 8
else
appendLog "${database}数据库表的全部列表如下:\n ${tables}"
fi
for table in $tables; do
sqlPath="${databaseRoot}${table}.sql"
timeStart="开始dump时间点: $(date +%Y-%m-%d/%R:%S)"
dumpInfo=$(mysqldump --host="127.0.0.1" --user="${mysqlBackupUser}" --password="${mysqlBackupPwd}" --dump-date --comments --quote-names --result-file="${sqlPath}" --quick --databases "${database}" --tables "${table}" 2>&1 )
timeEnd="完成dump时间点: $(date +%Y-%m-%d/%R:%S)"
if [ "$?" -ne "0" ];then
appendLog "尝试导出数据库 ${database}的表 ${table} 失败,中止:${dumpInfo}"
myExit 9
else
appendLog "导出数据库 ${database}的表 ${table} 到 ${sqlPath} 成功:${dumpInfo}; 耗时: 从 ${timeStart} 至 ${timeEnd}"
tail --lines=10 "${sqlPath}" |grep "\-\- Dump completed" 2>&1 > /dev/null
if [ "$?" -ne "0" ];then
appendLog "没有发发现内容中的 'Dump completed' 正常完成标志字符,请检查dump文件${sqlPath},请登录ssh查看此文件是否备份成功"
else
appendLog "检测到备份文件内容中的'Dump completed'标志字符,dump文件${sqlPath}应该备份成功了"
fi
fi
done
done
appendLog "\n ------数据库备份全部完成------\n"
# 开始压缩,把压缩放到备份结束是防止压缩时间过长,如果出现锁表,会影响网站运行
sqls=$(ls --almost-all --ignore-backups --indicator-style=slash -1 ${todayRoot}*/*.sql 2>&1)
for path in $sqls; do
#路径中包含了绝对路径,tar命令还需要改进
sqlDir=$(dirname $path)
sql=$(basename $path)
tarInfo=$(tar --create --remove-files --bzip2 --absolute-names --directory="${sqlDir}" --add-file="${sql}" --file="${path}.tar.bz2")
if [ "$?" -ne "0" ];then
appendLog "压缩并删除${path}文件时出错:\n${tarInfo}"
else
appendLog "已压缩并删除${path}"
fi
done
appendLog "------完成压缩操作-----"
#开始清理大于x天的备份
daysDir=$(ls --almost-all --ignore-backups --indicator-style=slash -1 "${backupRoot}" 2>&1)
for bkDir in $daysDir;do
bkDir="${backupRoot}${bkDir}"
if [ ! -d "${bkDir}" ];then
appendLog "准备删除过期的备份操作时,因为${bkDir}不是一个目录,跳过"
continue
fi
dirName=$(basename $bkDir)
#test
echo $dirName | grep -P "^\d{10}$" 2>&1 >/dev/null
if [ "$?" -ne "0" ];then
appendLog "准备删除过期备份目录时,检测到待删除目录名不是10位数字,跳过:${bkDir}"
continue
fi
outDay=$(date --date="-${deleteRootOutDays}day" "+%Y%m%d00")
#如果文件时间小于这个过期时间那么就强制删除整个目录
if [ "${dirName}" -lt "${outDay}" ];then
rmInfo=$(rm --force --preserve-root --recursive "${bkDir}" 2>&1)
appendLog "发现一个过期备份目录 ${bkDir},已经超过 ${deleteRootOutDays} 天,也就是小于${outDay}就会被删除 ,被强制删除状态(0为成功):${?} ${rmInfo};"
fi
done
appendLog "------完成清理过期备份文件夹操作----"
appendLog "空间使用情况如下:\n $(df -h)"
appendLog "当前备份文件占用空间情况:\n $(du -hs ${todayRoot})"
myExit 0