Linux/vps本地七天循环备份和七牛远程备份脚本

博客前些时间分享过一次vps远程备份到七牛的工具,全傻瓜式交互操作,但也有一个很大的缺憾,那就是不够灵活,在无人干预的情况下,无法完成对多个站点的远程备份设置。

这次博客搬家到vps后,张戈花了点时间完善了下,实现了多站点,多数据库的本地七天循环备份和同步备份至七牛云存储的脚本。

Linux/vps本地七天循环备份和七牛远程备份脚本

一、类型说明

①、七天循环备份

受服务器空间制约,我们不可能在VPS上每天都备份一份新的网站数据,一是没必要,二是占空间。我们折中一下,采用星期命名,每次备份将覆盖上星期同一天的文件。从而只备份7份数据,不至于占用特别大的空间。

如果,你的vps很小家子气或是网站数据太庞大,那还可以再折中一下,仅在星期二、四、六做备份,即总共三份数据。甚至还可以选一个星期的某一天做备份,即一周备份一次,也是可以的。

在空间允许的情况下,个人推荐做7天循环备份,在vps数据全部丢失的时候,能最大程度的容灾,恢复到丢失前一天,甚至是当天凌晨备份的所有数据,非常完美!

②、七牛远程备份

七牛远程备份就是将本地的7天备份的数据每天同步至七牛云存储私人空间,就算整台vps奔溃时,还能从容的恢复数据。相当于双保险,要知道七牛和你的vps同时宕机的几率是非常小的。

二、准备工作

①、整理vps已有网站对应的数据库用户名和密码(如不清楚可直接用mysql的root帐号);

②、整理vps已有网站的根目录所在路径,比如 /home/wwwroot/zhangge.net

③、想好本地想要存放备份文件的路径,比如/home/wwwbackup

④、还没有七牛帐号的,点此注册一个,然后新建一个私人空间(为了数据安全,请勿使用公开空间,仅恢复数据时临时切换到公开状态即可),记录空间名以及帐号密钥:

Linux/vps本地七天循环备份和七牛远程备份脚本

Linux/vps本地七天循环备份和七牛远程备份脚本

三、本地七天备份

①、登录VPS编写脚本

脚本代码如下:

使用说明:

②、将代码中的2处 mypassword 改成你自定义的压缩密码(确保数据安全),并保存为backup.sh之后,执行chmod +x backup.sh 赋执行权限。

为了避免复制转码问题,下文已打包分享[点此直达]

Ps:下载的代码包没有加密打包,请自行参考上述代码,自行加上【-P密码】参数。

③、执行./backup.sh --help 可获得如下帮助说明:

Linux/vps本地七天循环备份和七牛远程备份脚本

④、备份数据库

命令行示例如下:

命令参数说明:

参数1:db,设置备份类型为数据库

参数2:domain 网站域名,如zhangge.net,用于备份文件命名

参数3:dbname  要备份的数据库名次,如zhangge_db

参数4:mysqluser  mysql用户名,如不清楚可用mysql 的root帐号

参数5:mysqlpassword  mysql密码

参数6:back_path  备份文件存放路径

⑤ 备份网站文件:

命令行示例:

命令参数说明:

参数1:file,设置备份类型为网站文件

参数2:domain 网站域名,如zgboke.com,同样用于备份文件的命名

参数3:site_path 网站文件的路径,如/home/wwwroot/zgboke.com

参数4:back_path 备份文件存放路径

Tips:为了方便后面的七牛同步,建议将备份文件存放到同一个上级目录,然后以网站域名来命名当前目录,比如,同一个vps的备份数据,我都放到/home/wwwbackup/,然后以各自的网站域名来命名,zhangge.net的数据库和文件我都统一存放到/home/wwwbackup/zhangge.net。

最新补充:2014/10/25日,手动执行命令检查时,发现报如下错误信息:

Access denied for user 'dbuser'@'localhost' to database 'db' when using LOCK TABLES

即提示该用户不具备锁表权限,导致数据导出失败!这种情况一般发生在数据库正在执行某个查询动作,此时普通帐号是无法导出备份的!

解决办法:

方法①、修改上面的备份脚本,找到如下行

添加--skip-lock-tables参数即可,即不锁表导出(可能丢失某些正在更新的数据,当然凌晨时候几率很小)。

方法②、使用root帐号执行备份即可:

执行crontab -e 修改Linux计划任务,修改数据库备份计划命令行中的用户名为mysql的root帐号:

个人推荐方法②,最大限度的保证了数据备份的完整度!

⑥、建立七天备份的任务计划

I. 先执行crontab -l 看看命令是否存在,若不存在,请使用  yum -y install vixie-cron crontabs 安装crond

II. 确认crond已存在后,请执行/etc/init.d/crond start 确保启动了crond服务,并执行chkconfig crond on设置为开机启动。

III. 执行crontab -e 建立任务计划,如下是我的vps的任务计划,请参考添加:

每个网站2行,第一行备份数据库,第二行备份网站文件。

crontab参数格式为 {分 时 日 月 周 + 命令行}

所以,拿第2行来说,就是 每天的凌晨3点,执行后面的命令行,最后的>/dev/null 2>&1 表示屏蔽任何日志信息。

注意事项:脚本需要写绝对路径,比如/root/scripts/backup.sh 并且要有执行权限,可以再次执行chmod +x 来赋权

作完以上步骤之后,你的VPS已经实现了本地七天循环备份机制。下面说下同步至七牛的方法。

四、七牛远程备份

远程备份至七牛的原理,在之前的博文已经说明,不清楚的请参考:http://zhangge.net/4221.html

下面说具体做法:

①、下载我整理好的七牛同步工具包(仅提供64位):

备用下载:

②、将工具包解压:

unzip QN_Backup_tools.zip

解压完成后,会得到一个tools文件夹,里面有三个文件,分别为:

qrsync:七牛同步工具仅适合Linux64位,其他版本请点此下载相应版本替换此文件

qrsync.conf :通用配置模版

config.sh:配置初始化辅助脚本

③、配置qrsync和计划任务

I. 会用vim 和crontab -e 的童鞋 可以无视config.sh,直接使用vim编辑qrsync.conf:

修改代码中的 /home/wwwbackup 、Your AK 、Your SK、bucket_name三个参数即可。

/home/wwwbackup 表示要同步到七牛的目录,即上文七天备份的文件存放路径

Your AK:你的七牛帐号Access_key

your SK:你的七牛帐号的Secret_key

bucket_name:准备存放备份文件的七牛私人空间名字

改完后,执行crontab -e 添加如下计划任务:

Ps:代码表示每天凌晨4点同步至七牛,记得要修改qrsync和qrsync.conf的实际路径。

II. 不熟悉vim和crontab的同学,可如下执行我写好的初始化脚本:config.sh

完成以上所有步骤之后,你的vps就实现了本地七天循环备份和七牛远程备份了!

五、附加说明

①、注意事项

I. 考虑到脚本适用性,压缩时会包含文件的绝对路径,而解压时也将恢复原来的绝对路径。

比如,解压zhangge.net_7.zip,所有文件将带上备份前的路径:/home/wwwroot/zhangge.net/

看得懂脚本、又不想带路径压缩的同学,可以自行修改下,让脚本只压缩网站目录。

比如,将脚本第29行修改如下即可实现:

注意网站目录名必须和输入的domain一致!看不懂脚本的,不建议修改,带了绝对路径也不影响后期手动恢复!

II. 备份文件会带有脚本执行者的权限,比如备份脚本是以root身份执行,那么这个压缩包解压后的文件的所有者和权限都是root,那么在恢复网站数据时,必须使用chmod恢复权限到当前的web使用者,比如lnmp一件安装的环境,web的使用者是www,那么解压缩备份文件后,记得执行:chown -R www:www /网站路径  恢复所有者权限,否则打开网站可能出现空白页!

②、贴上我的vps计划任务截图,供参考:

Linux/vps本地七天循环备份和七牛远程备份脚本

③、本地备份截图:

Linux/vps本地七天循环备份和七牛远程备份脚本

Ps:文件中的数据表示星期几,带db的表示数据库,没带的表示网站文件,每个网站最终将有14份文件(7个数据库备份,7个网站文件备份)。

④、七牛备份截图:

Linux/vps本地七天循环备份和七牛远程备份脚本

 

Linux/vps本地七天循环备份和七牛远程备份脚本

和本地数据保持一致,七牛同步工具还有一个优点,通过哈希值判断文件是否有更新,而不重复同步相同文件,所以每天的七牛同步其实只会同步当天生成的备份包。

六、展望

本文到此就要告一段落了,仔细想想可以发现,还是存在一定的改善空间。

比如,还可以加上网站恢复机制。同步一些帐号等配置数据到七牛,当vps完全奔溃,数据无法找回时,可直接通过脚本等工具从七牛下载数据,然后按照写好的配置数据,自动将数据恢复到指定日期。完全无需过多的人工干预。想想都觉得很强大,是不?

如果有一套全自动恢复机制,不但可以在vps完全奔溃时快速恢复,还可以用于全自动网站搬家,有没有感觉像最近推出的的多备份服务?

其实,要实现也非常简单,多写一个脚本就可以实现,只是考虑到实用性、环境兼容性等因素,暂时就不花精力去实现了。

2016年12月16日更新:博客目前已分享阿里云主机从内网备份到OSS方案【点此前往】。

发表评论

gravatar

:?::razz::sad::evil::!::smile::oops::grin::eek::shock::???::cool::lol::mad::twisted::roll::wink::idea::arrow::neutral::cry::mrgreen:

刷新评论

目前评论:43   其中:访客  29   博主  14

  1. PHP二次开发 6 来自天朝的朋友 未知浏览器 Unknow Os 山东省济南市 联通

    一直是手工备份的来着。

    • 张戈 [博主] 来自天朝的朋友 未知浏览器 Unknow Os 广东省深圳市 电信

      评论” /> 看了就没想过用一下?真的很方便

      • PHP二次开发 6 来自天朝的朋友 未知浏览器 Unknow Os 山东省济南市 联通

        有时间再说吧,我现在更新博文都是勉强保证。

        • 张戈 [博主] 来自天朝的朋友 未知浏览器 Unknow Os 广东省深圳市 电信

          嗯,正事要紧

  2. 纺织机厂 0 来自天朝的朋友 未知浏览器 Unknow Os 福建省泉州市晋江市 电信

    小白表示看了,更晕了

    • 张戈 [博主] 来自天朝的朋友 未知浏览器 Unknow Os 广东省深圳市宝安区 电信

      评论” />

  3. 灰常记忆 4 来自天朝的朋友 未知浏览器 Unknow Os 陕西省西安市 电信

    折腾不起,也没那个资金整VPS~

    • 张戈 [博主] 来自天朝的朋友 未知浏览器 Unknow Os 广东省深圳市 电信

      我这VPS一年才280.

      • 有梦网 0 来自天朝的朋友 QQ浏览器 Windows 7 广东省珠海市 电信

        怎么便宜?求介绍啊

  4. 梦轩丽人 6 来自天朝的朋友 未知浏览器 Unknow Os 广西崇左市 电信

    还在用虚拟主机88元/年的路过,等有条件用上VPS的时候再来学习

  5. musk 3 来自天朝的朋友 未知浏览器 Unknow Os 江苏省苏州市 电信

    提示上传失败怎么版

    • 张戈 [博主] 来自天朝的朋友 未知浏览器 Unknow Os 广东省广州市 移动

      七牛的同步工具么?两种可能原因,1是防火墙没堵住吧?2是那个同步配置可能写错了

      • musk 3 来自天朝的朋友 未知浏览器 Unknow Os 江苏省苏州市 电信

        嗯 同步配置了

  6. 微历史 6 来自天朝的朋友 未知浏览器 Unknow Os 北京市 联通

    我准备将图片放到七牛

  7. 悟空网赚(www.99shuobo.com) 2 来自天朝的朋友 未知浏览器 Unknow Os 河北省沧州市 联通

    站长技术流啊 简单的说用了七牛是不是网站访问明显加快了

  8. 微信大学 3 来自天朝的朋友 谷歌浏览器 Windows 7 北京市 北京数字家园网络科技有限公司北京电信互联网数据中心节点

    太强大了. 亲测可用,感谢张哥的技术分享! :wink:

    • 张戈 [博主] 来自天朝的朋友 谷歌浏览器 Windows 8.1 广东省深圳市 电信

      看来你的linux知识已经有了不小的进步

      • 微信大学 3 来自天朝的朋友 谷歌浏览器 Windows 7 北京市 北京数字家园网络科技有限公司北京电信互联网数据中心节点

        用这个备份 nginx配置文件,php配置文件也不错唉.

  9. jalena 0 来自天朝的朋友 谷歌浏览器 Windows 7 四川省成都市 电信

    搞的好复杂哦!!

    • 张戈 [博主] 来自天朝的朋友 谷歌浏览器 Windows 7 广东省深圳市 电信

      高手啊,见笑了~咱也就是抛砖引玉。

  10. serm 0 来自天朝的朋友 谷歌浏览器 Windows 8 广东省深圳市 电信

    可以备份云数据库吗,数据库不在本地

  11. 找牛网 2 来自天朝的朋友 QQ浏览器 Windows 7 四川省成都市 电信

    很GOOD,这个脚本解决了我的大问题,本来想自己弄一个,有现成的,并且可能比我的更好。多谢。

  12. 操他妈 1 来自天朝的朋友 谷歌浏览器 Windows 7 浙江省杭州市 电信

    看不太懂
    大牛我只想将生成的图片自动同步到七牛,如何弄呢?采集的图片一旦有直接同步到七牛,不用自己执行

  13. 深蓝 1 来自天朝的朋友 谷歌浏览器 Windows 7 安徽省淮南市 电信

    不服不行!脚本小弟也能写的出来,并且已经在用了,不过像博主这样洋洋洒洒写一篇精彩的博文我就万万不行了!
    赞一个!

  14. 小鱼 2 来自天朝的朋友 谷歌浏览器 Windows 10 河南省平顶山市 联通

    戈哥,我想问下设定的晚上自动备份数据库为什么总是空文件,里面什么内容都没有。但是直接执行 ./backup.sh db zhangge.net zhangge_db root rootpasswd /home/wwwbackup/zhangge.net 又可以成功备份出来,这是为什么呢?用的root账号密码。
    还有直接执行的时候会提示 Warning: Using a password on the command line interface can be insecure.
    备份网站数据没有问题。
    谢谢戈哥

    • 张戈 [博主] 来自天朝的朋友 QQ浏览器 Windows 7 广东省广州市 电信

      是不是密码里面有百分号?如果有百分号,放到crontab中就得弄2个%才可以。 比如密码是 123% 那么写到crontab就是
      123%%
      那个提示忽略,就是告诉你不要在命令里面带入密码。

      • 小鱼 2 来自天朝的朋友 谷歌浏览器 Windows 10 河南省平顶山市 联通

        没有百分号。只有大小写字母和数字。不知道是哪里出了问题。Centos 6.5 64位系统

        • 野人摊影视分享 3 来自天朝的朋友 谷歌浏览器 Windows 7 福建省福州市 联通

          我跟你的情况是一样的,单纯的执行命令可以备份出完整的数据文件,但是用了定时去备份文件,压缩包里面是空白,望张戈大神能修复下,数据库密码也没有百分号,只有大小写字母和数字,用的是root账号去备份,张戈大哥若是看到了,麻烦修复下这个问题!谢谢!

  15. 小丢丢 1 来自天朝的朋友 谷歌浏览器 Windows 7 浙江省 电信

    嗨.请教个问题
    当vps上数据库比较多的时候,比如有5个.
    那么
    ./backup.sh db zhangge.net zhangge_db zhangge 123456 /home/wwwbackup/zhangge.net
    这行命令,要写5条吗?

    问题2:
    哪个地方实现了 ,7天自动循环. backup.sh 中没有看到删除7天以前的旧文件操作.
    恕在下笨拙. 谢谢指导.

    • 张戈 [博主] 来自天朝的朋友 QQ浏览器 Windows 7 广东省广州市 电信

      1、是要写5条,脚本是分开备份的,也是为了方便单个恢复。
      2、7天备份的原理是一个星期为一个周期,周一备份的时候会自动覆盖上周一的备份文件,因为名称都一样

      • 小丢丢 1 来自天朝的朋友 谷歌浏览器 Windows 7 浙江省 电信

        了解了 谢谢博主.

  16. xxxky 1 来自天朝的朋友 谷歌浏览器 Windows XP 浙江省温州市 电信

    期待站长来一篇关于家用Windows系统定时远程下载VPS上的数据, 本地Windows电脑是24小时开机的。没有固定IP

    • 张戈 [博主] 来自天朝的朋友 Safari浏览器  Android 5.1.1 Redmi Note 3 Build/LMY47V 浙江省温州市 电信

      这个简单吧,批处理配合wget.exe,用windows的任务计划就能实现了。

      • xxxky 1 来自天朝的朋友 谷歌浏览器 Windows 7 浙江省温州市 电信

        不懂 :razz:
        请问你那边有相关的教程吗 ?

        • 张戈 [博主] 来自天朝的朋友 QQ浏览器 Windows 7 福建省福州市 电信

          没有,靠你自己百度搜索windows计划任务以及wget.exe用法

          • xxxky 1 来自天朝的朋友 谷歌浏览器 Windows 7 浙江省温州市 电信

            恩 恩好, 谢谢!

  17. mrjucn 0 来自天朝的朋友 火狐浏览器 Windows 10 黑龙江省哈尔滨市 电信

    看着头大。还是手动备份到七牛,人笨没办法。linux刚学会几个命令。就不折腾了。

  18. boke112导航 5 来自天朝的朋友 谷歌浏览器 Windows XP 广西南宁市 电信

    不知道这个是否适用于阿里云的ECS服务器?我也想实现同步到七牛云空间或百度云盘或360云盘之类的,感觉这样比较安全

    • 张戈 [博主] 来自天朝的朋友 QQ浏览器 Windows 10 广东省深圳市 移动

      Linux系统都可以使用

  19. boke112导航 5 来自天朝的朋友 谷歌浏览器 Windows 7 广西南宁市 电信

    后面七牛同步的那个搞不定,wget https://static.zhangge.net/diy_tools/QN_Backup_tools.zip 显示错误,下载不了。

    • 张戈 [博主] 来自天朝的朋友 QQ浏览器 Mac OS X 10_11_3 广东省深圳市 移动

      文章中不是有备用下载吗?再说,还有最新的备份方式:https://zhangge.net/5111.html

      • boke112导航 5 来自天朝的朋友 谷歌浏览器 Windows XP 广西南宁市 电信

        最新那个OSS对象存储好像要花钱购买的,目前根据这篇文章已经成功实现自动备份,就是从备用下载得到的文件上传到服务器后进行修改,上传到七牛的步骤没有成功。等过段时间再折腾OSS试试。

        • 张戈 [博主] 来自天朝的朋友 QQ浏览器 Windows 7 广东省广州市 电信

          OSS 一年应该只要几块钱。。。而且内网流量不花钱。备份到七牛走服务器公网,上传的时候网站会卡出翔。

加载中,请稍候...