妹子你真萌:一次心惊肉跳的服务器误删文件的恢复过程

刚在我的订阅里面看到这篇文章,在爆笑之余也让跟我一样的运维农民工们发人深省,所以转过来分享一下。妹子啊妹子,网上找的东西也不能直接照搬啊,太萌了~~哈哈!

作者也是挺萌的,重要服务器给妹子当成练手的工具,看来荷尔蒙又出来作恶了,嘿嘿!

下面且看事件始末:

经历了两天不懈努力,终于恢复了一次误操作删除的生产服务器数据。对本次事故过程和解决办法记录在此,警醒自己,也提示别人莫犯此错。也希望遇到问题的朋友能找到一丝灵感解决问题。

事故背景

安排一个妹子在一台生产服务器上安装Oracle,妹子边研究边安装,感觉装的不对,准备卸载重新安装。从网上找到卸载方法,其中要执行一行命令删除Oracle的安装目录,命令如下:

如果ORACLE_BASE这个变量没有赋值,那命令就变成了:

==||,妹子使用的可是root账户啊。就这样,把整个盘的文件全部删除了,包括应用Tomcat、MySQL数据库 and so on。。。。

(mysql数据库不是在运行吗?linux能删除正在执行的文件?反正是彻底删除了,最后还剩一个tomcat的log文件,估计是文件过大,一时没有删除成功)

看着妹子自责的眼神,又是因为这事是我安排她做的,也没有跟她讲清厉害关系,没有任何培训,责任只能一个人背了,况且怎么能让美女背负这个责任呢?

打电话到机房,将盘挂到另一台服务器上,ssh上去查看文件全部被清,这台服务器运行的可是一个客户的生产系统啊,已经运行大半年了,得尽快恢复啊。于是找来脱机备份的数据库,发现备份文件只有1kb,里面只有几行熟悉的mysqldump注释(难道是crontab执行的备份脚本有问题),最接尽的备份也是2013年12月份的了,真是屋漏偏逢连夜雨啊。

想起来一位领导说过的案例:当一个生产系统挂掉以后,发现所有备份都有问题,刻录的光盘也有划痕,磁带机也坏了(一个业界前辈,估计以前还用光盘做备份了),没想到今天真的应验到我的身上了,怎么办?

部门领导知道情况后,已经做了最坏的B计划:领导亲自带队和产品AA周日赶到客户所在的地市,星期一去领导层沟通;BB和CC去客户管理员那边想办法说服客户。。。

救命稻草--ext3grep

赶快到网上去查资料进行误删数据恢复,还真找到一款ext3grep能够恢复通过rm -rf删除的文件,我们磁盘也是ext3格式,且网上有不少的成功案例。于是燃起了一丝希望,赶快对盘umount,防止重新写入补删文件扇区。下载ext3grep,安装(编译安装过程艰辛暂且不表)。

先执行扫描文件名命令:

打印出了所有被删除文件及路径,心中狂喜,不用执行B计划了,文件都在呢。

这款软件不能按目录恢复文件,只能执行恢复全部命令:

结果当前盘空间不足,没办法只能恢复文件,尝试了几个文件,居然部分成功部分失败:

心里不禁一凉,难道是删除磁盘上被写过文件了?恢复机率不大了啊,能恢复几个算几个吧,说不定重要数据文件刚好在能恢复的MYD文件中。于是先将所有文件名重定向到一个文件文件中:

过滤出来所有mysql数据库的文件名存成,mysqltbname.txt

编写脚本恢复文件:

执行,大概运行了20分钟,恢复了40多个文件,但不够啊,我们将近100张表,每张表frm,myd,myi三个文件,怎么说也有300多个左右啊!!将找回来的文件附到现有数据库上,更要文件权限为777后,重启mysql,也算是找回一部分数据了,但客户重要的考勤签到数据、手机端上报数据(据说客户按这些数据做员工绩效的)还没找回来啊。

咋 办?中间又试了另一款工具extundelete,跟ext3grep语法基本一致,原理应该也一样了,但是据说能按目录恢复,好吧试一试。

果然不出所料,恢复不出来!!!!!!!!那些文件已被破坏了。跟领导汇报,执行B计划吧。。。无奈之下下班回家(周末了,回去休息一下,想想办法吧)

灵机一动:binlog

第二天早晨一早就醒了(心里有事啊),背上电脑,去公司(这个周末算是报销了,不挨批,通报,罚款,开除就不错了,还过什么周末啊)。

依旧运行ext3grep,extundelete,也就那几招啊,把系统架到测试服务器上,看看数据能不能想办法补一补吧。在测试服务器上进行mysqldump,恢复文件,覆盖恢复回来的文件,给文件加权限,重启mysql。

wait,wait,不是有binlog吗?我们服务都要求开启binlog,说不定能通过binlog里恢复数据呢?

于是从dump出来的文件名里找到binlog的文件,一共三个,mysql-binlog0001,mysql-bin.000009,mysql-bin.000010,恢复一下0001。

居然失败了……

再看另两个文件,mysql-bin.000010大概几百MB,应该靠谱一点,执行还原命令,居然成功了!!!!!!!!!!!!!

赶快scp到测试服务器。执行binlog还原。

输入密码,卡住了(好现象),经过漫长的等待,终于结束了。打开应用,哦,感谢cctv,mtv,数据回来了!!!!!!!!!!!!!!!

后记

经过此次事故,虽然数据很幸运能找回来了,但是过程却是惊心动迫。也为自己的错误所带来的后果,给同事和领导带来的连带责任而后怕。也希望谨记此次事故,以后不再犯同样的错误。事故反思如下:

1.本次安排MM进行服务器维护时没有提前对她进行说明厉害情况,自己也未重视,管理混乱,流程混乱。一个在线的生产系统,任何一个改动一定要先谋而后动。

2.自动备份出现问题,没有任何人检查。脱机备份人员每次从服务器上下载1k的文件却从未重视。需要明确大家在工作岗位上的责任。

3.事故发生后,没有及时发现,造成部分数据写入磁盘,造成不可恢复问题。需要编写应用监控程序,服务一旦有异常,短信告警相关责任人。

根据评论提醒,再加一条:

4.不能使用root用户来操作。应该在服务器上开设不同权限级别的用户。

通过本次事故,几位跟这个项目和事故没有任何关系的同事,主动前来帮忙,查资料,帮测试,有一位同事还帮忙到晚上1点多钟进行数据恢复测试。同时产品经理在想到面向客户的巨大压力的情况下,没有慌乱而责怪开发人员和具体操作人,而让大家能静下心来想解决方案。部门领导也积极主动的帮忙想办法,陪我们加班测试,实时跟踪事情进程。

通过大家的共同努力,终于事情相对圆满结束,接下来,周一上午进行集体反思,总结经验教训,这类事故一定尽量大努力进行避免。

/**************************************传送门************************************************/


本文所用到的工具链接:

1.ext3grep:https://code.google.com/p/ext3grep/

编译安装依赖包比较多,可以到网上搜索如何安装。可惜的是作者给出的howto被墙了,我翻墙将how to 的pdf文档下载下来了,读完后你将会对linux的文件系统有进一步的认识。下载howto

这个工具有一个bug,出错后不会向下执行ext3grep: init_directories.cc:534: void init_directories(): Assertion `lost_plus_found_directory_iter != all_directories.end()' failed.,从而造成恢复失败,作者放出了一个补丁,下载地址:补丁下载。不明白为什么作者新版没有把这个补丁加进去。

2.extundelete:http://extundelete.sourceforge.net/

功能跟ext3grep差不多,原理应该也差不多。只是号称可以还原目录,我这里没有试验成功。

发表评论

gravatar

:?::razz::sad::evil::!::smile::oops::grin::eek::shock::???::cool::lol::mad::twisted::roll::wink::idea::arrow::neutral::cry::mrgreen:

刷新评论

目前评论:43   其中:访客  31   博主  12

  1. 三日月 6 来自天朝的朋友 未知浏览器 Unknow Os 上海市 电信

    MM估计是吓尿了吧,这个估计哭都来不及了

    • 张戈 [博主] 来自天朝的朋友 未知浏览器 Unknow Os 广东省深圳市 电信

      评论” alt=”[嘻嘻]” title=”[嘻嘻]” class=”ds-smiley” />

      • 三日月 6 来自天朝的朋友 未知浏览器 Unknow Os 上海市 电信

        还好你在搞定了啊,否则悲催了

        • 张戈 [博主] 来自天朝的朋友 未知浏览器 Unknow Os 广东省深圳市 电信

          这是转载的文章。。。

          • 三日月 6 来自天朝的朋友 未知浏览器 Unknow Os 上海市 电信

            我去,前面有一段没看,就看到数据没了,高手后来解决了,这个以前学的时候完全打酱油啊

  2. 创意驴 - 分享创意 2 来自天朝的朋友 未知浏览器 Unknow Os 陕西省西安市 西安电子科技大学

    哪有妹子。。。。。求福利啊 哈哈

  3. 龙三公子 6 来自天朝的朋友 未知浏览器 Unknow Os 江西省九江市 电信

    这管理员在扣妹子吧,root都乱给?sudo一下也可啊。真是惊天地泣鬼神哈。再说这个命令应该有二次确认有提示,难道妹子就没看?

    • 张戈 [博主] 来自天朝的朋友 未知浏览器 Unknow Os 广东省深圳市 电信

      呵呵,我转载的,太爆笑了。

      • 龙三公子 6 来自天朝的朋友 未知浏览器 Unknow Os 江西省赣州市 电信

        笑倒不好笑,妹子不懂情有可原,是管理员太SB

  4. iYest!生活 4 来自天朝的朋友 未知浏览器 Unknow Os 广东省广州市 鹏博士长城宽带

    全部看完..的确..~~个人觉得有重大数据的服务器或者啥的,要先测试,确认没有问题,再进行备份,备份了再进行操作。我一般搞东西都是这样的。这样能最大限度保证数据、文件安全,不过平时就会好麻烦,可能会影响效率。不过不怕一万,只怕万一啊

    • 张戈 [博主] 来自天朝的朋友 未知浏览器 Unknow Os 广东省深圳市 电信

      嗯,除非测试服务器可以随意点,生产、电商等重要服务器,所有操作都得三思而后行

      • iYest!生活 4 来自天朝的朋友 未知浏览器 Unknow Os 广东省广州市 新一代IDC机房

        我的修改主题或者插件的时候,分为本地测试,香港那边的空间测试,然后再上线。囧,这是典型的强迫症么?囧

        • 张戈 [博主] 来自天朝的朋友 未知浏览器 Unknow Os 广东省深圳市 电信

          哈哈,说明你很有耐心!其实修改主题,完全可以备份对应的文件,然后改了试试,不行大不了就恢复单一文件即可。我是没本地测试环境的。

          • iYest!生活 4 来自天朝的朋友 未知浏览器 Unknow Os 广东省广州市 鹏博士长城宽带

            呃…所以说我有点强迫症啊。哈哈哈

  5. PHP二次开发 6 来自天朝的朋友 未知浏览器 Unknow Os 山东省济南市 联通

    哇,这个一定要收藏,好可怕,我看着都觉得可怕。。。

    • 张戈 [博主] 来自天朝的朋友 未知浏览器 Unknow Os 广东省深圳市 联通

      我刚看到这案例,先是爆笑了一番。。哈哈

  6. PHP二次开发 6 来自天朝的朋友 未知浏览器 Unknow Os 山东省济南市 联通

    话说,我一般都是很懒,直接用root用户操作,太可怕了。。。

  7. APP雄起 7 来自天朝的朋友 未知浏览器 Unknow Os 广东省深圳市 联通

    我上次把服务器的网站列表其中一个网站删了,结果文件啥都没有了。吓死我了,还好我备份了。不然就悲催了

    • 张戈 [博主] 来自天朝的朋友 未知浏览器 Unknow Os 广东省深圳市 联通

      备份确实需要做好,以防万一。

  8. 超人博客 1 来自天朝的朋友 未知浏览器 Unknow Os 江苏省宿迁市 电信

    评论” alt=”[威武]” title=”[威武]” class=”ds-smiley” />

  9. 科研动力 3 来自天朝的朋友 未知浏览器 Unknow Os 贵州省贵阳市 电信

    值得警醒。我曾经有过误操作MySQL的经历,数据直接回到1月前

    • 张戈 [博主] 来自天朝的朋友 未知浏览器 Unknow Os 广东省深圳市 联通

      删除、修改操作确实要慎重。

      • 台佳佳.中国 3 来自天朝的朋友 未知浏览器 Unknow Os 北京市 清华大学紫荆公寓二期

        唉 说多了都是泪 我又一次想的不够周全 结果在初始化部分数据的时候直接把整个表初始化了…………

        • 张戈 [博主] 来自天朝的朋友 未知浏览器 Unknow Os 广东省深圳市 联通

          评论” />

  10. 萌妹 6 来自天朝的朋友 未知浏览器 Unknow Os 广东省广州市 电信

    感谢分享。

  11. 刘海江 5 来自天朝的朋友 未知浏览器 Unknow Os 辽宁省沈阳市 鹏博士长城宽带

    看完了这篇文章 刚开始还以为是你现实发生的呢。。

    • 张戈 [博主] 来自天朝的朋友 未知浏览器 Unknow Os 广东省深圳市 联通

      都以为男猪脚是我。。晕。

  12. maillot radioshack 4 来自天朝的朋友 未知浏览器 Unknow Os 福建省福州市 电信

    这妹子真棒~

  13. 梦轩丽人 6 来自天朝的朋友 未知浏览器 Unknow Os 广西南宁市 电信

    我也以为是博主亲身经历呢,不过为了萌妹子,一切都值得的。

    • 张戈 [博主] 来自天朝的朋友 未知浏览器 Unknow Os 广东省深圳市 联通

      评论” alt=”[嘻嘻]” title=”[嘻嘻]” class=”ds-smiley” />

  14. 大侠 0 来自天朝的朋友 未知浏览器 Unknow Os 广东省深圳市宝安区 电信

    你这家伙弄的跟自己亲身经历似的,哈哈

  15. 兔子酱 4 来自天朝的朋友 未知浏览器 Unknow Os 广东省广州市 电信

    备份很重要 评论” />

  16. 罂粟小灰【驯腾】 3 来自天朝的朋友 未知浏览器 Unknow Os 江西省南昌市 移动

    顶帖来了

  17. sxbxjhwm 1 来自天朝的朋友 未知浏览器 Unknow Os 上海市 鹏博士长城宽带

    rm -rf /* 了哈哈哈

  18. 七弦琴 2 来自天朝的朋友 未知浏览器 Unknow Os 陕西省西安市 联通

    刚开始玩vps,师傅是个萌妹子,她告诉我的第一句话就是站长不能懒,勤备份是个好习惯,尽管技术很差,但是常备份了万事都还好挽回。。

    • 张戈 [博主] 来自天朝的朋友 未知浏览器 Unknow Os 广东省深圳市 电信

      没事勤备份,以防万一,这个真的很重要。

  19. sinsky 0 来自天朝的朋友 谷歌浏览器 Windows 7 浙江省杭州市 电信

    我只能表示。。。 呵呵 居然让一个妹子去弄LINUX.。。。 好吧 我醉了

  20. 西贝博客 4 来自天朝的朋友 Safari浏览器 Mac OS X 10_10_3 河南省 移动

    哈哈,你太逗了

  21. 同盟源 5 来自天朝的朋友 谷歌浏览器 Windows 7 安徽省芜湖市 电信

    所以说让妹子玩winxp系统才是王道

  22. 企业短信服务平台 2 来自天朝的朋友 谷歌浏览器 Windows XP 河南省郑州市 联通

    Oracle数据库的确不是那么好装的,看网上的方法不少,但好多都不一样,搞得还得一个一个尝试,这就牵扯到卸载的问题,总之我是领教了

  23. 回忆如烟 3 来自天朝的朋友 谷歌浏览器 Windows 8.1 河北省石家庄市 电信

    这么重要的客户数据 按理说应该同步3份备份才对 最简单的方法 目录同步啊 服务器上多挂载一个磁盘 每天同步一次

    异地再备份一次

  24. xiangzi 2 来自天朝的朋友 谷歌浏览器 Windows 10 天津市 电信

    网站下边的通知栏挺炫的

  25. 成航先森 5 来自天朝的朋友 谷歌浏览器 Windows 7 四川省成都市 电信

    管理、备份、监控、权限各个环节都不能有问题啊,生产环境下一切都要慎之又慎。

加载中,请稍候...