机房应急预案（共五篇）

第一篇：机房应急预案

主机运维应急预案简介

. 崔志昂 上海超级计算中心 上海 201203 zacui@ssc.net.cn . 魏玉琪 上海超级计算中心 上海 201203 yqwei@ssc.net.cn 引言：

高性能计算技术及应用水平已成为显示综合国力的一种标志。高性能计算机持续不间断地 为用户提供高性能计算服务，而运维应急预案是主机运行中处理突发事件的依据和方法，是主

机系统稳定运行的保障。本文简要介绍上海超级计算中心主机运维应急预案，供同行参考。

1. 主机和运维管理制度简介

超级计算机是功能最强、运算速度最快、存

储容量最大的一类计算机。目前只有少数国家掌握 研发技术，系统造价非常昂贵，多用于国家高科技 领域和尖端技术研究，是国家科技发展水平和综合 国力的重要标志。上海超级计算中心作为上海信息 港主体工程之一，国家和上海市政府投资先后引 进神威-I超级计算机、神威-64P集群计算机、曙光 4000A超级计算机系统并投入商业化运行。

上海超级计算中心自2001年正式开通至今，

这些高性能计算机系统已安全、稳定运行七年多时 间，上机用户取得了丰硕的科研成果和社会效益。 在这七年中，为保障这些高性能计算机系统安全、 稳定、不间断地运行，技术支持部在中心引进第一 台高性能计算机--神威-I超级计算机系统的同时，建 立了机房应急预案、运行记录、设备运行参数等基 础运维制度，在二期引进曙光4000A超级计算机系统 过程中，不断完善原有运维制度，并针对该主机系 统特点编写了大量操作方法和应急预案。

中心自2006年获得ISO27001（BS7799）信息安 全认证以来，技术支持部根据其要求规范了文档体 系建设，形成了机房管理制度、应急预案、操作方 法、运行情况记录的四大类运维文档。

正是这些运维管理制度的不断完善和有效执 行，才确保了资产价值高、服务对象广、社会影 响大的中心主机系统安全、稳定运行，保障重点项 目、用户服务的连续性。

2. 应急预案重要性

上海超级计算中心机房运维管理文档划分为机 房管理制度、应急预案、操作方法、运行记录共四 大类（如图1所示）。

图1 应急预案分类

应急预案在应急系统中起着关键作用，它明确 了在突发紧急情况发生之前、发生过程中以及刚刚 结束之后，谁负责做什么、何时做，以及相应的策 略和资源准备等。它是针对可能发生的重大事故， 按照其影响和后果严重程度，在应急准备、响应、 操作各个方面预先做出的详细安排，是开展及时、 有序和有效事故应急工作的行动指南。因此，应急 预案在这四类运维管理文档中处于最为重要的地位。

3. 应急预案分类

应急预案按重要性和事件种类，可以划分为消

防预案、断电预案、空调预案、其他预案共4种，预 案各文档之间彼此独立又互为关联，具有非常强的 可操作性。制定预案的指导原则是尽一切可能，最 大限度地确保向用户提供的服务不中断。在紧急事 件发生的情况下，保证核心设备连续运行，避免存 储数据丢失。在事件处置完成后，能快速恢复高性 能计算服务。

3.1 消防预案

消防预案是主机房最重要的应急预案。该类预 案根据《上海超级计算中心灭火和应急疏散预案》 的原则并结合主机房主机设备和消防设备的运行特 性而制定。主要由《主机房消防应急预案》和《主 机房气体喷淋消防系统启动撤离及处置应急预案》 2个文档组成。

消防应急预案：该预案着重规范了火警事件发 生后，所有主机维护人员如何根据所属区域和现场 情况，判断和选择正确的处理方法，同时配合中心 物业人员处置，降低事件带来的影响。

对于设备发生烟雾，主机维护人员协同物业人 员寻找烟雾点予以切断相关区域电源；当设备发生 可以控制火情，协同物业人员灭火；当主机房发生 火灾而无法控制，应采取施救方法等措施。

气体喷淋预案：该预案描述主机房气体喷淋系统启

动的响应和确认并具体规定了撤离机房路线、善后处置。

这两个预案中，消防应急预案作为消防预案

的主体，涉及到如何处理与消防有关情况的各个方 面。气体喷淋预案是主机房发生重大火灾时应对的 最终灭火手段和人员撤离引导方法。

3.2 断电预案

断电预案的重要性仅次于消防预案。该类预

案根据中心供配电系统实际情况和各种断电影响范 围下对主机运行的最小保障要求而制定的。主要由

《主机房断电应急预案》、《曙光4000A超级计算机 系统紧急关机操作方法》、《曙光4000A超级计算机 系统双路断电关机操作方法》等多个文档组成。

主机房断电应急预案：该预案用于断电情况

下，主机维护人员如何与中心物业部门联系控制主 机房供电情况，并且负责对主机系统运行受断电影 响程度做出正确判断。指导维护人员按影响程度， 分别选用预案中对应的操作方法。本预案在所有断 电预案中起指导思想作用。 紧急关机操作方法：该预案制定了主机系统在 紧急情况下，最快速度关机的操作步骤。主要用于 发生烟雾、明火或消防、断电预案需在数分钟内关 机断电的事件。

双路断电关机操作方法：该紧急操作预案主要 用于在外界双路供电全部中断情况下的操作。

该预案的关机原则是：根据实际电力供应考虑 操作步骤，宁慢勿快，在时间允许的情况下，最大 程度保证存储节点、SAN和SCSI存储设备、工程用户 的计算节点的运行，尽可能减少关闭范围，以确保 能在恢复供电的情况下，主机尽快恢复正常运行状 态，减少影响范围。

3.3 空调预案

超级计算机系统在运行中消耗大量电能，在

提供高性能的计算能力同时产生大量的热量，必须 采用专用空调系统，以保持主机系统适当的温、湿 度、空气洁净度等运行环境需求。因此，专用空调 系统与主机系统密切相关，空调预案是主机房必备 的应急预案。

制定该预案的原因在于，断电情况下，空调与 主机系统存在互相牵制的现状。主机和空调系统均 为外界双路供电，主机系统配有UPS不间断电源系 统，而空调系统无UPS支持。在双路停电情况下，主 机系统可获得UPS电池组支持运行若干分钟，空调系 统无UPS支持只能停机。由于在无空调冷却情况下， 主机系统会在短时间内积聚大量热量导致超过运行 警戒温度，主机系统在有可供电余量的情况下，仍 将被迫关机。因此，确保空调中断情况下的主机运 行环境是该预案的制定原则。

预案根据各台主机配备的空调系统特点制定， 由《曙光机房空调系统故障应急预案》和《神威机 房空调系统应急预案》2个文档组成，这里仅介绍曙 光机房空调系统应急预案。

该预案的第一步：考虑增强主机系统散热效

果，采用打开主机机柜前后门，和机房周边木门， 在通风道上布置有UPS支持的应急风扇，形成空气对 流，带走热空气，从而增强主机系统散热效果，降 低升温速度。

该预案的第二步：在采取上述措施并持续升温 到一定温度之上的情况下，考虑紧急关闭部分或全 部计算节点，减少热量生成，确保主机系统的核心 存储和网络系统不受影响，确保空调系统修复后， 主机系统能快速恢复运行。

3.4 其他预案

除了固定的三类预案之外，技术支持部还根据 主机系统实际运行中出现的各种意外情况，随时制 定具有针对性的预案。

如《大楼顶棚坍塌应急操作方法》的制定，就

是由于2008年1月连续发生雨雪等灾害性天气，中心 大楼顶棚大量积雪且难融化，物业预计存在情况继 续恶化，有发生顶棚坍塌事故的可能，一旦发生将 影响一楼主机运行。

针对该突发的隐患，中心技术支持部制定应急 操作方法，对维护巡查频度范围、漏水可能发生位 置、如何处理受漏水影响的主机设备等操作步骤进 行严格界定。即使在最后，中心大楼顶棚经受住灾 害性天气的考验，该预案并未发挥作用，这正体现 了应急预案的备而不用的特点。而且通过各种意外

情况的迅速分析、应对和实践操练，不断锻炼主机 维护队伍，使之走向成熟。

4. 在实际案例中，应急预案的作用

在主机系统年复一年的运行中，我们希望这些 设备正常稳定运行，应急预案永远不会被使用，然 而在实际运行中，总免不了因突发事件执行应急预 案。

而每次突发事件是检验应急预案制定是否科 学、有效的最好证明。

4.1 双路断电，UPS正常运行案例

2006年8月某天，因打雷导致供电一路跳闸自动 换至另一路供电，曙光机房2台空调掉电。

主机维护人员立即按应急预案操作，电话通知 物业人员恢复空调运行，恢复过程中所有空调相继 出现高温报警，机柜液晶屏平均温度35度，开启全 部曙光机柜前后门，打开神威-曙光玻璃门并调集应 急电扇，于12:45恢复正常。

12:50再次出现双路供电中断，曙光空调因无

UPS支撑全部断电，启动断电应急预案，开启

5、6号 木门，开启神威机房全部空调，布置电扇，将冷气 导入曙光机房，热量从6号木门的外部通道排出，选 择性杀除部分作业，至13:05供电恢复，曙光空调开 始工作，13:20环境恢复正常。全机在此过程中，正 常运行未停机，只损失了部分不重要的作业。

4.2 单路断电，UPS失效案例

2007年8月某天，因低压配电柜开关至UPS房间 X-JM柜电缆发生相对地短路，造成UPS机组逆变器 自身保护动作，关闭UPS机组，导致曙光主机系统失 电。

全机掉电后，主机维护人员迅速按应急预案

手 工 关 闭 所 有 电 源 开 关 。1 0 : 3 0恢 复 供 电 ，温湿度恢复正常后，全机加电，恢复过程中修复

storage00

1、00

5、010三个盘阵的9个用户文件系统， 修复15个节点加电故障，除cnode00

9、anode029电源

环 境 模块故障，于当日15:10全机系统恢复正常。

由于处置及时，主机受影响范围很小，在恢复 供电后数小时即成功开启全系统。

5. 随时保持应急预案的适用性

主机长年累月的运行，故障和问题的发生，往 往是必然的，也是客观、无法回避的。因此，要求 在维护工作中，预先考虑到可能的问题和故障，制 定完善的应急预案。应急预案不可能包含所有的故 障和问题，但应根据维护经验，尽可能地设想各种 危机情况下的处置措施。做到预想到各种可能的问 题。

而在形成应急预案后，更重要的是持续地在

运行中加以完善、测试和演练，尽可能模拟实际情 况，做到即使只有1名维护人员在场，也能在真正发 生危机时，以最短时间独立处置故障。

以目前中心的主机运维工作为例，三年内，仅 断电预案就已根据实际运行情况的变化，制定并更 新了5~6个版本，针对夏季突发断电也有专用预案。 这样的措施，直接保障了2006年8月突发断电事件中 的主机连续运行。而2007年8月的突发断电事件中， 由于预案在之前刚根据实际情况进行过演练和修 改，主机维护人员仅用半小时就完成所有应急操作 动作，整机仅有个别设备故障，确保了主机设备未 因突发断电而发生大范围损坏现象，恢复供电后直 接完成开机。

实践证明，完善而适用的应急预案能保障向用 户提供稳定的高性能计算服务。

6. 结束语

完备而适用的应急预案能有效降低主机系统因 意外事件发生带来的运行风险，对可能发生的意外 来说，是一种事前防范措施。但对整个主机系统产 品而言，是一种事后防范措施。如果主机系统生产 厂商能把这些防范措施纳入整个系统设计过程中， 使操作方法更加简便、更趋于人性化，这将帮助主 机维护人员更为妥善处理意外事件，用户得到更为 稳定的高性能计算服务。我们相信未来国产的高性 能计算机能做到这一点，期待着这一天早日到来。

（为帮助了解，特在附录中节选部分双路断电关机预案内容）

附录：《曙光4000A超级计算机系统双路断电关机操作方法》（省略具体操作步骤）

曙光4000A超级计算机系统双路断电关机操作方法

注意：

1、本方法专用于主机房发生双路同时断电紧急操作使用。（包括单线断电切换失败）。

2、本方法作为《曙光-4000A超级计算机系统紧急关机操作方法》（SSCS(TS)-XXXX-XXXX-XXXX）的附件。

1. 断电确认及操作：

主机房内一旦发现断电，并接物业明确通知为双路断电，首先执行如下操作（即确保节点温度）：

1.1 打开机房门便于散热，..

1.2 机房通道上布置应急风扇加强冷热空气对流，夏季：应急风扇布置..；冬季：应急风扇布置..，使曙光

机房的温度尽量降低。

1.3 打开所有机柜前、后门。

1.4 密切注意机房节点平均温度（专指各机柜液晶面板所示之环境温度值）。

2. 紧急关机条件确认：

在完成上述操作后，密切观察主机房环境。一旦有如下任何一个条件满足：

2.1 自断电发生起，已达到XX分钟仍未恢复供电；

2.2 采取上述紧急通风措施，节点温度持续上升，超过XX℃；

可认定为紧急断电事件，即刻按下列紧急关机操作方法进行操作。

3. 紧急关机操作步骤：

注意事项：

3.1 ..

3.2 关机操作的全过程中，注意随时保持和物业的通讯联系。除根据情况随时联络外，应严格保证每XX分钟与物

业联系一次，询问UPS可支撑时间及恢复供电可能。（分机、手机、对讲机等）

3.3 应理解关机原则为：根据实际电力供应考虑操作步骤，宁慢勿快，在时间允许的情况下，最大程度保证X排节

点、存储节点、SAN和SCSI存储设备的运行，尽可能减少关闭范围，以确保恢复。

第一级操作：（首先执行） 关闭主机系统外围设备..

第二级操作：（完成上述操作后，当再次发现UPS电池低于XX分钟或节点平均温度超过XX℃，任一条件满足， 执行如下操作）

关闭非重要用户计算节点（ABC组）..

第三级操作：（完成上述操作后，当再次发现UPS电池低于XX分钟或节点平均温度超过XX℃，任一条件满足， 执行如下操作）

关闭所有用户计算节点（D组）..

第四级操作：（完成上述操作后，当再次发现UPS电池低于XX分钟或节点平均温度超过XX℃，任一条件满足， 执行如下操作）

关闭SAN存储设备和LSF数据库服务器..

第五级操作：（完成上述操作后，当再次发现UPS电池低于XX分钟或节点平均温度超过XX℃，任一条件满足， 完成关机操作）

关闭SCSI磁盘阵列和所有存储节点..

特别关注：

1. 如时间非常紧急，UPS电池低于XX分钟：

直接执行关机脚本：..

此脚本可分别将计算节点、接入节点、存储节点进行关闭。

2. 如时间极其紧急，UPS电池低于XX分钟，可按《曙光-4000A超级计算机系统紧急关机操作方法》（SSCS(TS)- XXXX-XXXX-XXXX），直接拉闸操作。

（上述二个方法仅用于突发情况，非极其必要情况下严禁使用，应使用前列方法操作）

3. 如遇主机失电（如关机操作不及已掉电或突发自动掉电）应关闭所涉范围所有设备电闸开关。..

第二篇：机房应急预案

应急处置方案

第一节 总 则

1、保证人员和财产的安全为前提的原则：在由于火灾或电力问题造成的主机故障，在解决故障前，应以保证人员的生命安全和财产的安全为前提，然后进行故障的解决。

2、最快时间恢复业务的原则：本着先想尽一切方法，尽快恢复业务的原则来处理故障，如在有备用设备的情况下，主设备产生了故障，应先尽快将应用切换到备用机上，使业务能够运行，再对故障设备进行诊断和维修。

3、故障应急人员高度负责的原则：当故障应急人员在节假日接到故障通知时，本着高度负责的态度，应迅速接手处理障碍，如远程无法处理解决，应迅速赶到故障设备所在地，进行现场处理，处理故障的同时应及时向领导汇报。应急人员不可互相推卸责任，如因特殊情况，确实无法处理障碍，部门领导必须安排好其他人员处理。

4、尽可能全面的保留故障现场的原则：当故障发生后，应急人员应尽可能全面的备份出能够反映故障现象的各种日志、记录、受损文件等，便于业务恢复后，对故障的分析、解决，杜绝故障的再次发生。

应急方案的目标：保证预付卡运营系统连续安全稳定地运行。

第二节 应急领导小组

应急领导小组成员：

组 长： 副组长: 成 员：

第三节 电源系统故障应急处理

定期检查信息中心机房电源设备的运行状况，当发生下列突发事件时，按以下方案进行处置：

当中心机房发生市电供电突然停电或远程报警电源异常时。首先确认是否为正常停电及预计停电时间。检查不间断电源的电池可供电时间，需在不间断电源供电时效内关闭所有服务器及网络设备。

联系工程部查看停电原因，尽快恢复供电，并将情况报告相关领导

工程部联系电话：

第四节 空调系统故障应急处理

定期对空调的运行情况进行检查，如有报警信息，应及时查找故障原因，对于不能自行排除的问题，应及时与设备提供商进行联系。

当中心机房主空调因故障无法制冷，致使机房内环境温度超过摄氏40度时，打开机房房门，并关闭所有服务器及网络设备。 对于无法自行处置的空调系统异常情况，及时与设备提供商联系，并报告公司领导。 空调问题联系人：

第五节 中心机房自动消防系统应急处理

当中心机房发生火警时，按以下方案进行处置：

1.上班工作时间发生火警，听到自动消防系统发出的声光报警后，中心机房附近办公室人员应及时紧急撤离，避免气体自动消防系统启动后，消防气体对附近人员造成人身伤害。确认火警后，立刻拨打119报警，并说明尽量使用气体灭火器进行灭火，减少电子设备的损坏。

2.发生火警后，信息中心相关人员应马上赶赴现场，并向有关领导报告事故情况。同时立即联系联通等相关公司，及时评估事故损失情况，研讨尽快恢复信息系统正常运行的最佳方案。 安保消防中控电话：

第六节 设备、网络系统故障应急处理

设备、网络应用系统故障应由发现人通知技术部，技术部门立即检查故障，进行初步故障定位,解决；

1．网络设备、服务器、储存设备均有备份，当设备存在硬件问题时，可随时把业务切换到备份主机上，保证业务正常运行； 2．应用系统每更新一次则做一次远程备份，在远程主机上分别备份旧的应用系统和更新后的应用系统，以当天的更新日期命名； 3．对磁盘柜上的数据库文件有定时任务，每天凌晨4：00会把数据库里的数据文件倒出到远程备份主机上，以确保磁盘柜出现硬件故障的时候，数据文件不丢失；对于网络、应用系统出现硬件方面的故障，比较严重的问题，对业务的正常运行造成较大的影响，立即向有关领导报告。

4、网络中有监控服务器，运用Cacti v10最新的版本，监控网络所有设备（路由器，防火墙，交换机以及服务器设备）；对设备本身的硬件检测、外部入侵检测、外部攻击等多种对系统不利因素以发送mail的形式报警；相关人员收到报警信息，分析收到的log日志以做出相应的处理。

5、每周周五对网络设备进行日志及配置文件采集，对数据库数据文件定期下载，和远程备份；在本地电脑上保存最近的配置文件，以便在发生毁灭性的灾难时，用来重组。

对简单故障，运维人员应迅速排除故障，解决问题并记录。如果需要更换设备，应上报有关领导,经批准后马上更换故障设备，尽快恢复网络、应用系统运行。运维部门判断无法及时修理时，应立即通知相关的系统运行服务提供商，在最短的时间内安排修理或更换系统。

如发现属外部线路的问题，应与线路服务提供商联系，敦促对方尽快恢复故障线路。

启用备份线路、设备、系统，迅速恢复相关的应用。

联通联系电话：

第七节 黑客入侵的应急处理

发现网络上有黑客攻击行为，任何人员都有义务向技术部门报告。技术部立即启动应急响应，切断受攻击计算机与网络的连接，停止一切操作、保护现场，并上报有关领导。

对于黑客攻击，由计算中心组织应急响应专家小组查找入侵踪迹，分析入侵方式和原因。由安全管理员根据对入侵事件的分析，组织相关人员对内部网计算机整改，防止黑客用同样的手段再次入侵其他系统。安全管理员检查确定无安全隐患后，才可将受攻击计算机重新连接网络，或启用备份计算机来恢复应用。

安全管理员应做好记录，保护现场，进行日志收集等工作。如果能追查到攻击者的相关信息，可以对其发出警告，必要时可以采取进一步的行动，乃至采取法律手段。根据破坏程度，经有关领导同意后，上报公安部门。

若系统已被黑客破坏，无法恢复，应将受黑客攻击的计算机上的重要数据备份到其他存储介质，确保计算机内重要的数据不丢失。如果数据无法恢复，经有关领导同意后，可与国家指定的部门联系，由他们来协助恢复，为保证数据信息安全，需在安全管理部门作记录。

第八节 生产系统、数据库故障处理

生产系统出现故障，技术部做出应急处理

1.因软件设计缺陷、设计漏洞等引起的故障，通知公司研发部门在2小时内查明原因，解决问题。

2.数据库出现故障，运维人员应在2小时内查清故障原因，其他相关部门应积极配合，解决问题。

3.如出现数据丢失情况，确认不能自行恢复后，启用备份恢复数据，24小时内恢复运营。

本方案自发布之日起施行

第三篇：机房应急预案

中心机房突发事件应急预案

第一条

机房突发事件包括网络设备或服务器故障、自然灾害（水、火、电等）造成的 物理破坏、人为失误造成的安全事件等等。 针对突发事件的预防措施如下：

1.建立安全、可靠、稳定运行的机房环境，防火、防盗、防雷电、防水、防静电、防尘； 建立备份电源系统；加强所有人员防火、防盗等基本技能培训。

2.服务器采用可靠、稳定的硬件设备，落实数据备份机制，安装有效的防病毒软件，及时 更新升级扫描引擎；加强对局域网内所有用户和信息系统管理员的安全技术培训。

第二条

机房漏水应急预案如下：

1.发生机房漏水时，第一目击者应立即通知机房管理人员。

2.若空调系统出现渗漏水，机房管理人员应立即安排停用故障空调，清除机房积水，并及 时联系设备供应方处理，同时启动备用空调，必要情况下可临时用电扇对服务器进行降温。 3.若为墙体或窗户渗漏水，机房管理人员应立即采取有效措施确保机房安全，同时安排通 知办公室，及时清除积水，维修墙体或窗户，消除渗漏水隐患。

第三条

机房火灾应急预案如下：

1.完善机房环境，确保机房具备二氧化碳灭火器；禁止携带易燃易爆物品进入机房。 2.机房管理人员应熟悉机房内部消防安全操作和规则，了解消防设备操作原理，掌握消防 应急处理步骤、措施和要领，懂得灭火的方法，会扑救初起火灾，并定期组织灭火演习。 3.一旦发生火灾，迅速切断机房电源，避免灾情的扩散，并迅速拨打物业管理和119火警电话。

4.等待消防车到来期间,应组织物业保安或工作人员在保证安全的前提下灭火,应急领导小组应在第一时间内集中所有二氧化碳灭火器,抓住时机,尽可能的把火扑灭。

5.配合消防部门调查事故原因，对造成的损失和起火原因做好记录，以便进行灾后总结。

第四条

雷击事故应急预案如下：

1.遇雷暴天气，机房管理人员在下班后应及时关闭所有服务器，切断电源，暂停内部计算 机网络工作。

2.雷暴天气结束后，机房管理人员应及时开通服务器，恢复内部计算机网络工作，对设备 和数据进行检查。出现故障的，事发部门应将故障情况及时报告机房管理人员。

3.因雷击造成损失的，机房管理人员应会同相关部门进行核实、报损，并在调查工作结束 后一日内书面报告领导。

第五条

设备防盗被盗或人为损害应急预案如下：

1.机房管理人员每日查看、清点设备并锁好机房大门。

2.机房管理人员每日检查录像监控服务器状态，确保监控画面正常，并检查每日录像正常性、完整性。

3.发生设备被盗或人为损害设备情况时，使用者或管理者应立即报告相关负责人，同时保护好现场。

4.机房维护人员接报后，通知保安及公安部门，一同核实审定现场情况，清点被盗物资或盘查人为损害情况，做好必要的影像记录和文字记录。

5.事发单位和当事人应积极配合公安部门进行调查，并将有关情况向机房管理人员汇报。

第六条

机房停电应急预案如下：

1.接到停电通知后，机房管理人员应及时通过办公系统 、电话等发布相关信息，部署应对具体措施，要求用户在停电前停止业务、保存数据。

2.机房管理人员每日检查UPS电源的状态,确保在突发停电时,UPS电源能自动供应服务器正常工作半个小时,保证员工工作的数据及时保存。

第七条

通信网络故障应急预案如下：

1.发生通信线路中断、流量异常等故障后，员工应及时通知机房管理人员。

2.机房管理人员在接到报告后，迅速组织相关技术人员检测故障区域，并作相关故障处理，必要时通知通信网络运营商查清原因；逐步恢复故障区与服务器的网络联接，恢复通信网络，保证正常运转。

3.应急处理结束后，机房管理人员应在一日之内提交故障分析报告，以便备案。

第八条

服务器故障应急预案如下：

1.机房管理人员每日检查服务器状态，检查邮箱服务器状态，确保系统运行的完善。

2.机房管理人员定期备份服务器数据，并将备份资料刻录成光盘或拷贝到移动硬盘。

第九条

1.发生机房突发事件后，机房管理人员应采取有效措施开展先期处置，恢复信息网络正常状态。应急处置工作结束后，机房管理人员对事件发生原因、性质、影响、后果、责任及应急处置能力、恢复重建等问题进行全面调查评估，根据应急处置中暴露出的管理、协调和技术问题，改进和完善预案，实施针对性演练，总结经验教训，整改存在隐患，组织恢复正常工作秩序。

第四篇：机房应急预案

主机运维应急预案简介

. 崔志昂 上海超级计算中心 上海 201203 zacui@ssc.net.cn . 魏玉琪 上海超级计算中心 上海 201203 yqwei@ssc.net.cn 引言：

高性能计算技术及应用水平已成为显示综合国力的一种标志。高性能计算机持续不间断地 为用户提供高性能计算服务，而运维应急预案是主机运行中处理突发事件的依据和方法，是主

机系统稳定运行的保障。本文简要介绍上海超级计算中心主机运维应急预案，供同行参考。

1. 主机和运维管理制度简介

超级计算机是功能最强、运算速度最快、存

储容量最大的一类计算机。目前只有少数国家掌握 研发技术，系统造价非常昂贵，多用于国家高科技 领域和尖端技术研究，是国家科技发展水平和综合 国力的重要标志。上海超级计算中心作为上海信息 港主体工程之一，国家和上海市政府投资先后引 进神威-I超级计算机、神威-64P集群计算机、曙光 4000A超级计算机系统并投入商业化运行。

上海超级计算中心自2001年正式开通至今，

这些高性能计算机系统已安全、稳定运行七年多时 间，上机用户取得了丰硕的科研成果和社会效益。 在这七年中，为保障这些高性能计算机系统安全、 稳定、不间断地运行，技术支持部在中心引进第一 台高性能计算机--神威-I超级计算机系统的同时，建 立了机房应急预案、运行记录、设备运行参数等基 础运维制度，在二期引进曙光4000A超级计算机系统 过程中，不断完善原有运维制度，并针对该主机系 统特点编写了大量操作方法和应急预案。

中心自2006年获得ISO27001（BS7799）信息安 全认证以来，技术支持部根据其要求规范了文档体 系建设，形成了机房管理制度、应急预案、操作方 法、运行情况记录的四大类运维文档。

正是这些运维管理制度的不断完善和有效执 行，才确保了资产价值高、服务对象广、社会影 响大的中心主机系统安全、稳定运行，保障重点项 目、用户服务的连续性。

2. 应急预案重要性

上海超级计算中心机房运维管理文档划分为机 房管理制度、应急预案、操作方法、运行记录共四 大类（如图1所示）。

图1 应急预案分类

应急预案在应急系统中起着关键作用，它明确 了在突发紧急情况发生之前、发生过程中以及刚刚 结束之后，谁负责做什么、何时做，以及相应的策 略和资源准备等。它是针对可能发生的重大事故， 按照其影响和后果严重程度，在应急准备、响应、 操作各个方面预先做出的详细安排，是开展及时、 有序和有效事故应急工作的行动指南。因此，应急 预案在这四类运维管理文档中处于最为重要的地位。

3. 应急预案分类

应急预案按重要性和事件种类，可以划分为消

防预案、断电预案、空调预案、其他预案共4种，预 案各文档之间彼此独立又互为关联，具有非常强的 可操作性。制定预案的指导原则是尽一切可能，最 大限度地确保向用户提供的服务不中断。在紧急事 件发生的情况下，保证核心设备连续运行，避免存 储数据丢失。在事件处置完成后，能快速恢复高性 能计算服务。

3.1 消防预案

消防预案是主机房最重要的应急预案。该类预 案根据《上海超级计算中心灭火和应急疏散预案》 的原则并结合主机房主机设备和消防设备的运行特 性而制定。主要由《主机房消防应急预案》和《主 机房气体喷淋消防系统启动撤离及处置应急预案》 2个文档组成。

消防应急预案：该预案着重规范了火警事件发 生后，所有主机维护人员如何根据所属区域和现场 情况，判断和选择正确的处理方法，同时配合中心 物业人员处置，降低事件带来的影响。

对于设备发生烟雾，主机维护人员协同物业人 员寻找烟雾点予以切断相关区域电源；当设备发生 可以控制火情，协同物业人员灭火；当主机房发生 火灾而无法控制，应采取施救方法等措施。

气体喷淋预案：该预案描述主机房气体喷淋系统启

动的响应和确认并具体规定了撤离机房路线、善后处置。

这两个预案中，消防应急预案作为消防预案

的主体，涉及到如何处理与消防有关情况的各个方 面。气体喷淋预案是主机房发生重大火灾时应对的 最终灭火手段和人员撤离引导方法。

3.2 断电预案

断电预案的重要性仅次于消防预案。该类预

案根据中心供配电系统实际情况和各种断电影响范 围下对主机运行的最小保障要求而制定的。主要由

《主机房断电应急预案》、《曙光4000A超级计算机 系统紧急关机操作方法》、《曙光4000A超级计算机 系统双路断电关机操作方法》等多个文档组成。

主机房断电应急预案：该预案用于断电情况

下，主机维护人员如何与中心物业部门联系控制主 机房供电情况，并且负责对主机系统运行受断电影 响程度做出正确判断。指导维护人员按影响程度， 分别选用预案中对应的操作方法。本预案在所有断 电预案中起指导思想作用。 紧急关机操作方法：该预案制定了主机系统在 紧急情况下，最快速度关机的操作步骤。主要用于 发生烟雾、明火或消防、断电预案需在数分钟内关 机断电的事件。

双路断电关机操作方法：该紧急操作预案主要 用于在外界双路供电全部中断情况下的操作。

该预案的关机原则是：根据实际电力供应考虑 操作步骤，宁慢勿快，在时间允许的情况下，最大 程度保证存储节点、SAN和SCSI存储设备、工程用户 的计算节点的运行，尽可能减少关闭范围，以确保 能在恢复供电的情况下，主机尽快恢复正常运行状 态，减少影响范围。

3.3 空调预案

超级计算机系统在运行中消耗大量电能，在

提供高性能的计算能力同时产生大量的热量，必须 采用专用空调系统，以保持主机系统适当的温、湿 度、空气洁净度等运行环境需求。因此，专用空调 系统与主机系统密切相关，空调预案是主机房必备 的应急预案。

制定该预案的原因在于，断电情况下，空调与 主机系统存在互相牵制的现状。主机和空调系统均 为外界双路供电，主机系统配有UPS不间断电源系 统，而空调系统无UPS支持。在双路停电情况下，主 机系统可获得UPS电池组支持运行若干分钟，空调系 统无UPS支持只能停机。由于在无空调冷却情况下， 主机系统会在短时间内积聚大量热量导致超过运行 警戒温度，主机系统在有可供电余量的情况下，仍 将被迫关机。因此，确保空调中断情况下的主机运 行环境是该预案的制定原则。

预案根据各台主机配备的空调系统特点制定， 由《曙光机房空调系统故障应急预案》和《神威机 房空调系统应急预案》2个文档组成，这里仅介绍曙 光机房空调系统应急预案。

该预案的第一步：考虑增强主机系统散热效

果，采用打开主机机柜前后门，和机房周边木门， 在通风道上布置有UPS支持的应急风扇，形成空气对 流，带走热空气，从而增强主机系统散热效果，降 低升温速度。

该预案的第二步：在采取上述措施并持续升温 到一定温度之上的情况下，考虑紧急关闭部分或全 部计算节点，减少热量生成，确保主机系统的核心 存储和网络系统不受影响，确保空调系统修复后， 主机系统能快速恢复运行。

3.4 其他预案

除了固定的三类预案之外，技术支持部还根据 主机系统实际运行中出现的各种意外情况，随时制 定具有针对性的预案。

如《大楼顶棚坍塌应急操作方法》的制定，就

是由于2008年1月连续发生雨雪等灾害性天气，中心 大楼顶棚大量积雪且难融化，物业预计存在情况继 续恶化，有发生顶棚坍塌事故的可能，一旦发生将 影响一楼主机运行。

针对该突发的隐患，中心技术支持部制定应急 操作方法，对维护巡查频度范围、漏水可能发生位 置、如何处理受漏水影响的主机设备等操作步骤进 行严格界定。即使在最后，中心大楼顶棚经受住灾 害性天气的考验，该预案并未发挥作用，这正体现 了应急预案的备而不用的特点。而且通过各种意外

情况的迅速分析、应对和实践操练，不断锻炼主机 维护队伍，使之走向成熟。

4. 在实际案例中，应急预案的作用

在主机系统年复一年的运行中，我们希望这些 设备正常稳定运行，应急预案永远不会被使用，然 而在实际运行中，总免不了因突发事件执行应急预 案。

而每次突发事件是检验应急预案制定是否科 学、有效的最好证明。

4.1 双路断电，UPS正常运行案例

2006年8月某天，因打雷导致供电一路跳闸自动 换至另一路供电，曙光机房2台空调掉电。

主机维护人员立即按应急预案操作，电话通知 物业人员恢复空调运行，恢复过程中所有空调相继 出现高温报警，机柜液晶屏平均温度35度，开启全 部曙光机柜前后门，打开神威-曙光玻璃门并调集应 急电扇，于12:45恢复正常。

12:50再次出现双路供电中断，曙光空调因无

UPS支撑全部断电，启动断电应急预案，开启

5、6号 木门，开启神威机房全部空调，布置电扇，将冷气 导入曙光机房，热量从6号木门的外部通道排出，选 择性杀除部分作业，至13:05供电恢复，曙光空调开 始工作，13:20环境恢复正常。全机在此过程中，正 常运行未停机，只损失了部分不重要的作业。

4.2 单路断电，UPS失效案例

2007年8月某天，因低压配电柜开关至UPS房间 X-JM柜电缆发生相对地短路，造成UPS机组逆变器 自身保护动作，关闭UPS机组，导致曙光主机系统失 电。

全机掉电后，主机维护人员迅速按应急预案

手 工 关 闭 所 有 电 源 开 关 。1 0 : 3 0恢 复 供 电 ，温湿度恢复正常后，全机加电，恢复过程中修复

storage00

1、00

5、010三个盘阵的9个用户文件系统， 修复15个节点加电故障，除cnode00

9、anode029电源

环 境 模块故障，于当日15:10全机系统恢复正常。

由于处置及时，主机受影响范围很小，在恢复 供电后数小时即成功开启全系统。

5. 随时保持应急预案的适用性

主机长年累月的运行，故障和问题的发生，往 往是必然的，也是客观、无法回避的。因此，要求 在维护工作中，预先考虑到可能的问题和故障，制 定完善的应急预案。应急预案不可能包含所有的故 障和问题，但应根据维护经验，尽可能地设想各种 危机情况下的处置措施。做到预想到各种可能的问 题。

而在形成应急预案后，更重要的是持续地在

运行中加以完善、测试和演练，尽可能模拟实际情 况，做到即使只有1名维护人员在场，也能在真正发 生危机时，以最短时间独立处置故障。

以目前中心的主机运维工作为例，三年内，仅 断电预案就已根据实际运行情况的变化，制定并更 新了5~6个版本，针对夏季突发断电也有专用预案。 这样的措施，直接保障了2006年8月突发断电事件中 的主机连续运行。而2007年8月的突发断电事件中， 由于预案在之前刚根据实际情况进行过演练和修 改，主机维护人员仅用半小时就完成所有应急操作 动作，整机仅有个别设备故障，确保了主机设备未 因突发断电而发生大范围损坏现象，恢复供电后直 接完成开机。

实践证明，完善而适用的应急预案能保障向用 户提供稳定的高性能计算服务。

6. 结束语

完备而适用的应急预案能有效降低主机系统因 意外事件发生带来的运行风险，对可能发生的意外 来说，是一种事前防范措施。但对整个主机系统产 品而言，是一种事后防范措施。如果主机系统生产 厂商能把这些防范措施纳入整个系统设计过程中， 使操作方法更加简便、更趋于人性化，这将帮助主 机维护人员更为妥善处理意外事件，用户得到更为 稳定的高性能计算服务。我们相信未来国产的高性 能计算机能做到这一点，期待着这一天早日到来。

（为帮助了解，特在附录中节选部分双路断电关机预案内容）

附录：《曙光4000A超级计算机系统双路断电关机操作方法》（省略具体操作步骤）

曙光4000A超级计算机系统双路断电关机操作方法

注意：

1、本方法专用于主机房发生双路同时断电紧急操作使用。（包括单线断电切换失败）。

2、本方法作为《曙光-4000A超级计算机系统紧急关机操作方法》（SSCS(TS)-XXXX-XXXX-XXXX）的附件。

1. 断电确认及操作：

主机房内一旦发现断电，并接物业明确通知为双路断电，首先执行如下操作（即确保节点温度）：

1.1 打开机房门便于散热，..

1.2 机房通道上布置应急风扇加强冷热空气对流，夏季：应急风扇布置..；冬季：应急风扇布置..，使曙光

机房的温度尽量降低。

1.3 打开所有机柜前、后门。

1.4 密切注意机房节点平均温度（专指各机柜液晶面板所示之环境温度值）。

2. 紧急关机条件确认：

在完成上述操作后，密切观察主机房环境。一旦有如下任何一个条件满足：

2.1 自断电发生起，已达到XX分钟仍未恢复供电；

2.2 采取上述紧急通风措施，节点温度持续上升，超过XX℃；

可认定为紧急断电事件，即刻按下列紧急关机操作方法进行操作。

3. 紧急关机操作步骤：

注意事项：

3.1 ..

3.2 关机操作的全过程中，注意随时保持和物业的通讯联系。除根据情况随时联络外，应严格保证每XX分钟与物

业联系一次，询问UPS可支撑时间及恢复供电可能。（分机、手机、对讲机等）

3.3 应理解关机原则为：根据实际电力供应考虑操作步骤，宁慢勿快，在时间允许的情况下，最大程度保证X排节

点、存储节点、SAN和SCSI存储设备的运行，尽可能减少关闭范围，以确保恢复。

第一级操作：（首先执行） 关闭主机系统外围设备..

第二级操作：（完成上述操作后，当再次发现UPS电池低于XX分钟或节点平均温度超过XX℃，任一条件满足， 执行如下操作）

关闭非重要用户计算节点（ABC组）..

第三级操作：（完成上述操作后，当再次发现UPS电池低于XX分钟或节点平均温度超过XX℃，任一条件满足， 执行如下操作）

关闭所有用户计算节点（D组）..

第四级操作：（完成上述操作后，当再次发现UPS电池低于XX分钟或节点平均温度超过XX℃，任一条件满足， 执行如下操作）

关闭SAN存储设备和LSF数据库服务器..

第五级操作：（完成上述操作后，当再次发现UPS电池低于XX分钟或节点平均温度超过XX℃，任一条件满足， 完成关机操作）

关闭SCSI磁盘阵列和所有存储节点..

特别关注：

1. 如时间非常紧急，UPS电池低于XX分钟：

直接执行关机脚本：..

此脚本可分别将计算节点、接入节点、存储节点进行关闭。

2. 如时间极其紧急，UPS电池低于XX分钟，可按《曙光-4000A超级计算机系统紧急关机操作方法》（SSCS(TS)- XXXX-XXXX-XXXX），直接拉闸操作。

（上述二个方法仅用于突发情况，非极其必要情况下严禁使用，应使用前列方法操作）

3. 如遇主机失电（如关机操作不及已掉电或突发自动掉电）应关闭所涉范围所有设备电闸开关。..

第五篇：机房消防应急预案

机房消防应急预案

为使信息机房发生火灾事故时,当班人员能镇静有序地处置事件，特制订本预案，请各成员认真学习，熟悉应急处置程序，提高全员的应急能力，一旦发生突发事件，尽最大努力保证员工人身安全和减少损失。

起火原因一般有明火管理不慎；电气设备管理、使用不当；纵火等原因。

预案一：当闻到烧焦气味时

当班人员发现信息机房内有冒烟现象或闻到烧焦气味时，可能是某处阴燃处于起火阶段或电源超负荷发热引起，容易引发火灾，当班人员要立即查明原因和地点，针对不同情况，采取迅速将火源扑灭或关闭电源总开关、隔离火源附近易燃物、关闭窗等措施，消除起火隐患，防止引了火灾。事后立即向安保部门报告，并做好现场保护工作和防止起火点复燃，不得随意离开现场和将事故隐瞒不报。 预案二：当班时发现起火或冒出浓烟

由于起火源隐蔽或其他突发原因未能及时发现和消除起火隐患，酿成明火和冒出浓烟，燃烧面积不大，就是火灾的初起阶段，当班人员发现起火或冒出浓烟时，切忌惊惶失措，要沉着、果断，会同其他当班人员分工协作，迅速查明原因组织扑救，当火执已无法控制时处置办法：

一是指定专人立即拔打“119”火警电话报警和向上级保卫部门报告，并向本部门和周围的人及群众喊叫报警； 二是组织本单位、部门在场的人员有序地投入扑救工作，充分利用消防栓、灭火器、水桶等器材灭火，不能消极等待消防队到来，而错过灭火良机，力求将火扑灭或控制火势蔓延，不能只顾个人安危而逃离火场

三是大声呼喊请求邻近单位及群众的支援。

四是在组织灭火同时，要立即组织人员疏散和转移物品中，特别昌易燃、易爆物品和易受到火舌威胁的现金、重要凭证要及时转移到安全地点，并派人员守护，确保安全。

五是灭火后要注意保护现场，维护好秩序，以利于消防部门调查分析火灾原因。 注意事项：

报警人员报警时要向消防部门讲清楚起火地点、单位、起火的种类和火势大小，报警后即到街道或十字路口迎接、引导消防车辆的到来；扑救人员在消防人员到来后，要立即向消防指挥人员讲清火场内存放有何种物资和贵重物品，火场内是否有爆炸、剧毒物品，并协助消防部门维护好现场秩序。自行扑救火灾时要留心观察火势和环境，防止被火围困、烟气中毒、坠物砸伤等，在确保自身安全的情况下扑救火灾。

本文来源：https://www.bwwdw.com/article/jg9i.html