1.
准备与角色分工
准备阶段先明确角色:当班值班、网络工程师、应用支持、供应商联络人和事故主持人。为每个角色制作联络清单(电话、企业微信、邮件)并放入值班手册。创建值班SLA阈值(如丢包>5%、RTT异常>100ms、BGP邻居Down)。
2.
监控与告警规则
配置监控:对CN2出口IP、BGP邻居、到香港节点的主动监测(ping、mtr、HTTP探测)。设置分级告警:信息/警告/紧急;告警触发后自动推送至值班群并创建工单。监控需包含抖动、丢包、延迟及路由变化(BGP UPDATE)。
3.
故障检测与初步定位
故障初判步骤:1) 验证告警来源;2) 从监控平台拉取时间序列(丢包/延迟);3) 使用mtr/traceroute定位丢包发生在哪一跳;4) 检查本地出口设备接口与BGP邻居状态(命令示例:show ip bgp summary;vtysh -c "show bgp summary")。把定位结果写入工单。
4.
快速隔离与应急切换(SOP)
如果确认是CN2链路问题,按SOP执行:1) 通知事故主持和供应商联络人;2) 评估是否启用备用链路(备份ISP、跨机房互联或云上备份);3) 若启用BGP备份,调整本地路由策略(提高备用路径local-pref或prepend CN2的前缀);4) 下发变更并监控流量切换(命令示例:bgp soft-reconfig inbound/clear ip bgp *)。
5.
详细命令与数据收集模板
数据收集清单:ping -c 10 <目标IP>;mtr -rwzbc100 <目标IP>;tcpdump -i ethX host <目标IP> and icmp;show ip route
;show ip bgp ;syslog/NetFlow采样;监控截图与时间戳。把这些输出保存到工单附件,便于供应商与后续复盘。
6.
与ISP(CN2)及第三方沟通流程
联络模板:提供故障时间、被影响前缀、mtr/traceroute输出、BGP路径信息、流量图。使用预先签署的NOC联系方式与SLA模板,记录工单号与预计处理时长。若对方需要双向抓包,按步骤授权并共享抓包文件(pcap)。
7.
演练计划与频率
制定演练日程:季度桌面演练(流程熟悉)、半年一次的半实战(对某条前缀做可控切换)、年度全链路演练(包含供应商联动)。每次演练提前通知相关单位并在非高峰窗口进行,演练脚本记录每步预期结果与回滚点。
8.
演练脚本示例(半实战)
脚本步骤示例:1) 07:00 验证基线监控;2) 07:10 模拟CN2出口故障(在实验设备上关闭接口或在路由策略注入高成本);3) 07:12 执行备用路径切换(调整BGP local-pref);4) 07:15 验证业务可达性;5) 07:30 回滚并记录时间点。每一步记录执行人和命令。
9.
回滚与风险控制
回滚SOP:任何变更必须设定回滚点和超时回滚(如5分钟内业务未恢复则自动回滚)。回滚前确认影响范围、告知相关方、备份当前配置(命令:show running-config > file)。回滚后再进行验证并记录。
10.
复盘与持续改进
故障结束后24小时内召开复盘会,复盘内容包含时间线、根因、命令与日志、供应商响应时间、成功与失败点、改进项。把改进项写入SOP并列入下次演练验证项。
11.
常见工具与脚本建议
推荐工具:mtr、tcpdump、tshark、bgpd/Quagga/FRR命令行、Prometheus+Grafana做指标告警、PagerDuty或企业微信承接告警。提供简单脚本:自动抓取mtr + BGP状态并上传至工单系统的bash脚本,便于快速取证。
12.
合规与文档管理
所有SOP和演练记录应存入版本化知识库(如Confluence/Git),每次变更需做版本号与审批记录。确保值班手册可离线访问,并定期更新供应商联络信息与回滚命令。
13.
问:演练时如何保证不影响线上客户?
答:演练先在隔离环境或针对少量非关键前缀进行;使用流量镜像或灰度切换;若必须在生产环境操作,限定低峰时段、提前通知并设置自动回滚阈值与开关人审批。
14.
问:CN2故障时常用的快速定位命令有哪些?
答:常用命令包括:ping、mtr/traceroute用于跳数定位;tcpdump/tshark抓包;show ip bgp summary、show ip bgp 、show ip route 查看路由信息;并保存监控图与时间戳供供应商分析。
15.
问:如何在SOP中量化演练效果与改进项?
答:设置KPI 如检测到告警到响应时间、故障恢复时间(MTTR)、切换成功率与供应商响应时间;演练后对照KPI评分并把未达标项列入下次演练必须验证的改进清单。
来源:运维团队如何建立针对香港cn2 故障的演练与SOP流程