浪潮天梭M13 RAS设计之IMS内存检测隔离技术

浪潮天梭M13服务器是专为超大规模实时事务处理而设计的大型关键计算系统，面向总部级别的银行存储款、电信行业计费系统、跨国企业ERP等关键应用场景。M13支持处理器核心数量超过1000个，具有强大的在线事务处理能力，同时采用了复杂的高可用技术系统，满足业务7*24小时稳定运行需求。

天梭M13的内存高可用挑战

RAS特性（即服务器的可靠性Reliability、可用性Availability以及可服务性Serviceability）对于大型关键应用主机来说尤为关键，能够让主机容忍各类软硬件故障，可以显著延长系统平均无故障时间，保证客户业务持续稳定运行，是保障系统高可用性的技术基础。

M13的可用性设计覆盖了系统的每个部分，极为复杂，本文只介绍一项内存可用性技术--IMS内存检测隔离。

内存错误和故障是引发系统硬件故障的原因之一，一方面，从SDR到DDR，再到目前的DDR3，内存的容量和性能不断提升，内存颗粒容量的增大、单元密度增加、生产工艺的复杂，客观上增加了内存缺陷检查和测试的难度；另一方面，天梭M13最大支持1536个DIMM插槽，内存容量高达48TB，使得内存发生错误和故障的概率显著增加。

IMS-Intelligent Memory Surveillance

目前，内存错误的诊断和处理技术相对成熟，主要有ECC、chipkill、SDDC等，这些技术能够检验内存错误，进行相应处理，但是有一定局限性，例如ECC可以检验和纠正一个数据位错误，但无法纠正2个错误位同时发生，而且如果ECC错误频繁发生会导致Multi-bit被标识为不可用，甚至触发MRC内存管理机制，将整个Rank/DIMM做disable处理。频繁的内存错误并不表示内存物理失效，也有可能是外部环境温度过高、电压波动等因素导致，这样的处理会减少内存性能、浪费内存空间，从而降低系统性能。

IMS-Intelligent Memory Surveillance，是一套完整的内存错误和故障校验、诊断和处理方法，具备内存检测、失效隔离和预警等完整的内存管理功能，解决了内存故障无法修复导致停机、故障难于定位、个别错误导致大规模内存浪费等内存错误和故障处理难题。

IMS技术原理图

IMS系统概述

浪潮天梭M13高端服务器的IMS系统配置了高效的内存诊断工具，用户可以自行对内存问题进行检查。M13开机时，在BIOS启动阶段（进入操作系统前），用户可进入Diagnostic模块，在 3 种不同强度的测试模式--Quick、Standard和Extensive中进行选择，对内存进行测试和检验。检测完成后，对于关键区域或大块面积的不可修复错误，IMS会给出警示信息，提示用户需要更换内存，对于非关键区域、分散性的少量错误，IMS会将错误地址记录并对故障单元进行隔离，机器之后的运行时不会再对这些错误地址进行访问。

当系统启动成功，进入OS后，IMS会实时进行内存的监测、保护和处理。首先IMS系统会实时统计内存 ECC 错误信息，并对错误地址以IMS自带的多个测试算法进行强化测试，对错误进行有效性确认，同时预测相关可能出错的地址。最后，IMS系统对确认错误或预测产生的不可纠错的内存，应用 OS 的隔离技术，在此部分内存区域空闲时予以隔离，离开应用内存空间。

IMS--内存错误减少95%以上

IMS系统能够在天梭M13服务器运行过程中，有效减少失效内存进入系统的机会。开机前的可选Diagnostic功能类似工厂专用内存测试ATE，但又优于ATE，可以让用户方便的进行全面内存检查。随着服役时间的延长，内存的电气性能会不断衰减，从而产生内存失效隐患，Diagnostic功能让用户有效避免这一隐患。

在系统运行时，IMS可以将故障内存进行隔离，也很好的防止内存退化带来的内存错误，提高系统可靠性。而且IMS对于内存错误的定位和处理更为精细和及时，某些本应作RMA处理的内存，可以在现场进行处理修复，大幅减少内存空间浪费行为。

如下图所示，在使用IMS后，ECC log报错日志内容随时间推移成收敛状态，效果显著，每小时ECC报错数从400次逐步减少到不足10次。数据表明，IMS可以有效减少内存错误的发生，提高内存可用性。

从天梭K1到天梭M13，浪潮关键应用主机在系统性能、可用性等方面都有了显著的提高。浪潮在RAS高可用等关键核心技术上的持续突破，有效提升了其关键应用主机系统的可靠性及产品品质，为金融、电信等关键行业的核心信息化应用提供了强有力的基础设施保障。