第四范式、Intel研究成果入选国际顶会VLDB 全面优化超高维在线预估系统

近日，第四范式与英特尔联合实验室以及新加坡国立大学的最新联合研究成果——基于英特尔傲腾持久内存的特征工程内存数据库FEDB（Feature Engineering Database），被国际顶级数据库学术会议VLDB（Very Large Data Base）作为常规研究论文录取。

近日，第四范式与英特尔联合实验室以及新加坡国立大学的最新联合研究成果——基于英特尔傲腾持久内存的特征工程内存数据库FEDB（Feature Engineering Database），被国际顶级数据库学术会议VLDB（Very Large Data Base）作为常规研究论文录取。VLDB与SIGMOD并称为数据库业界的两大最顶级学术会议，收录研究机构以及科技企业在数据库领域最前沿、最顶级的研究成果。

此次，第四范式与Intel合作录取的论文以解决在线预估系统的业务需求和痛点为目的，针对如何设计底层数据库组件来高效支撑万亿维稀疏特征在线预估系统，以及如何基于英特尔傲腾持久内存进一步解决业务和系统设计的痛点等两方面进行创新性设计和全面优化。

如今，越来越多的企业意识到了AI在企业经营、决策中的重要作用，AI迎来了落地应用爆发期。作为AI落地的关键组件，超高维在线预估系统基于实时提取的超高维特征和预先训练的模型对业务数据进行实时评估，因而被广泛应用在欺诈交易识别、个性化推荐等在线实时推理业务场景中。

为了支撑高性能的实时特征存取需求，业界诞生了诸多实时内存数据库。然而，伴随着业务的持续扩张和数据量的指数级增长，实时内存数据库所存在的潜在弊端与风险使其难以高效、低成本的满足不断增长的业务硬实时需求：

-高性能特征存取对计算资源消耗巨大：为了保障线上服务的性能，特征工程内存数据库对内存的容量要求极高，企业通常需要配备20-30台机器以满足高性能计算需求所需的内存容量，总体拥有成本（TCO）居高不下。

-服务中断恢复所需周期长，严重影响企业线上服务质量：企业线上服务对服务质量的要求极高，然而通常情况下服务中断（软硬件错误宕机、例行维护等）往往需要几个小时的恢复时间，业务长时间掉线严重影响线上服务质量。

-长尾延迟：使用基于内存的特征工程数据库保障了线上服务的高性能，但是数据备份依然会落盘到性能较差的外存储设备上，导致某些场景出现长尾延迟，严重影响服务质量。

为解决以上问题，第四范式自主研发了实时特征工程内存数据库FEDB。作为面向AI硬实时场景的分布式特征数据库，FEDB所具备的高效计算、读写分离、高并发、高性能查询等特性，使得特征工程的效率和性能达到最大化。

在充分发挥FEDB价值的基础上，第四范式引入英特尔傲腾持久内存技术，以及创新性的持久化数据结构，全面支撑AI硬实时、低成本、高计算性能等需求。双方基于英特尔傲腾持久内存，使用App Direct Mode，开发优化持久化数据结构，完全摒弃了FEDB原有的基于外存储设备的数据持久化架构，不仅充分利用了持久内存大容量、持久性的特性，而且将持久化操作带来的性能损耗降至最小。

该工作主要的创新性优化技术包括“持久化智能指针”以及利用原子操作“持久化比较并交换”（Atomic Persistent Compare-And-Swap”）的解决方案。一方面，持久化智能指针巧妙地利用了64位操作系统中64位宽指针不被使用的低4位来标记目标地址的数据是否已持久化；另一方面，针对“比较并交换操作”（CAS），传统指令缺少持久化语义，因而无法在持久内存中直接作为带有持久化特性的原子操作来使用的难点，双方引入了新的“读前持久化”（flush-before-read）概念，利用持久化智能指针，保证“持久化比较并交换” （Persistent CAS）正确性的同时，最大化减少持久化带来的性能损耗。

此项工作的研究成果表明，基于英特尔傲腾持久内存的FEDB可有效满足企业超高维稀疏特征在线预估场景的需求，在保证线上推理服务超高性能的同时，大幅降低了企业AI整体投入成本，提升了线上服务的质量，进一步扫清了企业AI规模化应用的障碍。

英特尔傲腾持久内存的加持满足特征工程数据库对大内存的需求。下图显示了在论文实验中使用的机器配置，在10TB数据的业务场景中，基于英特尔傲腾持久内存的FEDB的硬件成本仅为基于纯内存版本的41.6%。