英特尔、第四范式联合研究成果入选国际顶会 VLDB 傲腾™ 持久内存加持 优化万亿维特征在线预估系统

来源:Intel Newsroom 

近日,英特尔与第四范式联合实验室以及新加坡国立大学的最新联合研究成果——基于英特尔® 傲腾™ 持久内存的特征工程内存数据库,被国际顶级数据库学术会议 VLDB(Very Large Data Base)作为常规研究论文录取。VLDB 与 SIGMOD 并称为数据库业界的两大最顶级学术会议,收录研究机构以及工业界在数据库领域最前沿、最顶级的研究成果。英特尔与第四范式此次合作录取的论文以解决在线预估系统的业务需求和痛点为目的,针对如何设计底层数据库组件来高效支撑万亿维稀疏特征在线预估系统,以及如何基于英特尔® 傲腾™ 持久内存进一步解决业务和系统设计的痛点等两方面进行创新性设计和全面优化。

如今,越来越多的企业意识到了 AI 在企业经营、决策中的重要作用,AI 迎来了落地应用爆发期。作为 AI 落地的关键组件,超高维在线预估系统基于实时提取的超高维特征和预先训练的模型对业务数据进行实时评估,因而被广泛应用在欺诈交易识别、个性化推荐等在线实时推理业务场景中。

为了支撑高性能的实时特征存取需求,业界诞生了诸多实时内存数据库。然而,伴随着业务的持续扩张和数据量的指数级增长,实时内存数据库所存在的潜在弊端与风险使其难以高效、低成本的满足不断增长的业务硬实时需求:

  • 高性能特征存取对计算资源消耗巨大:为了保障线上服务的性能,特征工程内存数据库对内存的容量要求极高,企业通常需要配备 20-30 台机器以满足高性能计算需求所需的内存容量,总体拥有成本(TCO)居高不下。
  • 服务中断恢复所需周期长,严重影响企业线上服务质量:企业线上服务对服务质量的要求极高,然而通常情况下服务中断(软硬件错误宕机、例行维护等)往往需要几个小时的恢复时间,业务长时间掉线严重影响线上服务质量。
  • 长尾延迟:使用基于内存的特征工程数据库保障了线上服务的高性能,但是数据备份依然会落盘到性能较差的外存储设备上,导致某些场景出现长尾延迟,严重影响服务质量。

为解决以上问题,第四范式自主研发了实时特征工程内存数据库 FEDB(Feature Engineering Database)。作为面向 AI 硬实时场景的分布式特征数据库,FEDB 所具备的高效计算、读写分离、高并发、高性能查询等特性,使得特征工程的效率和性能达到最大化。

在充分发挥 FEDB 价值的基础上,第四范式引入英特尔® 傲腾™ 持久内存技术,以及创新性的持久化数据结构,全面支撑 AI 硬实时、低成本、高计算性能等需求的实现。双方基于英特尔® 傲腾™ 持久内存,使用 App Direct Mode,开发优化持久化数据结构,完全摒弃了 FEDB 原有的基于外存储设备的数据持久化架构,不仅充分利用了持久内存大容量、持久性的特性,而且将持久化操作带来的性能损耗降至最小。

该工作主要的创新性优化技术包括“持久化智能指针”以及利用原子操作“持久化比较并交换”(Atomic Persistent Compare-And-Swap”)的解决方案。一方面,持久化智能指针巧妙地利用了 64 位操作系统中 64 位宽指针不被使用的低 4 位来标记目标地址的数据是否已持久化;另一方面,针对“比较并交换操作”(CAS),传统指令缺少持久化语义,因而无法在持久内存中直接作为带有持久化特性的原子操作来使用的难点,双方引入了新的“读前持久化”(flush-before-read)概念,利用持久化智能指针,保证“持久化比较并交换” (Persistent CAS)正确性的同时,最大化减少持久化带来的性能损耗。

此项工作的研究成果表明,基于英特尔® 傲腾™ 持久内存的 FEDB 可有效满足企业超高维稀疏特征在线预估场景的需求,在保证线上推理服务超高性能的同时,大幅降低了企业 AI 整体投入成本,提升了线上服务的质量,进一步扫清了企业 AI 规模化应用的障碍。

  • 英特尔® 傲腾™ 持久内存的加持满足特征工程数据库对大内存的需求。下图显示了在论文实验中使用的机器配置,在 10TB 数据的业务场景中,基于持久内存的 FEDB 的硬件成本仅为基于纯内存版本的 41.6%。
硬件成本比较(10TB 业务数据)

  • 在服务中断情况下实现数据快速恢复,服务恢复时间减少 99.7%,全面降低对线上服务质量的影响。如在论文中描述的结果(见下图,PA-FEDB 为基于持久内存优化的 FEDB,D-FEDB 为内存版本的 FEDB),在实际业务场景中,其数据恢复时间从原来的六个小时缩短至一分钟左右。
数据恢复时间比较
持久内存(PA-FEDB)vs. 纯内存(D-FEDB)
  • 基于英特尔® 傲腾™ 持久内存进行持久化数据结构设计的 FEDB 舍弃了原有纯内存方案以及基于外存储设备的备份机制,实现了长尾延迟(TP-9999)接近 20% 的改善(见下图,PA-FEDB 为基于持久内存优化的 FEDB,D-FEDB 为内存版本的 FEDB )。
长尾延迟 TP-9999 比较
持久内存(PA-FEDB)vs. 纯内存(D-FEDB)

未来,英特尔与第四范式联合实验室还将在软硬一体技术、面向 AI 的高性能计算等方面展开深入合作,结合英特尔领先的软硬件产品以及第四范式在 AI 领域的深厚积累、研发优势,推动 AI 技术的创新和落地,加速企业规模化AI应用进程,共同引领 AI 产业化发展。

One thought on “英特尔、第四范式联合研究成果入选国际顶会 VLDB 傲腾™ 持久内存加持 优化万亿维特征在线预估系统

发表评论

您的电子邮箱地址不会被公开。 必填项已用*标注