NVIDIA Kumo Relational 在关系型数据上超越监督式机器学习,无需训练
NVIDIA 发布预训练关系型基础模型 Kumo Relational,可直接在企业数据库上做预测:给定预测查询后,模型收集最多 1 万条历史样本作为上下文,单次前向传播输出流失、需求或欺诈等结果,无需任务特定训练、特征工程或表展平。在 15 个数据库的 41 项任务上,它超过监督式关系深度学习模型和专家特征工程的梯度提升树流水线;在 SAP SALT 基准上,其平均倒数排名(MRR)比 AutoGluon 集成高 8%。模型可扩展至 5000 亿行以上数据库,通过 NVIDIA 开源 GPU 原生结构化数据模型库或 NVIDIA NIM 提供。
发布于 10-22 10:54来源:Hugging Face Blog
转载 · 官方发布原文:Hugging Face Blog ·《NVIDIA Kumo Relational Outperforms Supervised Machine Learning on Relational Data, No Training Required》查看原链
TL;DR NVIDIA Kumo Relational 是一个预训练的关系型基础模型,可直接在企业数据库上进行预测。 给定一个预测查询,它会收集最多 10,000 条历史样本作为上下文,并在单次前向传播中预测流失、需求或欺诈等结果。 它无需任务特定训练、无需特征工程、无需将表展平。
Kumo Relational 是首个在常见关系型基准上超越监督式机器学习的少样本基础模型。 在 15 个数据库的 41 项任务中,它击败了监督式关系深度学习模型和专家工程化的梯度提升树流水线,并在 SAP SALT 企业基准上以平均倒数排名(MRR)超越 AutoGluon 集成 8%。
它可扩展至 5000 亿行以上的数据库,并通过 NVIDIA 开源、GPU 原生的结构化数据模型库或作为 NVIDIA NIM 为人类和智能体提供服务。 • 论文:https://arxiv.org/abs/2604.12596 • 文档:https://docs.nvidia.com/sdgm/rfm/overview 向结构化数据基础模型的转变 基础模型已经改写了语言和视觉领域的规则。
不久前,生产级 NLP 意味着每个任务一个专用模型,每个模型都配有自己的分词、词形还原和 n-gram 流水线。 LLM 在很大程度上让这套技术栈过时,原因有三:它们比最好的任务特定模型更准确、投入生产要简单得多,并且足够灵活,开启了一个智能体应用的新时代。
同样的转变现在正在结构化数据领域发生。 关系型数据库支撑着世界上最关键的业务决策,但在其上做预测建模仍然需要数周的特征工程、任务特定训练和调优流水线。 结构化数据基础模型出于同样的三个原因改变了这一点: 今天更好的准确性:作为即插即用的替代品,这些模型已经击败了许多生产流水线,尤其是 XGBoost。
在 RelBench V1 分类任务上,Kumo Relational 在专家工程化特征上平均比梯度提升树高出近 4 个 AUROC 点。 在 SAP SALT 上,它开箱即比工程化特征上的 XGBoost 高出 7 个 MRR 点,微调后高出 13 个 MRR 点。
这些结果有力地支持了用 Kumo Relational 替换生产 XGBoost 流水线。 简单与敏捷:一个预训练模型取代了各个任务的独立流水线。 一个新的预测变成一次查询,而不是一个项目,因此 ML 团队终于可以承接传统 ML 在每个组织层级都过于费力而无法构建的用例。
能预测的智能体:LLM 让智能体能够读、写和推理。 结构化数据基础模型让它们能够预判接下来会发生什么,例如哪个客户会流失,并据此行动。 Kumo Relational 已经构建为可由智能体调用,其预测查询语言(PQL)为它们提供了一个简单的接口来提出预测性问题。
今天,我们推出 Kumo Relational(论文、文档),这是一个预训练基础模型,将这一范式带入关系型数据。 连接数据库,描述要预测什么,在单次前向传播中获得预测。 无需训练。 Kumo Relational 如何工作 大多数结构化数据基础模型在单个扁平表上运行。
真实世界的数据存在于关系型数据库中:用户连接订单连接产品,所有这些都随时间演变。 展平表……
