在企业机器学习领域，表格数据无处不在——客户记录、交易流水、传感器日志、保险理赔单……预测流失率、违约概率、需求或价格，是最常见也最关键的业务场景之一。过去二十年，这个领域几乎被梯度提升树（Gradient-Boosted Trees）统治，虽然效果不错，但每遇到一个新问题，依然需要从头收集标签、工程特征、搜索超参数、验证并部署一个”一无所知”的模型。
大型语言模型带来了一种全新范式——上下文学习（In-Context Learning）：给定几个示例，pretrain 好的模型无需更新任何权重就能解决新任务。这套思路同样适用于表格。
2026 年 9 月 29 日，NVIDIA 正式发布 Kumo Tabular，一款专为表格数据打造的开源基础模型，隶属于 NVIDIA Kumo 结构化模型系列。
Kumo Tabular 是什么
Kumo Tabular 是一个基于 Transformer 的表格数据基础模型，能够在单次前向传播中完成表格分类和回归预测，无需训练、无需调优、无需特征工程。它支持少样本分类、零样本分类以及传统的有监督训练三种模式，可以直接处理带标签的上下文行，预测未知标签的查询行。
该模型的突出特点在于：使用纯人工数据预训练。这意味着模型从未见过真实世界的敏感业务数据，却能泛化到各类真实表格任务，有效规避了数据隐私和合规风险。
模型提供三种规格：
| 参数量 | 适用场景 |
|---|---|
| 28M 参数 | 轻量级推理、低延迟场景 |
| 215M 参数 | 大规模复杂表格任务 |
所有模型权重已开源，托管于 Hugging Face，配合 NVIDIA 自研的 sdm（Structured Data Models）开源库使用，商用授权采用 OpenMDW-1.1 许可。
技术原理
Kumo Tabular 的核心设计围绕表格结构本身展开，包含三个关键模块：
1. Cell Embedding（单元格嵌入）
数值型和类别型数值通过傅里叶特征（Fourier Features）进行处理——将数值映射为一系列正弦和余弦函数，捕捉不同频率的信息。缺失值无需填充，会被特殊处理。每个 token 还会额外接收一个标签嵌入，以便在上下文中携带标签信息。
2. Row Embedding（行嵌入）
表格的每一行通过两种交替注意力机制进行编码：
- 列注意力（Column Attention）：沿单一列向下观察，学习某个数值在列分布中的含义（例如，42 是典型值还是极端值），计算复杂度与行数呈线性关系。
- 行注意力（Row Attention）：横向观察单行的所有 token，学习不同特征之间的交互方式，通过旋转位置编码区分不同列。四个可学习的
[CLS]token 最终作为该行的聚合表示。
经过行压缩后，最终阶段的计算复杂度不再与列数相关。
3. In-Context Learning（上下文学习）
最后一个 Transformer 层对行嵌入进行操作：上下文行之间互相注意，而查询行只能注意上下文行。每个预测只依赖于上下文和该行本身，与其他行无关。这种设计保证了模型在少样本和零样本场景下的高效泛化能力。
基准测试表现
根据 NVIDIA 公布的数据，Kumo Tabular 在四大公开基准测试中均位列第一：
- TabArena
- BeyondArena
- TALENT
- ScoringBench
此外，配套的开源库 sdm 基于 Python 3.11+ 和 PyTorch 2.7+，支持 GPU 原生运行。NVIDIA 建议配合 cudf 一起使用，可以将 DataFrame 风格的操作保留在 GPU 上执行，避免不必要的数据搬运。
快速上手
from sklearn.datasets import load_breast_cancer
import sdm
# 加载数据
df = load_breast_cancer(as_frame=True).frame
table = sdm.TableTensor.from_pandas(
df=df,
stypes=sdm.infer_stypes(df, overrides={"target": "categorical"}),
device="cuda",
)
# 加载预训练模型
model = sdm.models.KumoTabular(device="cuda")
# 上下文学习前向传播
predictions = model(
x_context=table[:300].drop_columns("target"),
y_context=table[:300, "target"],
x_query=table[300:].drop_columns("target"),
)
整个过程无需任何训练步骤，模型直接基于上下文行中的标签进行预测。
开源生态与商用许可
NVIDIA 将 Kumo Tabular 的代码、权重和相关工具完整开源：
- 模型代码：https://github.com/NVIDIA/structured-data-models
- 模型权重：https://huggingface.co/nvidia/Kumo-Tabular
OpenMDW-1.1 许可证明确允许商业使用，这意味着企业可以直接将其集成到产品管线中，无需担心许可成本或合规障碍。
意义与展望
Kumo Tabular 的出现，标志着表格数据领域正式进入基础模型时代。传统机器学习流程中，每个新任务都需要重新训练模型、重新调参。而 Kumo Tabular 所代表的上下文学习范式，有望将”每任务一模型”变为”一个模型服务所有表格任务”。
对于企业而言，纯人工数据预训练是一个值得关注的设计选择——模型从未接触真实业务数据，却能达到甚至超越针对真实数据训练的模型效果。这为金融、医疗等数据敏感行业提供了一个无需分享原始数据就能享受基础模型红利的路径。
NVIDIA 表示，未来还将继续扩展 Kumo 系列结构化数据模型，涵盖关系数据（Relational）等更多模态。KumoRelational 模型已在路线图中，代号 KumoRFM-2。
温馨提示：本文内容基于公开资料整理，观点仅供参考。
AI 会员开通推荐
免 KYC 虚拟卡，可开通各类 AI 会员：立即注册