Prior Labs 新模型默认设置击败 Otto 竞赛冠军方案

Prior Labs 发布了表格基础模型的新版本 TabPFN-3.5。该模型通过一次前向传播直接对表格作出预测，无需针对每个数据集单独训练或调参。公司称其在 7 个表格类基准测试中均排名第一。

开放权重可在本地用于研究、评测和 Kaggle 场景，生产环境使用则需要 Prior Labs 的 API 或商业许可。

Otto 竞赛成绩

Otto Group Product Classification Challenge 于 2015 年在 Kaggle 举办，3505 支队伍争夺 1 万美元奖金。参赛者需用 93 个经过混淆处理的计数特征把产品分入 9 个类别，评价指标为多分类 log loss，数值越低越好。

冠军方案来自 Gilberto Titericz 与 Stanislav Semenov，两人都曾登上 Kaggle grandmaster 世界第一。他们提交的是基于人工特征、由 36 个模型组成的多层堆叠。

AutoGluon 联合创造者、Prior Labs 研究员 Nick Erickson 追这个分数已有多年。据他介绍，AutoGluon 在 2020 年论文中排名第 23，AutoGluon 1.0 于 2023 年升至第 14，AutoGluon 1.6 在 2026 年 8 月达到第 9。最后一段最难：从第 50 名到第 10 名，log loss 从 0.41 降到 0.40；而要从第 10 名追到冠军的 0.382，还需再降 0.018。

TabPFN-3.5 在私榜取得 0.375。Erickson 表示，模型直接使用原始数据和默认设置，在一块 RTX PRO 6000 GPU 上耗时约一分钟。该模型仅用合成数据预训练，从未见过 Otto 或任何 Kaggle 数据集。可复现的 Kaggle notebook 已公开。

基准测试情况

技术报告列出其在 TabArena、BeyondArena、STRABLE、MulTaBench、RelArena-α、TALENT 和 ScoringBench 上的第一名。不过登顶的并不总是基础模型：TabPFN-3.5-Thinking 在 TabArena、BeyondArena、STRABLE 和 MulTaBench 居首，RelArena-α 则由内部 TabPFN-Rel 预览版拿下。

在包含 51 个数据集的动态基准 TabArena 上，Thinking 达到 1910 Elo，基础模型为 1866，高于 TabFM+ 的 1823。Prior Labs 称，基础模型以五分之一的耗时领先 AutoGluon 1.6 extreme 130 Elo。覆盖 142 个数据集的 BeyondArena 上，TabPFN-3.5 比此前的总榜领先者高出约 150 Elo；但在分组、时序和大数据切片上，经过调参与集成的 MLP 仍然领先。

尽管参数量约为原先的 4 倍，KV cache 规模与 TabPFN-3 基本相当。缓存后的单行预测速度与 TabPFN-3 持平，但在大规模训练集上，基础模型的速度最多慢一倍。

更多细节见 MarkTechPost 的报道。