发布人：Google Research Brain 团队研究工程师 Zachary Nado 和研究员 Dustin Tran
机器学习 (ML) 越来越多地被用于实际应用，因此了解模型的 不确定性和稳健性 对于确保其在实践中的性能很有必要。例如，将模型部署到与训练数据不同的数据上时，其表现如何？模型在可能出错时如何发出信号？
为掌握 ML 模型的行为，我们通常会根据目标任务的基线来衡量其性能。对于每个基线，研究人员必须尝试仅使用相应论文中的描述来重现结果，这为复现 带来了严峻挑战。在实验代码得到完好记录和维护的前提下，查看这些代码可能更有用。但是，基线必须经过严格验证，因此仅仅查看代码还不够。
例如，在对一系列研究 [1、2、3] 进行回顾性分析时，作者会发现简单且经过优化的基线往往优于更复杂的方法。为真正了解模型之间的相对表现，且让研究人员能够衡量新理念是否切实取得有意义的进展，必须将目标模型与共同基线进行比较。
在 “不确定性基线：深度学习中不确定性和稳健性的基准 (Uncertainty Baselines: Benchmarks for Uncertainty & Robustness in Deep Learning) ”一文中，我们介绍了 “不确定性基线”，这是针对各种任务的标准化和先进深度学习方法的高质量实现合集，旨在促使不确定性和稳健性的相关研究更具可重复性。
该合集涵盖 9 大任务的 19 种方法，每种方法有至少五项指标。每个基线都是独立的实验流水线，具有易于重复使用且可扩展的组件，并且在其编写框架之外具有最小的依赖性。内含的流水线可在 TensorFlow、PyTorch 和 Jax 中得到实现。此外，每个基线的超参数都已在多次迭代中经过广泛调整，可提供更有力的结果。
不确定性基线
至撰写本文时，不确定性基线共提供了 83 个基线，包括 19 种方法，涵盖九个数据集的标准和最新策略。示例方法包括 BatchEnsemble（批集成）、Deep Ensembles（深度集成）、Rank-1 Bayesian Neural Nets（1 阶贝叶斯神经网络）、Monte Carlo Dropout 和 Spectral-normalized Neural Gaussian Processes（光谱归一化神经高斯过程）。
不确定性基线可以作为继任者，合并社区中如下流行基准：您可以相信模型的不确定性吗？、BDL 基准 和 Edward2 基线。
| 数据集 | 输入 | 输出 | 训练示例 | 测试数据集 |
|---|---|---|---|---|
| CIFAR | RGB 图像 | 10 类分布 | 50,000 | 3 |
| ImageNet | RGB 图像 | 1000 类分布 | 1,281,167 | 6 |
| CLINC 意图检测 | 对话框系统查询文本 | 150 类分布（10 个网域） | 15,000 | 2 |
| Kaggle 糖尿病性视网膜病变检测 | RGB 图像 | 糖尿病性视网膜病变的概率 | 35,126 | 1 |
| 维基百科毒性 | 维基百科评论文本 | 毒性概率 | 159,571 | 3 |
我们共为 9 个可用数据集提供基线，上表显示其中 5 个数据集的子集。数据集涵盖了表格、文本和图像模态。
不确定性基线根据选择的基础模型、训练数据集和一套评估指标设置各个基线。然后通过超参数对各个基线进行调整，以最大限度地提高这些指标的性能。上述三个轴线的可用基线各不相同：
基础模型（架构）包括 Wide ResNet 28-10、ResNet-50、BERT 和简单的全连接网络。
训练数据集包括标准机器学习数据集（CIFAR、ImageNet 和 UCI）以及更多现实问题（Clinc 意图检测、Kaggle 糖尿病性视网膜病变检测和 维基百科毒性）。
评估包括预测性指标（如准确率）、不确定性指标（如选择性预测和校准误差）、计算指标（推断延迟）以及分布内外数据集的性能。
模块化和可复用性
为便于研究人员使用基线并在其基础上进行构建，我们特意对其进行优化，尽可能采用模块化设计，并实现最小化。如下方工作流图所示，不确定性基线没有引入新的类抽象，而是重复使用生态系统中预先存在的类（例如 TensorFlow 的 tf.data.Dataset）。各个基线的训练/评估流水线均包含在实验的独立 Python 文件（可以在 CPU、GPU 或 Google Cloud TPU 上运行）中。由于基线之间的这种独立性，我们得以在 TensorFlow、PyTorch 或 JAX 任意一者中开发基线。
工作流示意图：不确定性基线不同组成部分的构造方式。所有数据集都是 BaseDataset 类的子类，BaseDataset 类提供的简单 API 可用于使用任何受支持框架编写的基线。然后，任何基线的输出均可使用 稳健性指标 库进行分析
研究工程师对如何管理超参数和其他实验配置值（很轻松就能达到几十个）存在争议。我们没有使用针对该问题构建的任意一个框架，不想冒用户必须学习另一个库的风险，因此选择仅使用 Python 标志，这些标志通过遵循 Python 约定的 Abseil 定义。大多数研究人员应该非常熟悉该技术，其很容易扩展并插入其他流水线。
可重复性
除了能够使用记录的命令运行我们的所有基线并获得相同的报告结果之外，我们还力求发布超参数调整结果和最终模型检查点，以进一步实现可重复性。目前，我们只针对 糖尿病性视网膜病变基线 完全开源上述内容，但我们会在运行基线的过程中继续上传更多结果。此外，我们提供的 基线示例 在硬件确定性方面完全可重复。
实际影响
代码库中包含的所有基线都经过了广泛的超参数调整，我们希望研究人员可以轻松地重复使用这些基线，而无需进行昂贵的重新训练或重新调整。此外，我们希望避免流水线实现中影响基线比较的细微差异。
不确定性基线已被用于 众多研究项目。如果您是一名研究人员，想要贡献其他方法或数据集，您可以在 GitHub 上创建一个议题，开启讨论！
致谢
衷心感谢各位共同开发的人员，以及提供指导和/或帮助审核本文的人员：Neil Band、Mark Collier、Josip Djolonga、Michael W. Dusenberry、Sebastian Farquhar、Angelos Filos、Marton Havasi、Rodolphe Jenatton、Ghassen Jerfel、Jeremiah Liu、Zelda Mariet、Jeremy Nixon、Shreyas Padhy、Jie Ren、Tim G. J. Rudner、Yeming Wen、Florian Wenzel、Kevin Murphy、D. Sculley、Balaji Lakshminarayanan、Jasper Snoek、Yarin Gal。
原文：Baselines for Uncertainty and Robustness in Deep Learning
中文：TensorFlow 公众号