公平性：缓解偏见#

本节要点：

• 两条主线：缓解模型里的偏见，机器学习工程师通常走两条路 —— 扩充训练数据，或者调整模型的损失函数。
• 扩充数据：再采一批数据，把缺失、错误或倾斜的部分补上；但数据本身拿不到、或者资源不够时，这条路常常走不通。
• 调整损失函数：改用能"感知公平"的优化函数（比如 MinDiff、Counterfactual Logit Pairing），按敏感属性来惩罚误差，抵消训练数据里的失衡。
• 两者的差别：MinDiff 通过惩罚预测分布的差异，让不同数据切片之间的误差拉平；Counterfactual Logit Pairing 则针对敏感属性不同、其余特征相同的成对样本，惩罚它们预测结果上的差异。
• 怎么选、怎么用：取决于模型的具体使用场景；而且扩充数据与调整损失函数可以一起上，叠加起来效果更好。

训练数据里一旦定位到某个偏见来源，我们就能主动出手，把它的影响压下去。机器学习（ML）工程师通常用两条主要策略来纠正偏见：

• 扩充训练数据。

• 调整模型的损失函数。

扩充训练数据#

如果审计训练数据时发现了缺失、错误或者倾斜的数据，最直接的解法往往是：再去收集一批数据。

不过话说回来，扩充训练数据虽然理想，它的短板也恰恰在这里 —— 有时候根本做不到：要么数据本身拿不到，要么资源紧张到没法采集。举个例子，多收点数据可能成本太高、太费时间，也可能因为法律或隐私上的限制压根行不通。

调整模型的优化函数#

当额外收集训练数据这条路走不通时，缓解偏见的另一个办法，就是改一改模型训练时损失是怎么算的。我们通常会用对数损失（log loss）这类优化函数来惩罚模型预测错误的地方。但对数损失不会把子群体归属考虑进去。所以我们可以改用另一种优化函数 —— 它被设计成以公平为导向来惩罚误差，用以抵消我们在训练数据里发现的那些失衡。

TensorFlow Model Remediation 库提供了两种可以在训练过程中施加的偏见缓解工具：

• MinDiff：MinDiff 试图让两片不同的数据（比如男性/女性学生 vs. 非二元性别学生）上的误差拉平，做法是为这两组预测分布之间的差异加上一个惩罚项。

• Counterfactual Logit Pairing：Counterfactual Logit Pairing（CLP）试图保证：改变某个样本的敏感属性，不会改变模型对这个样本的预测。举个例子，如果训练数据里有两条样本，它们的特征值完全一样，只是一条的 gender 值是 male、另一条是 nonbinary，那么只要这两条样本的预测结果不同，CLP 就会加上一份惩罚。

至于该选哪种调整优化函数的办法，取决于模型的具体使用场景。下一节我们会结合这些使用场景，更仔细地看看如何着手评估一个模型的公平性。

练习：检查你的理解#

关于偏见缓解技术，下面哪些说法是对的？

• A. 往训练数据里加更多样本，总能帮助抵消模型预测里的偏见。

• B. 如果你正靠增加训练数据来缓解偏见，那就不该在训练时再同时施加 MinDiff 或 CLP。

• C. MinDiff 与 CLP 都会惩罚那些与敏感属性相关的模型表现差异。

• D. MinDiff 惩罚的是不同数据切片之间预测分布的整体差异，而 CLP 惩罚的是成对样本之间的预测差异。

关键术语：

• 偏见（伦理/公平性）
• 对数损失（Log Loss）