返回首页

Roadmap
更新于 2026年11月18日 全文 1555 字未阅读

公平性:人口统计均等#

本节要点:

  • 人口统计均等是什么:不管个人资质如何,都要保证多数群体和少数群体拿到同样的录取率;换个说法,它让两个群体在录取名单里的占比,与它们在候选人池里的占比保持一致;
  • 人口统计均等的盲区:比例是齐平了,但群体内部个体的资质差别被抹平了,很可能因此算出不公平的结果;
  • 单一指标未必够用:评估公平性得同时考虑别的指标,以及模型所处的具体应用场景;
  • 特征数据也可能是元凶:这个例子恰好暴露出特征数据自带偏见,让两个群体在“是否合格”的预测上拉开了差距。

评估模型预测公不公平,有一种办法是去比较多数群体和少数群体的录取率。如果两边的录取率相等,那么模型的预测就满足了[人口统计均等(demographic parity):一个学生能不能被这所大学录取,不会因为他所处的人口统计群体而不同。

打个比方,假设招生模型录取了多数群体中的 16 名候选人、少数群体中的 4 名候选人。两个群体的录取率都是 20%,模型的决策就满足了人口统计均等。

图 2. 左右两栏排开的人形图标。左栏标题是“Rejected Candidates”,装着 64 名蓝色学生加 16 名橙色学生;右栏标题是“Accepted Candidates”,装着 16 名蓝色学生加 4 名橙色学生。右下角的图例写明蓝色代表多数群体、橙色代表少数群体。
图 2. 候选人池分成被拒绝与被录取两组。多数群体(蓝色)与少数群体(橙色)的录取率都是 20%。

下面这张表,把图 2 里录取与被拒绝的人数列了个清楚。

多数群体少数群体
已录取164
被拒绝6416
录取率20%20%

练习:检验你的直觉#

大学招生委员会正在考虑用人口统计均等作为模型的公平性评估指标,需要你给出这种做法的利弊。你能各举出用人口统计均等评估模型预测的一个优点和一个缺点吗?

你还能从特征数据里看出什么问题吗?

继续读下一节——“优势与劣势”,我们会在那里总结使用人口统计均等的关键利弊。


优势与劣势#

回到招生这个例子,人口统计均等最大的好处是:它能保证多数群体和少数群体在录取名单里的占比,和他们在候选人池里的占比完全一致。换句话说,如果申请人池里 80% 是多数群体、20% 是少数群体,那么人口统计均等就保证最终被录取的人里也正好是 80% 多数群体、20% 少数群体。

不过它有一个相当明显的短板:在评估这 20 个录取名额该怎么分配时,人口统计均等没有把各个群体内部的预测分布考虑进来,也就是没看每个群体里被判为“合格”和“不合格”的人各有多少。

我们再回头看一眼上面那份候选人池。不过这一次,除了人口统计群体,我们还按模型把每位候选人打成了“合格”或“不合格”:

图 3. 与图 2 同样的左右两栏人形图标,但真正合格的学生身后多铺了一层浅绿色底色,其中被拒绝的合格学生身上打了一个黑叉 —— 多数群体的 35 名合格学生里有 19 名被拒绝,少数群体的 15 名合格学生里有 11 名被拒绝。图例中浅绿方块写“Actually qualified”,叉号写“Qualified, but rejected”。
图 3. 与图 2 相同的录取与拒绝分组,但这次两个群体里所有合格的学生都涂成绿色,被拒绝的合格学生打上了叉号。

35 名合格的多数群体学生中(左侧19+右侧16),有 16 名被录取;15 名合格的少数群体学生中,只有 4 名被录取。

下面这张表,把图 3 里录取与被拒绝的人数列了出来。

多数群体少数群体
已录取被拒绝已录取被拒绝
合格1619411
不合格04505

我们来把两个群体里合格学生的录取率分别算出来:

$$\text{Majority acceptance rate} = \frac{\text{qualified majority students accepted}}{\text{total qualified majority students}} = \frac{16}{35} = \text{46\%}$$$$\text{Minority acceptance rate} = \frac{\text{qualified minority students accepted}}{\text{total qualified minority students}} = \frac{4}{15} = \text{27\%}$$

两个群体的总体录取率都是 20%,人口统计均等算是满足了;但合格的多数群体学生里有 46% 被录取,合格的少数群体学生却只有 27%。

像这种情形 —— 某个偏好标签(这里是“合格”)在两个群体里的分布差别很大 —— 人口统计均等可能就不是评估公平性最合适的指标了。下一节我们会看另一个备选指标:机会均等(equality of opportunity),它会把这些差别纳入考虑。

人口统计均等可能还有些这里没讲到的利弊,同样值得纳入考量,具体要看你设计的模型想达成什么目标,以及它的预测会被用在什么样的社会语境里。

关键术语:

  • 偏见(伦理与公平性)
  • 人口统计均等(Demographic parity)
阅读 --