算法是计算机程序，可以在没有人参与的情况下执行某些任务。它们通过分析大量数据并找到决策模式来工作。这些模式可以基于历史趋势或统计概率。这些算法用于识别信用风险，天气预报，优化供应链，推荐音乐，检测欺诈甚至诊断疾病。但是，它们也延续了社会偏见和歧视少数群体。本文将探讨算法如何再现对不合格身份的道德偏见，并探讨如何应对这些偏见。
算法再现道德偏见的一种方法是使用二元分类器。二元分类器将人们分为男性/女性，黑色/白色，异性恋者/同性恋者，阿贝德/残疾人等类别。然后，他们为每个类别分配一组可能匹配或不匹配的特征。例如，旨在检测罪犯的算法可以将任何纹身的人归类为罪犯，无论其实际行为如何。这可能导致不成比例地针对某些群体，包括那些不符合传统性别角色的群体。
算法再现道德偏见的另一种方法是使用机器学习。机器学习涉及在广泛的数据集上训练模型，并使它们能够从过去的错误中学习。但是，如果数据集不完整或偏向单个组，则该模型将为其他组产生不准确的结果。例如，面部识别技术经常错误地识别黑人女性，因为它主要针对白人男性进行培训。同样，招聘算法可能会偏爱具有常规名称的候选人，例如约翰·史密斯（John Smith），而不偏爱具有更多种族名字的候选人。为了消除这些偏见,我们需要增加算法使用的数据集的多样性。我们必须收集和分析代表性不足群体的数据，包括有色人种、LGBTQ+个人、移民、残疾人和宗教少数群体。我们还必须用不同的例子来训练模型，以便它们能够识别所有类型的人类经验。此外,我们必须检查现有算法的准确性和公平性,确保任何群体不受歧视。最后，当公司的产品延续有害的陈规定型观念时，我们必须追究公司的责任。通过采取这些步骤，我们可以建立一个更加公平的社会，使每个人都能平等地获得机会和资源。
算法如何再现针对不合格身份的道德偏见？
已经表明，算法由于对数据集的依赖性而重复了对不匹配身份的道德偏见，这些数据集通常反映了人类程序员的偏见和社会规范。例如，在为面部识别软件编程算法时，开发人员通常使用来自西方文化的图像来训练系统，在这些图像中，白脸比其他种族更常见。