几个世纪以来，男女同性恋、双性恋和变性者由于性取向和性别认同而在生活的各个方面面临歧视。然而，人工智能技术的最新进展给这个社区带来了新的挑战。控制许多决策过程的算法现在能够根据可能延续偏见的数据模式生成结果。这引起了人们对这些算法在增强对LGBT人群的现有偏见方面的潜在作用的担忧，这可能导致机会、服务和资源进一步被排除在外。本文将研究人工智能系统中存在的结构和算法偏见，并讨论有效缓解它们的策略。结构性偏见人工智能系统中存在的结构性偏见之一是培训数据集中缺乏LGBT人群的代表性。用于开发算法的大多数培训数据都是从异规范人群中收集的，导致对世界的扭曲视角无法准确反映LGBT人群的不同经历。例如，在文本语料库中训练的语言模型可能包含一种语言，该语言可以增强对LGBT人群的负面刻板印象或侮辱性术语，从而影响他们与系统的互动方式。在培训数据中缺乏LGBT代表性也意味着系统可能无法识别该社区的需求和偏好，从而导致不理想的指导和服务。AI系统中的其他类型的偏移是由于使用歧视性特征引起的。其中包括种族，年龄，性别，位置和社会经济地位等变量，当与其他因素结合使用时，所有这些都可能导致偏见结果。例如，雇主可以使用该算法根据特定资格对求职者进行测试，但是如果他们的算法被编程为有利于具有与以前的雇员（即白人）相似的工作经验的候选人，则可能会排除合格的LGBT申请者。同样，约会应用程序只能为用户显示异性恋对应，从而将陌生人排除在寻找兼容的伴侣之外。为了解决这些问题，可以实施几种策略来确保人工智能系统的设计具有包容性：
1。增加代表性：减轻结构偏见的一种方法是增加LGBT人在培训数据集中的代表性。公司应努力使员工队伍和客户群多样化,确保其产品反映广泛的经验和前景。这可以通过有针对性的招聘做法，与代表代表性不足的社区的组织的伙伴关系以及从不同人群收集数据来实现。
2.定期模型审核：必须不断监测AI系统的性能，以识别对LGBT人群的任何潜在偏见。这包括使用客观标准（例如准确度量，错误度量和决策树）对算法进行定期评估。通过尽早识别和消除任何差异，公司可以防止系统性歧视。
3.各组织应提供持续教育和提高认识举措，以促进其团体的多样性和参与。这包括培训员工如何识别和避免有偏见的语言和行为，并为可能受到歧视或骚扰的人提供资源。
4.使用显式偏差ID：为了解决算法偏差，开发人员可以使用显式标识符（例如年龄，性别和性取向）来排除决策中的某些变量。
例如，雇主可以创建一个职位描述，其中表示对性取向"没有偏好"，而不仅仅是依赖候选人的简历。同样，约会应用程序可以允许用户根据某些首选项过滤匹配，而不仅仅是依靠默认设置。最后，人工智能中的结构和算法失真对LGBT人获得机会、服务和资源构成重大威胁。公司必须采取积极措施，通过增加代表性，定期审核模型，促进多元化培训以及在其系统中引入明显的偏见标识符来减轻这些偏见。通过这样做，他们可以确保人工智能系统的设计具有包容性，从而为所有人带来更公平的结果。
人工智能中哪些结构和算法偏差使对LGBT人的歧视长期存在，以及如何有效地减轻这些偏差？
人工智能（AI）系统中常见的结构和算法偏差可能会为将LGBT人群表示为用于训练这些AI模型的数据集设置障碍。这种缺乏代表性的现象可能导致人工智能系统的预测和决策不准确，从而进一步加剧对他们的歧视。