近年来，人工智能（AI）的进步彻底改变了企业和人们之间的沟通方式。但是，尽管人工智能具有改变社会的潜力，但它倾向于延续偏见，这些偏见可能会被忽视，但会极大地影响社会平等。本文将讨论AI系统如何无意中促进可能不利于某些群体的性别陈规定型观念和规范，并提出在鼓励技术发展的同时遏制此类偏见的解决方案。AI应用中使用的某些软件算法，例如面部识别技术，语音助手和语言模型，可以编码基于性别和性认同的偏见。例如，这些程序旨在根据可能反映性别陈规定型观念的现有数据集来识别模式。面部识别算法是通过白人男性面部图像训练的，从而导致对妇女和有色人种的偏见。像Siri或Alexa这样的语音助手也是如此，他们的默认设置暗示男性声音，迫使他们在女性接触时忽略问题。语言模型还依赖于过去的文本数据，这些数据通常反映男人和女人之间的异规范关系，导致对非二进制性别和一夫一妻制之外的关系的理解有限。这些偏见可能导致不公平的结果，包括工作中的歧视，获得医疗保健的机会不平等以及缺乏教育代表性。因此，纠正这些偏差需要更多样化的数据集、包容性的设计原则和持续监测。企业必须确保其培训数据包括不同的性别、种族、年龄、身体类型和取向，以尽量减少偏见。此外，开发人员必须包括隐私保护措施，以防止个人信息被利用。最后，定期测试和审计可以帮助识别和消除系统中的任何无意识偏见，促进平等而不会扼杀创新。最后，人工智能系统可以促进性别规范和陈规定型观念，除非通过有意识的努力加以纠正，否则这些规范和陈规定型观念会延续不平等。通过收集各种数据，应用包容性设计原则并定期进行测试，企业和个人可以通过继续利用技术进步来创建一个公平的社会。
AI系统无意中延续异规范或顺规范位移的机制是什么，如何在不抑制创新的情况下纠正这些位移？
AI算法尽管具有固有的中立性，但如果根据不代表所有性别，性取向或性别认同的数据进行培训，则可以复制现有的社会规范。这可能导致错误的预测、决定和建议，从而进一步延续对边缘化群体的歧视。为了解决这个问题，开发人员必须收集更多样化的数据集，并确保他们的算法设计符合公平原则。