Künstliche Intelligenz (KI) hat viele Branchen revolutioniert, darunter Gesundheitswesen, Finanzen und Bildung. Es birgt jedoch auch erhebliche Risiken, wenn es zur Diskriminierung marginalisierter Gruppen wie LGBT-Personen eingesetzt wird.
Eine Möglichkeit, die Voreingenommenheit durch KI-Algorithmen zu verstärken, ist die Dateneingabe. Machine-Learning-Modelle werden mit großen Datensätzen trainiert, die historische Muster und Trends enthalten. Diese Datensätze spiegeln oft soziale Vorurteile und Vorurteile wider, die Ungleichheit aufrechterhalten. Wenn der Datensatz für Bewerbungen zum Beispiel hauptsächlich heterosexuelle Bewerber enthält, die traditionelle Geschlechterrollen haben, kann der Algorithmus diese Merkmale in seinen Prognosen unterstützen, was dazu führen kann, dass weniger LGBT-Personen eingestellt werden.
Eine weitere Möglichkeit, wie KI Vorurteile fördern kann, sind Entscheidungsprozesse. Einige Modelle des maschinellen Lernens basieren auf statistischen Korrelationen zwischen bestimmten Attributen und Ergebnissen wie Hautfarbe und Kriminalitätsrate. In diesem Fall können Schwarze aufgrund ihrer Hautfarbe häufiger fälschlicherweise als Kriminelle identifiziert werden als Weiße. Diese Art von systemischem Rassismus kann sich auf andere Bereiche wie Beschäftigung oder Wohnen ausbreiten. Schließlich kann menschliches Versagen zu voreingenommenen KI-Ergebnissen beitragen. Entwickler müssen sicherstellen, dass sie nicht ihre eigenen unbewussten Verzerrungen im Code codieren. Zum Beispiel kann ein Programmierer unbeabsichtigt LGBT-bezogene Themen als „sensibel" markieren und den Zugriff darauf während des Trainings einschränken.
Um diese Probleme zu mildern, sollten Entwickler der Vielfalt im Designprozess Priorität einräumen. Sie sollten nach Informationen aus LGBT-Communities suchen und integrative Praktiken in ihren Workflow einbeziehen. Darüber hinaus sollten sie alternative Maßnahmen zur Reduzierung von Bias in Betracht ziehen, z. B. die Randomisierung von Daten oder die Durchführung eines Algorithmus-Audits vor der Bereitstellung.
Schließlich sind regelmäßige Tests und Wartungsarbeiten erforderlich, um Fehler im Laufe der Zeit zu identifizieren und zu beheben. Durch die Beseitigung struktureller Ungleichheiten im algorithmischen Design können Entwickler KI verantwortungsvoll und ethisch einsetzen und Innovationen fördern.
Wie kann künstliche Intelligenz Vorurteile gegenüber LGBT-Personen verstärken und wie können Entwickler diese strukturellen Ungleichheiten im algorithmischen Design ethisch lösen?
Künstliche Intelligenz (KI) verstärkt nachweislich die Voreingenommenheit gegenüber LGBTQ + -Personen durch Replikation und Stärkung bestehender sozialer Strukturen, die Heteronormativität, Cisnormativität und Gender-Binarität fördern. Der Mangel an Einblick und Daten über queere Identitäten in KI-Trainingsdatensätzen trägt weiter zu diesem Problem bei.