Welche Strukturen gibt es, um algorithmische Vorurteile gegenüber LGBT-Personen in der künstlichen Intelligenz zu erkennen und abzuschwächen, und wie effektiv sind sie in der Praxis?
Algorithmische Voreingenommenheit bezieht sich auf die Tendenz von maschinellen Lernalgorithmen, basierend auf bestimmten Merkmalen wie Rasse, Geschlecht, Alter, sexueller Orientierung, Religion usw. unfaire Ergebnisse zu liefern. Dies kann passieren, wenn die Daten, die zum Trainieren dieser Algorithmen verwendet werden, verschoben werden oder wenn die Algorithmen selbst Codierungsfehler enthalten, die dazu führen, dass sie falsche Entscheidungen treffen. In den letzten Jahren hat die Erkenntnis zugenommen, dass algorithmische Voreingenommenheit marginalisierte Gruppen wie LGBT-Personen betreffen kann, die in Beschäftigung, Wohnen, Gesundheit und anderen Lebensbereichen diskriminiert werden können. Um dieses Problem anzugehen, wurden mehrere Rahmen vorgeschlagen, um algorithmische Vorurteile gegen LGBT-Personen in der künstlichen Intelligenz zu identifizieren und zu mildern. Ein Ansatz besteht darin, Werkzeuge zu entwickeln, die die Leistung von Algorithmen in verschiedenen Untergruppen innerhalb einer Organisation oder Branche steuern. Das von IBM entwickelte Fairness Toolkit bietet beispielsweise eine Reihe von Metriken zur Messung der Fairness von Machine-Learning-Modellen in verschiedenen Gruppen, einschließlich LGBT-Personen. Ein anderer Ansatz besteht darin, Techniken wie kontrafaktische Fairness zu verwenden, bei denen alternative Szenarien modelliert werden, um festzustellen, ob bestimmte Ergebnisse stattgefunden hätten, wenn die Gruppe nicht voreingenommen gewesen wäre. Darüber hinaus haben einige Forscher vorgeschlagen, „kontradiktorische" Ansätze zu verwenden, um algorithmische Verzerrungen zu neutralisieren. Dies beinhaltet das Training eines feindlichen Modells, das versucht, den Ausgang eines bestimmten KI-Systems vorherzusagen, indem es seine Genauigkeit für bestimmte Subpopulationen minimiert. Indem er diesen Gegner in das ursprüngliche Modell einspeist, lernt er, gerechtere Vorhersagen zu generieren, ohne die Gesamtgenauigkeit zu beeinträchtigen. Kritiker argumentieren jedoch, dass diese Methode zu unbeabsichtigten Konsequenzen führen und Bedenken hinsichtlich Privatsphäre und Sicherheit hervorrufen könnte.
Trotz dieser Bemühungen bleibt die Effizienz der bestehenden Systeme in der Praxis jedoch begrenzt. Viele Organisationen versuchen, diese Methoden aus Mangel an Ressourcen, Fachwissen oder Interesse der Stakeholder einzuführen. Darüber hinaus gibt es oft konkurrierende Prioritäten und Kompromisse zwischen Fairness und anderen Faktoren wie Genauigkeit, Kosteneffizienz und Skalierbarkeit.
Zum Beispiel kann es für Unternehmen schwierig sein, den Bedarf an genauen Prognosen mit dem Wunsch nach Beseitigung von Vorurteilen gegenüber bestimmten Gruppen in Einklang zu bringen. Im Allgemeinen erfordert die Lösung des Problems der algorithmischen Verschiebung einen multilateralen Ansatz, der die Zusammenarbeit zwischen Wissenschaft, Industrie, Regierung und Zivilgesellschaft umfasst. Trotz der erzielten Fortschritte gibt es noch viel zu tun, bevor wir die Diskriminierung im Bereich der künstlichen Intelligenz vollständig beseitigen können.
Welche Strukturen gibt es, um algorithmische Vorurteile gegenüber LGBT-Personen in der künstlichen Intelligenz zu erkennen und abzuschwächen und wie effektiv sind diese in der Praxis?
Das Problem der algorithmischen Voreingenommenheit gegenüber LGBT-Personen ist nicht neu; Forscher wissen seit langem, dass KI-Systeme die Diskriminierung aufgrund der sexuellen Orientierung und der Geschlechtsidentität aufrechterhalten können. Eine Grundlage für die Identifizierung dieser Vorurteile ist das Datenschutz- und Sicherheitsparadigma, das Datenschutz- und Sicherheitsbedenken als Schlüsselfaktoren für das Verständnis von Vorurteilen hervorhebt. Dieser Rahmen legt nahe, dass KI-Algorithmen implizite Vorurteile in Datenquellen widerspiegeln können, einschließlich Social-Media-Posts, Online-Suchen und Nachrichtenartikeln.