人工知能（AI）は、医療、金融、教育など多くの産業に革命をもたらしました。
しかし、LGBTのような疎外された集団を差別するために使用された場合、それはまた重大なリスクをもたらします。
AIアルゴリズムがバイアスを増加させる一つの方法は、データ入力によるものです。機械学習モデルは、履歴パターンとトレンドを含む大きなデータセットを使用して訓練されます。これらのデータセットはしばしば不平等を永続させる社会的偏見や偏見を反映している。
たとえば、ジョブアプリケーションのデータセットに、従来の性別の役割を持つ異性愛者がほとんど含まれている場合、アルゴリズムはその予測でこれらの特性をサポートする可能性があり、LGBTの採用人数が少なくなる可能性があります。AIが偏見に貢献できるもう一つの方法は、意思決定プロセスを通じてです。機械学習モデルの中には、皮膚の色や犯罪率など、特定の属性と結果の統計的相関に依存しているものもあります。この場合、黒人は、肌のトーンのために白人よりも犯罪者として誤って識別することができます。このタイプの全身的な人種差別は、雇用や住宅などの他の分野に広がる可能性があります。最後に、ヒューマンエラーが偏ったAIの結果に寄与する可能性があります。開発者は、コードに自分の無意識の歪みをエンコードしないようにしなければなりません。
例えば、プログラマはLGBT関連のトピックを誤って「機密」とマークし、トレーニング中にアクセスを制限することがあります。
これらの問題を軽減するために、開発者は設計プロセスの多様性を優先すべきです。LGBTコミュニティから情報を求め、インクルーシブ・プラクティスをワークフローに組み込むべきです。
さらに、デプロイメント前にデータのランダム化やアルゴリズムの監査など、バイアスを削減するための代替手段を検討する必要があります。最後に、定期的なテストとメンテナンスは、時間の経過とともにエラーを特定して修正するために必要です。
アルゴリズム設計における構造的不平等に対処することにより、開発者は責任を持って倫理的にAIを使用してイノベーションを推進することができます。
人工知能はどのようにしてLGBTの人々に対するバイアスを高めることができ、どのように開発者はアルゴリズム設計におけるこれらの構造的不平等に倫理的に対処することができますか？
人工知能（AI）は、異常、cisnormativityおよびジェンダーバイナリに寄与する既存の社会構造を複製および増幅することにより、LGBTQ+個人に対するバイアスを強化することが示されています。AIトレーニングデータセットにおけるqueer identitiesの表現とデータの欠如は、この問題にさらに貢献します。