ジェンダー・アイデンティティ（Gender identity）とは、個人が男性、女性、どちらでもなく、両方であるという内面的な感覚を指す概念です。これには、性別表現を理解することが含まれます。
しかし、特に人工知能技術（AI）に関しては、このトピックに関連するさまざまな誤解や誤解があります。
このような誤解の1つは、AIシステムが身長、体重、髪の色、声の高さなどの物理的な属性に基づいて性同一性を正確に決定できるということです。この仮定は、これらのシステムを訓練するために使用されるデータに意図しないバイアスをもたらし、伝統的なジェンダーの役割に適合しない個人に対する差別をもたらす可能性があります。
例えば、トランスジェンダーの個人は、認知された性別と割り当てられた性別の間の矛盾のために誤って分類される可能性があり、保健サービスの拒否や雇用機会の否定などの否定的な結果につながる。
もう一つの課題は、親密な瞬間に感情的な応答のための表情とボディランゲージを分析するために設計されたAIアルゴリズムから発生します。これらのシステムは、文化的規範に応じて行動を異なる方法で解釈することができ、それによって性的な出会いの間に男性よりも多くの感情を表現する女性についての有害なステレオタイプを強化する。このような知見は、精神的健康状態の誤診や、親密な状況における同意の不正確な評価につながる可能性がある。さらに、一部のAIチャットボットでは、ユーザーの要求を理解し、正しく回答するために自然言語処理を使用しています。これらのボットが時代遅れのジェンダー特有の用語でプログラムされている場合、それらは無感覚または攻撃的な応答を生成し、既存の社会的偏見を永続させることができます。
さらに、チャットボットは非バイナリのアイデンティティを認識していないか、または集団のかなりの部分を除外する包括的なオプションを提供していない可能性があります。
これらの課題に対処するために、研究者は、性同一性に関するさまざまな観点や経験を考慮したAI技術を開発する必要があります。また、新しいモデルを作成する際に履歴データセットを使用することの影響を考慮し、LGBTQ+コミュニティからのフィードバックを検討する必要があります。こうすることで、私たちの技術が社会の進化するジェンダー・アイデンティティの理解を的確に反映し、すべての人が本物の自分を探索できる安全な空間を作り出すことができます。
AI技術はいかに不注意に性同一性についての社会的偏見か誤解を高めることができるか。
AI技術が不注意に社会的偏見を強化したり、性同一性について誤解したりするための潜在的な方法の1つは、データのモデルから学ぶことです。これらのシステムを構築するために使用されるトレーニングデータに、性別のステレオタイプや偏見の例が含まれている場合、結果として得られるモデルは、それらに挑戦するのではなく、これらのバイアスを永続させる可能性があります。