テクノロジーが進化するにつれて、AIシステムが人間の感情を正確に認識し、解釈できることがますます重要になってきています。AIアルゴリズムは、多くの場合、誰かが顔の特徴に基づいて男性、女性、または非バイナリであるかどうかを判断するために使用されるため、これが特に関連する分野の1つは、性同一性認識の文脈にあります。これらのツールは、包摂性を促進し、場合によっては差別を減らすことができますが、彼らはまた、misogynyに貢献する既存の社会的バイアスを強化することができます、transphobiaまたはホモフォビア。この記事では、AI技術が性同一性の理解を改善し、挑戦する方法について説明します。
AIがジェンダーの多様性についての前向きな態度を強化するのに役立つ一つの方法は、異なるアイデンティティを認識し、公平な方法で提示する能力です。たとえば、一部の企業では、性同一性に基づいてパーソナライズされた応答でユーザーに応答するチャットボットを作成し、さまざまな視点を正常化して可視性を高めることができます。
さらに、SiriやAlexaのような仮想アシスタントは、LGBTQ+の問題やサポートリソースに関する情報を提供するようにプログラムすることができます。ただし、性同一性を決定する機械学習アルゴリズムの過剰使用に関連するリスクもあります。これらのシステムは、大規模な画像とテキストデータセットを使用して訓練されています。これは、欠陥のある結果につながり、良いよりも害を及ぼすステレオタイプを永続させる可能性があります。
例えば、システムがトレーニング中に特定の種類の画像だけにさらされた場合、色の女性やトランスジェンダーの人々など、疎外されたグループの人々を正確に識別するのに苦労するかもしれません。
さらに、一部の専門家は、性割り当てのための顔の特徴だけに依存することは、人間の表現と行動の完全な範囲を考慮に入れていないため、問題になる可能性があると主張しています。
これらの問題に対処するために、研究者は、音声分析や言語処理ツールを使用することを含む、性別認識への代替アプローチを模索しています。音声パターン、音声トーン、単語の選択肢を分析することで、機械は人間のコミュニケーションの複雑さをよりよく理解し、外観などの表面要因に基づいた仮定を避けることができます。このアプローチは、従来のジェンダーの役割に適合していないバイナリ以外の個人や、日常のスピーチでスラングやイディオムを使用する人々に対する差別を減らすことにも役立ちます。最終的には、AIは、私たちのバイアスに関する貴重な情報を提供し、私たちが変化を起こす必要があるときを理解するのを助けることによって、男女平等と包摂を促進する上で重要な役割を果たすことができます。
しかしながら、開発者が倫理的配慮を優先し、さまざまなステークホルダーと緊密に協力して、既存の電力構造を強化したり、有害な態度を促進したりしないようにすることが不可欠です。
AI技術は、性同一性の解釈における社会的偏見をどのように強化または挑戦することができますか？
人工知能（AI）の開発は、性同一性認識システムを含む様々な分野で重要な進歩をもたらしました。これらのシステムは、性同一性の理解を向上させ、バイアスを減らすことができますが、既存の社会的バイアスを永続させるリスクもあります。これが起こる可能性の1つの方法は、限られたデータセットまたは古い情報を使用することです。