近年、特に人種や性別に関する問題に関しては、アルゴリズム・バイアスがソーシャルメディア・プラットフォームに及ぼす潜在的な悪影響への注目が高まっています。
しかしながら、包括的に設計された空間における異常な仮定を微妙に補強するアルゴリズム的バイアスはどうでしょうか？このエッセイは、この質問に対処し、これらのバイアスが異なるコンテキストでどのように現れるかを探り、その影響を軽減するための戦略について議論します。
まずは「異常」とは何かを理解することが重要です。ヘテロノルマティビティ（Heteronormativity）とは、すべてがストレートであり、cisgenderであり、monogamousであるという仮定を指す。彼女は異性愛が標準であり、これからの偏差は正常ではないと示唆している。アルゴリズムの歪みは、包括的であるはずの空間でさえ、この信念を永続させることができます。
例えば、自分の好みや興味に基づいてユーザーに合わせてアルゴリズムを使用する出会い系アプリを考えてみましょう。両方のパートナーがデフォルトでcisgender男性または女性である場合、これは男性または女性のいずれかとして識別しない非バイナリ人の除外につながる可能性があります。同様に、アプリが同様の宗教的または政治的見解を共有するカップルを優先する場合、異なる信念を持つ人々を除外することができます。
アルゴリズム歪みが異常度を増加させるもう一つの方法は、特定の種類の関係を他のものよりも促進することです。
例えば、多くのオンライン出会い系アプリは、潜在的な試合のために右または左にスワイプするなどの機能を提供しています。これは無害に見えるかもしれませんが、実際には、より深い互換性の要因ではなく、外観に基づいて表面的な判断を刺激することができます。その結果、伝統的な美容基準に適合していない人や、典型的な年齢範囲外の人は、適切なパートナーを見つけるのに苦労するかもしれません。
さらに、一部のアプリケーションでは、潜在的なマッチを検索するときに1つの性別のみを選択することができます。これは利用可能なオプションの範囲を制限し、2つの性別だけを持つという考えをサポートします。
最後に、アルゴリズムのバイアスは、言語を使用して異常な仮定を微妙に強化することもできます。
例えば、マッチした2人のユーザー間のチャットメッセージに「夫」や「妻」などの用語が自動的に表示されることがあります。これは、多くの人々が異なる好みやアイデンティティを持っているにもかかわらず、すべての関係は異性愛で一夫一婦制であるという考えを強化します。同様に、アルゴリズムのガイドラインは、特定の性的指向または結婚状態を示唆する行動や出来事を示唆するかもしれません。これらの仮定は、これらのカテゴリに適合していない人に害を与え、コミュニティから除外されていると感じさせる可能性があります。
では、これらの問題をどのように解決できますか？1つの戦略は、アルゴリズムと関数のより包括的なオプションを提供することです。
例えば、出会い系アプリは複数の性別オプションを提供し、ユーザーが検索基準をカスタマイズして性同一性を超えた特定の属性を含めることができます。彼らはまた、誰もがストレートまたは結婚していることを示唆する言語を使用することを避けることができます。もう1つのアプローチは、バイアスの存在とその経験への影響についてユーザーに知らせることです。認知度を上げることで、特定のグループを排除する規範を強化することで、ユーザーは自分の選択肢をより意識し、意識することができます。
最後に、プラットフォームは、すべてのユーザーにとってより多様で公平な体験を作成するために、研究開発を優先すべきです。これらのバイアスがどのように機能するかを理解し、それらを緩和するための措置を講じることによって、私たちは真に包摂と多様性を促進するスペースを作成することができます。
アルゴリズムのバイアスは、包摂性のために設計された空間であっても、異常な仮定を微妙に補強することができるか？
コンピュータサイエンティストによると、アルゴリズムのバイアスは、包括的であるとする空間意図に関係なく、実際に異常な仮定を強化することができます。アルゴリズムは、意思決定プロセスに影響を与える無意識のバイアスを持つ可能性がある人々によって作成され、LGBTQ+として識別する人々を含む特定のグループに対する差別につながる可能性があります。