アルゴリズムのバイアスは、アルゴリズムを訓練するために使用されるデータから生じる偏見として定義することができ、予測と決定を通じて同じバイアスを永続させる。近年では、アルゴリズムのバイアスが人々のジェンダーやセクシュアリティに対する認識にオンラインでどのように影響を与えるかについての懸念が高まっています。このエッセイは、アルゴリズムのバイアスがジェンダーとセクシュアリティに関する規範的な仮定を微妙に増幅する方法を検討します、特にオンラインの文脈で日付アプリやソーシャルメディアプラットフォーム。
多くのオンラインサービスは、パーソナライズされた推奨事項やマッチメイキング結果を提供するために、プロファイルや投稿などのユーザー生成コンテンツに大きく依存していることに注意することが重要です。これらのシステムは、ユーザーとプラットフォーム間の電力の不均衡を維持しながら、選択の錯覚を作成するように設計されています。
例えば、ユーザーが出会い系アプリでプロフィールを作成すると、位置、年齢、関心、その他の人口統計的要因に基づいて一連の潜在的なマッチが提示されます。
しかしながら、このプロセスは偏ったデータや古いステレオタイプの影響を受けている可能性があり、従来のカテゴリーに収まらない人には機会が限られています。
オンラインデートにおけるアルゴリズムバイアスの例の1つは、共通の興味に基づいてユーザーを接続するためにマッチングシステムを使用する人気の出会い系プラットフォームであるOkCupidから来ています。Data&Societyの調査によると、OkCupidアルゴリズムは、ユーザーデータの履歴パターンのためにLGBTQ+個人よりも異性愛者カップルを好むことがわかりました。結果として、すべての新しい結婚の半分以上が現在、直接以外のものとして識別する少なくとも1人のパートナーが含まれていますが、cisgenderとして識別しないユーザーは、その人よりも少ない選択肢を提示することができます。
同様に、FacebookとInstagramがユーザーのフィードに表示されるコンテンツを決定するために使用するアルゴリズムは、しばしば疎外されたグループに対して偏っています。
例えば、Nature Communicationsに掲載された研究では、女性は男性よりも減量製品の広告を受け取る可能性が高く、ボディイメージの周りの有害な性別規範を永続させることがわかりました。さらに、研究によると、黒人アメリカ人は白人よりもソーシャルメディアで住宅差別広告を見る可能性が高く、人種の格差が強化されている。これらのタイプのアルゴリズムバイアスは、狭い視点につながり、いくつかのグループに関する否定的なステレオタイプを強化することができます。結論として、多くのオンラインサービスはパーソナライゼーションと選択肢を提供すると主張していますが、実際には、ジェンダーとセクシュアリティに関する確立された規範の外を探索するユーザーの能力を制限する可能性があります。これらのシステムがどのように機能するかを研究することで、その背後にある仮定に挑戦し始め、より包括的な代替案を作成するよう努めることができます。
ユーザーは、自分の個人情報がどのように使用され、共有されているかを知ることも重要です。
アルゴリズムの歪みは、性別やセクシュアリティに関する規範的な仮定をオンラインで微妙に増幅することができますか？
アルゴリズムのバイアスは、人間のバイアスを含むデータセットに基づいて機械学習アルゴリズムによって行われた偏った決定から生じる体系的なエラーとして定義することができます。これらの偏見は、疎外されたコミュニティに意図しない結果をもたらし、差別につながる可能性があります。ソーシャルメディアなどのオンラインプラットフォームの場合、これらのバイアスは、人々がどのように相互作用し、ジェンダーやセクシュアリティに関連するものを含む関係を形成するかに影響を及ぼす可能性があります。