Les plateformes de médias sociaux modernes mettent de plus en plus en œuvre des recommandations pour les utilisateurs à suivre lors de la publication de contenu en ligne. Cette politique couvre des sujets tels que la nudité, la violence, l'incitation à la haine, l'intimidation, le harcèlement, la discrimination et bien plus encore. Bien que ces règles puissent sembler raisonnables pour certains utilisateurs, d'autres affirment qu'elles étouffent la liberté d'expression et limitent la créativité. Ces dernières années, la censure de certains types de contenu a augmenté en raison des pressions des gouvernements et de la résonance publique. Cela a suscité un débat sur la puissance que les plateformes numériques devraient avoir sur ce qui est autorisé en ligne. L'apparition d'algorithmes d'intelligence artificielle utilisés pour modérer le contenu a également suscité des inquiétudes sur les préjugés et la vie privée.
Reste la question: qui doit décider quel est le contenu acceptable? Beaucoup de gens pensent que les communautés marginalisées méritent d'être protégées contre les propos nuisibles sur Internet, tandis que d'autres pensent que leurs droits d'expression doivent être préservés malgré tout. Il n'y a rien de nouveau dans cette tension entre la morale et l'expression privée, mais elle se complique lorsque la technologie entre en jeu. Les plateformes numériques peuvent facilement suivre le comportement des utilisateurs grâce à la collecte et à l'analyse de données, ce qui leur permet d'interdire ou de supprimer le contenu sans donner aux utilisateurs un avertissement ou une explication équitable. Certains craignent que ce pouvoir ne conduise à un contrôle accru de l'information et des idées.
Un exemple est la décision de Tumblr d'interdire tout contenu pour adultes en décembre 2018. La plateforme a longtemps été connue pour son ouverture à la sexualité, et de nombreux participants l'ont utilisée comme un espace sûr pour explorer leur personnalité et partager leurs expériences intimes.
Face à l'attention accrue des annonceurs et des investisseurs, la société a décidé de resserrer ses règles pour rester à flot financièrement. Cette mesure a scandalisé de nombreux utilisateurs qui ont senti que leurs voix étaient réduites au silence. D'autres l'ont jugé nécessaire, compte tenu des dommages que des images et des vidéos explicites peuvent causer aux populations vulnérables, comme les enfants ou les victimes de mauvais traitements.
Un autre problème se pose autour de la façon dont la politique de la plateforme affecte les groupes minoritaires.
Twitter a été critiqué pour la suspension de comptes appartenant à des militants noirs, tout en laissant la rhétorique de la supériorité de la race blanche non touchée. Ces incidents mettent en lumière le racisme systémique et les préjugés dans les espaces numériques où les décisions sont prises par des employés dominés par la majorité.
Certains affirment que la culture queer est souvent censurée en raison de sa concentration sur le sexe et la recherche sexuelle, la marginalisation accrue des personnes LGBTQ + qui sont déjà victimes de discrimination en dehors d'Internet.
Le débat autour de la modération et de la politique numériques se poursuit alors que la société maîtrise de nouvelles façons de s'exprimer sur Internet. Si la protection des personnes vulnérables doit toujours être une priorité, nous devons également tenir compte de l'impact de ces mesures sur la créativité et la diversité culturelle. Il faudra du temps pour trouver un équilibre entre expression personnelle et normes sociales qui permette à chacun de se sentir entendu sans censure ni répression.
Comment la modération du contenu numérique et la politique de plateforme reflètent-elles les tensions sociales entre l'expression privée, la morale et le pouvoir sur les communautés marginalisées ?
Dans le monde d'aujourd'hui, où l'échange d'informations se fait via les plateformes de médias sociaux avec facilité, il y a plusieurs problèmes qui se posent quand il s'agit de contrôler ce que les gens publient sur ces forums. Alors que certains pays ont des lois sur la censure des contenus Internet considérés comme immoraux ou offensants, d'autres autorisent la liberté d'expression.