Une enquête interne a révélé que l'algorithme de Twitter qui recadre les photos est biaisé en faveur des personnes blanches et des femmes.
Photo : Associated Press / Matt Rourke
Le réseau social Twitter a établi que son algorithme qui recadre les photos était légèrement biaisé en faveur des personnes blanches et des femmes et préfère désormais se passer de cette technologie automatisée.
Les algorithmes ne conviennent pas à tout ce qui est sur Twitter
, note le réseau social dans un billet de blogue mercredi. Il vaut mieux que les internautes décident de comment cadrer une image.
La plateforme, qui a lancé des travaux pour rendre ses systèmes d'intelligence artificielle plus éthiques, a enquêté sur les biais perçus par les utilisateurs et utilisatrices.
L'algorithme, mis en service en 2018, est conçu pour recadrer les images en fonction de ce qu'il considère comme prépondérant, afin de réduire leur taille et ainsi moins encombrer le fil de gazouillis.
Biais raciaux et sexistes
Des gens sur Twitter ont observé des cas où notre programme a choisi des personnes blanches plutôt que noires
, explique Rumman Chowdhury, directrice du logiciel.
Nous avons testé notre système sur une large base de données pour déterminer s'il y avait un problème.
L'équipe de recherche du groupe a trouvé qu'il y avait une différence de 4 % en faveur des personnes blanches en général, et de 7 % en faveur des femmes blanches par opposition aux femmes noires. La comparaison entre les hommes et les femmes en général a révélé un écart de 8 % en faveur des femmes.
La société établie à San Francisco a aussi cherché un possible biais dit de regard masculin
, au sens où l'algorithme choisirait la poitrine ou les jambes d'une femme au lieu de son visage. Mais seulement 3 % des photos testées ont été recadrées en dehors de la tête des personnes, et sur des éléments non physiques, comme un chiffre sur un maillot sportif.
Nous n'avons pas trouvé de preuves d'un biais d'objectification.
Le réseau social a testé en mars une nouvelle façon d'afficher les images sans les recadrer et a ensuite étendu l'outil partout dans le monde pour permettre aux internautes de voir à quoi ressemblent leurs gazouillis avant de les publier.
Cela réduit notre dépendance à l'apprentissage machine pour une tâche que nos utilisateurs et utilisatrices sont à même de réaliser
, a-t-elle ajouté.
Twitter remise un algorithme de recadrage de photos qui avait un biais racial - ICI.Radio-Canada.ca
Read More
No comments:
Post a Comment