[En marge] Biais de genre en TAL

Un petit billet “en marge” à l’occasion de la journée internationale des droits des femmes.

On parle souvent du biais d’internet, des systèmes basés sur l’apprentissage automatique, etc.  Mais concrètement, qu’en est-il ? Que cela signifie-t-il ? Je ne me lance pas dans un cours dont je suis très loin d’être experte. Je vous propose donc simplement deux petits exemples édifiants…

Ce matin, un collègue me parlait de travaux autour du biais de genre et d’une petite démonstration de Guillaume Wisniewski qui montrait comment un système de traduction automatique, en partant d’un texte “neutre” (sans genre masculin, féminin) traduisait avec un fort biais de genre : le président et la secrétaire. Si vous voulez en savoir plus, je vous conseille de lire ça :

Guillaume Wisniewski, Lichao Zhou, Nicolas Ballier, and François Yvon. 2021. Biais de genre dans un système de traduction automatiqueneuronale : une étude préliminaire (Gender Bias in Neural Translation : a preliminary study ). In Actes de la 28e Conférence sur le Traitement Automatique des Langues Naturelles. Volume 1 : conférence principale, pages 11–25, Lille, France. ATALA.

De mon côté, j’ai été face à un exemple encore plus frappant. Voulant écrire un message en italien, j’ai utilisé les services de Google translate pour vérifier mon texte. Je n’en dis pas plus et vous laisse découvrir :

  • Étape 1 : je rédige mon brouillon en italien et je le fais traduire vers le français
  • Étape 2 : je corrige le français et je le fais retro-traduire vers l’italien (là, je fais confiance au modèle pour que l’italien en sortie soit correct lexicalement et syntaxiquement ; en revanche, je n’ai jamais fais confiance côté sémantique et pragmatique et… j’ai bien raison !!!)

Texte italien original (rédigé par une non-native)

« Un pensiero per la giornata internazionale dei diritti delle donne. Un pensiero a tutte quelle che sono in difficoltà, private dei loro diritti, vietate di uscire da sole, scartate delle scuole o del mondo, maltrattate, mutilate, scartate dei libri di storia, dimenticate, fatte tacere… Un pensiero a tutte quelle che hanno fatto grande cose! »

⇒ Traduction automatique vers le français ⇒

 

Des deux côtés, en gras, les désinences de genre

Texte français traduit automatiquement

« Une pensée pour la journée internationale des droits des femmes. Une pensée à tous ceux qui sont en difficulté, privés de leurs droits, interdits de sortir seuls, écartés des écoles ou du monde, maltraités, mutilés, écartés des manuels d’histoire, oubliés, réduits au silence… Une pensée à tous ceux qui ont fait de grandes choses ! »

Texte français corrigé

« Une pensée pour la journée internationale des droits des femmes. Une pensée à toutes celles qui sont en difficulté, privées de leurs droits, interdites de sortir seules, écartées des écoles ou du monde, maltraitées, mutilées, écartées des manuels d’histoire, oubliées, réduites au silence… Une pensée à toutes celles qui ont fait de grandes choses et nous inspirent ! »

⇒ Traduction automatique vers l’italien ⇒

Des deux côtés, en gras, les désinences de genre

Texte italien traduit automatiquement

« Un pensiero per la Giornata internazionale della donna. Un pensiero a tutti coloro che sono in difficoltà, privati ​​dei loro diritti, vietati di uscire da soli, esclusi dalle scuole o dal mondo, maltrattati, mutilati, esclusi dai libri di storia, dimenticati, ridotti al silenzio… Un pensiero a tutti coloro che hanno fatto grandi cose e ci ispirano! »

Nous sommes d’accord : le texte perd une énorme partie de son sens en remplaçant « toutes celles qui » par « tous ceux qui ».

Que dire ?!? Qu’il ne faut pas faire une confiance aveugle dans les systèmes de traduction automatique (bon, ça, on le savait déjà ; même s’ils sont déjà incroyablement performants et utiles) ; que les biais de genre (comme tant d’autres) se glissent partout et tout le temps ; mais aussi et surtout qu’il FAUT s’exprimer car, même en étant explicite, on cherchera encore et encore à faire taire le féminin !

AnneGF


Laisser un commentaire

Votre adresse e-mail ne sera pas publiée.

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.