Les experts alertent sur les risques de biais de l'IA sans femmes dans la formation

Les experts mettent en garde contre le risque que les outils d'intelligence artificielle soient non représentatifs et biaisés sans la participation de femmes à leur formation, les équipes majoritairement masculines négligeant souvent l'équilibre des genres dans les données et les sorties.

Karina Gibert, doyenne du Col·legi Oficial d'Enginyeria Informàtica de Catalunya, et Mònica Espinosa, directrice du Centre d'innovation et de compétences de l'Agence catalane de cybersécurité, ont exposé ce point de vue lors d'un événement à l'Auditori MoraBanc. Elles ont argué que l'IA formée sans apport diversifié ne reflète pas équitablement la société.

« Si vous ne l'entraînez pas correctement, l'IA peut présenter des comportements non neutres et des dysfonctionnements », ont noté les intervenantes. Les équipes dominées par les hommes, ont-elles dit, omettent fréquemment d'assurer une représentation adéquate des femmes dans les données de formation ou un fonctionnement égal des outils pour les hommes et les femmes, montrant parfois une faveur pour ces derniers.

La racine du problème réside dans l'éducation et les filières de début de carrière, a expliqué Gibert. « On ne peut pas placer des femmes dans des environnements où il n'y en a pas », a-t-elle dit, appelant à des efforts pour inspirer les filles du primaire et du secondaire vers des carrières technologiques. Peu de femmes sont formées comme professionnelles du secteur, bien que Gibert ait souligné des progrès : à sa faculté, la part d'étudiantes est passée de 5 % il y a six ans à plus de 22 %, grâce à des initiatives ciblées.

L'absence de modèles féminins perpétue le cycle, la faible représentation des femmes dans les postes de direction tech devant persister sans exemples visibles. Gibert et Espinosa incarnent de telles figures, ayant tracé leur chemin dans des environnements exclusivement masculins pour atteindre leurs postes élevés.

Gibert n'exprime aucun regret sur son choix de carrière, motivé par son fort talent en mathématiques. Entrées dans la vie active, elles se sont retrouvées comme les seules femmes dans les salles de décision, voyant souvent les problèmes sous un angle nouveau. « Vous êtes toujours la dame qui est là et qui voit les choses différemment », a décrit Espinosa, ajoutant que même les débats restent challengants en tant que seule femme présente.

Pendant des années, elles se sont senties comme des « dissidentes » nécessaires pour contrer les influences biaisées par les hommes et livrer une technologie juste et éthique.