Seulement 12 % des chercheurs en apprentissage automatique sont des femmes, une statistique inquiétante pour un domaine censé remodeler la société. Les grandes entreprises de technologie s’accordent à dire que l’intelligence artificielle est l’avenir. Apple, Facebook, Amazon et Google disent que chaque aspect de notre vie sera bientôt transformé par l’intelligence artificielle et l’apprentissage automatique, grâce à des innovations telles que les voitures autonomes et la reconnaissance faciale.
Pourtant, les personnes dont le travail sous-tend cette vision ne ressemblent pas beaucoup à la société que leurs inventions sont censées transformer. Selon une étude récente, seulement 12 % des personnes travaillent dans le secteur sont des femmes. C’est un pourcentage encore faible. Le plan Villani vise en outre à ce que 40 % des étudiantes dans le domaine du digital soient des femmes.
Faible participation des femmes
Le nombre de femmes dans le secteur est relativement faible, et cela ne date pas d’hier. Seulement 30 % de femmes travaillaient dans le secteur de l’informatique jusque dans les années 70. La Seconde Guerre mondiale a changé les choses, car on a assisté à la création de nouveaux métiers qui ont été ouverts aux femmes.
Au fil des années, les femmes ont occupé des postes stratégiques dans le domaine de la programmation. D’ailleurs, on peut même trouver des femmes dans le domaine de la recherche scientifique. Toutefois, il y a eu un revirement dans les années 1980. Et jusqu’à aujourd’hui, le secteur de l’IA est dominé par les hommes.
Les algorithmes et les femmes ne font-ils pas bon ménage ?
Même si la première personne à avoir écrit un algorithme était une femme au 19e siècle, l’intelligence artificielle peut maintenant être discriminatoire à l’égard des femmes. Deux siècles après le premier exemple, les algorithmes ont la capacité de nous faire reculer de plusieurs décennies en matière de parité des sexes. L’intelligence artificielle apprend des données mises à disposition, et la plupart sont biaisées.
Le problème est que les machines apprennent des données des 10 à 20 dernières années qui peuvent reproduire à leur insu des préjugés du passé. De plus, sans incorporer des avancées sociales plus récentes concernant le genre et les attitudes, le langage utilisé dans les données peuvent perpétuer des stéréotypes obsolètes.
Comment les algorithmes discriminent-ils les femmes ?
L’IA et d’autres technologiques algorithmiques façonnent désormais nos vies de manière à la fois significative et banale. On comprend rarement cela parce que la technologie nous est invisible et que son fonctionnement n’est pas du tout transparent. Ces systèmes d’algorithmes déterminent, par exemple, qui a accès aux ressources et avantages importants.
L’un des cas de discrimination les plus connus sur la base de l’utilisation de l’IA a été la tentative d’Amazon d’automatiser son système de recrutement. Les modèles informatiques d’Amazon ont été formés pour contrôler les candidats en examinant les modèles de CV soumis au cours des dix années précédentes. Cependant, étant donné qu’il s’agit d’une industrie dominée par les hommes, la plupart des CV étaient des hommes, créant un biais d’apprentissage automatique qui a favorisé les candidats masculins.
Comment surmonter cette situation ?
Les nouveaux règlements de l’UE pour le développement de l’IA indiquent une prise de conscience croissante. C’est une question que la Commission européenne promeut. Cependant, cela peut prendre des années.
Pour que cela se produise, les équipes multidisciplines doivent être impliquées, avec les perspectives des hommes et des femmes représentés dans les équipes. Les algorithmes pourraient également aider à lutter contre la discrimination, y compris le sexisme dans les processus de recrutement. Une machine pourrait être plus impartiale qu’un humain lors de la sélection des candidats.
