Une reproduction en ligne des stéréotypes ?

Une reproduction en ligne des stéréotypes ? Plongée dans les algorithmes des plateformes en ligne

Par Clara Jean, ingénieure R&D à Epitech et doctorante en sciences économiques à l’Université Paris-Sud. Les résultats de son travail vont être présentés au MIT.

L’informatique moderne est dominée par les hommes, mais cela n’a pas toujours été le cas. Pendant longtemps, les femmes étaient majoritaires dans ces filières, alors considérées comme moins prestigieuses. À partir de 1984, la proportion de femmes dans ces filières stagne puis décline. Cette faible représentation féminine se poursuit actuellement en France, notamment dans l’enseignement supérieur. À l’ère où les réseaux sociaux occupent une place prépondérante auprès des plus jeunes, ces outils peuvent-ils constituer un moyen de véhiculer l’information concernant ces formations afin de permettre un rééquilibrage parmi les effectifs des formations scientifiques ? Ces questions sont adressées à travers le travail de recherche en cours réalisé par Grazia Cecere (IMT, Business School), Clara Jean, Fabrice Le Guel et Matthieu Manant (Université Paris-Sud).

Depuis les années 1980, le nombre d’étudiantes en informatique décline au profit de domaines techniques et professionnels (Henn, S., 2014, « When Women Stopped Coding », National Public Radio). Une tendance qui continue des décennies plus tard avec un taux de filles dans les formations en informatique faible tout comme dans les formations d’ingénieurs. En effet, malgré de meilleurs résultats au baccalauréat que les garçons, seulement 27 % d’entre elles s’orientent vers des formations d’ingénieurs et 5 % se spécialisent en informatique et science numériques en terminale (MENESR, 2018). Les raisons de ce déséquilibre sont nombreuses : démocratisation du micro-ordinateur opérant un changement de la perception du métier de l’informatique, apparition de l’image du ‘geek’, crise de l’informatique en 1990. Cette faible mixité est un frein à l’innovation pour les institutions dispensant ces formations. Ainsi, développer des projets plus créatifs et performants à travers une mixité de genre plus importante est devenu primordial pour les formations post-bac dans ce domaine. Afin d’atteindre cet objectif, les réseaux sociaux peuvent être utilisés pour trouver des candidats. Néanmoins, la pertinence des réseaux sociaux et en particulier de leurs algorithmes reste encore peu étudiée. Outre des préférences individuelles concernant l’orientation qui expliquent en partie ce décalage entre hommes et femmes, les algorithmes sont-ils en mesure d’amener à une mixité plus importante ou effectuent-ils un filtrage de l’information réduisant l’utilité de ces outils pour les entités du secteur STEM (science, technology, engineering, and mathematics) ?

Le rôle des stéréotypes…
La littérature en psychologie a démontré l’existence d’une reproduction des stéréotypes concernant les filières à fortes composantes scientifiques et mathématiques, les STEM. Des stéréotypes qui agissent sur le choix d’orientation des individus. Parmi les acteurs pouvant agir pour une réduction des stéréotypes, on retrouve le corps enseignant. Les enseignants, interlocuteurs directs des élèves dans l’éducation scolaire, apparaissent avoir une influence de plus grande envergure que celles des pairs ou des parents (Kniveton, B.H., 2004, « The influences and motivations on which students base their choice of career », « Research in Education », 72, pp. 47-57). Toutefois, leurs avis ne sont pas les seuls à avoir un impact sur les choix d’orientation des individus. Les algorithmes chargés de la diffusion de la publicité sur les plateformes en ligne peuvent également jouer un rôle sur leur orientation post-bac. Les algorithmes sont implémentés pour une plus grande optimisation et performance de la diffusion du contenu en fonction des données fournies et collectées sur les utilisateurs. Néanmoins, ces algorithmes sont-ils vraiment utiles pour les formations qui s’en servent pour communiquer auprès des jeunes ? La réponse à cette question n’est pas claire.

… renforcé par les algorithmes
Les algorithmes ont un rôle prépondérant concernant le fonctionnement des plateformes quant à la collecte et l’analyse des données personnelles ayant pour but de fournir un service plus performant à leurs utilisateurs. Ainsi, les algorithmes réalisent une « clusterisation » des données captées pour permettre une meilleure correspondance entre les services proposés par la plateforme et les intérêts des individus. Mais cette procédure peut donner lieu à des résultats inattendus. En effet, entraînés sur des bases de données elles-mêmes biaisées, les algorithmes rendent parfois difficile l’interprétation des résultats qu’ils proposent à travers ce qui apparaît comme une reproduction en ligne des stéréotypes (Cf. Lambrecht et Tucker, 2018 ; Datta et al., 2015 ; Sweeney, 2013). Des résultats qui soulèvent l’interrogation des chercheurs à travers la conduite de travaux empiriques.

Dans le cadre d’une campagne publicitaire lancée en 2017 pour une école d’informatique sur un réseau social, cette étude, financée par l’association Pascaline, fournit des résultats paradoxaux. Premièrement, la publicité fut moins affichée aux filles présentes sur le réseau social qu’aux garçons. Deuxièmement, ce résultat ne peut être expliqué par une logique de clics puisque les filles ont une probabilité plus élevée que les garçons de cliquer sur la publicité, suggérant ainsi un plus grand intérêt pour ce type de contenu. Quels sont alors les critères de décision de l’algorithme induisant ce résultat ?

L’opacité technologique en jeu
Les réponses à ces questions sont pour l’instant difficiles à déterminer du fait de la non-transparence de cette technologie. Néanmoins, cette étude souligne le rôle des plateformes et de leurs algorithmes dans la diffusion de l’information. Les jeunes, population prédominante sur ces réseaux, mais aussi vulnérable, utilisent non seulement ces plateformes à des fins de communication, mais également comme une source d’information. Ainsi, il est important que l’information diffusée par les algorithmes de plateformes ne soit pas sujette à une diffusion stéréotypée. Par conséquent, une meilleure compréhension des algorithmes de plateformes à travers la réalisation de travaux de recherche est importante. Cela est d’autant plus important que l’école Epitech est directement impactée par cette problématique de faible mixité. En effet, Epitech compte uniquement 4 % de filles et n’échappe pas aux problématiques d’innovations que le manque de mixité soulève. Afin d’atteindre plus d’étudiants, et en particulier des filles, l’école communique via de nombreux canaux dont les réseaux sociaux. Toutefois, l’utilité de ce canal quant à l’atteinte de ses objectifs est difficile à établir. Outre une volonté de diversifier ses effectifs, Epitech pense qu’investir dans la recherche est un moyen d’obtenir des réponses quant à ces problématiques de faible mixité et d’innovations (Clara Jean a pour rôle d’étudier les plateformes et leurs algorithmes afin d’en apprendre davantage sur leur fonctionnement. Elle s’intéresse également à la production d’innovation responsable, une thématique d’importance majeure pour Epitech, dont les étudiants en sont les principaux acteurs).