Journée internationale des droits des femmes
En ce 8 mars, un chercheur et une chercheuse FNRS nous éclairent sur les progrès, défis et menaces en matière de droits des femmes. Ils nous expliquent aussi comment leur propre recherche peut changer la donne. Ljupcho Grozdanovski est Chercheur qualifié FNRS en droit à l’ULiège et s’intéresse aux biais dans l’IA ; Leila Fery est Aspirante FNRS à l’ULB et spécialisée en étude de genre.
Détecter les discriminations algorithmiques
Ljupcho Grozdanovski, Chercheur qualifié FNRS, ULiège
Quelle place l'égalité des genres occupe-t-elle dans vos travaux de recherche ?
Féministe convaincu (comme toute personne raisonnable), je mène des recherches sur l’Intelligence artificielle (IA), domaine dans lequel la question des biais est centrale. Dès lors que l’utilisation des systèmes d’IA est de plus en plus normalisée, on peut anticiper des instances où la prise de décisions est partiellement ou entièrement automatisée (avec peu ou pas de contrôle humain effectif) ce qui augmente le risque que ces décisions soient biaisées à l’égard de personnes « vulnérables » comme les mineurs et les femmes. L’un des sujets amplement débattus en doctrine a été celui des techniques de débiaisage de l’IA et de l’adaptation des régimes juridiques afin que des cas de discrimination dite algorithmique puissent être détectés et sanctionnés. Plusieurs de mes travaux portent, ainsi, sur les moyens juridiques qui peuvent ou doivent être déployés afin d’éviter des discriminations contre les femmes, notamment à l’accès à l’emploi.
Concrètement, qu’est-ce que cela signifie ?
En 2019-20 je me suis intéressé à l'effet des IAs sur les conditions d’accès à l’emploi. Dans cet esprit, je me suis rendu compte du risque que l’IA exacerbe les biais dits résiduels, c’est-à-dire qui caractérisent historiquement les pratiques d’embauche, le biais topique à cet égard étant que les femmes sont moins performantes que les hommes.
La principale question dans mes travaux en lien avec cette question a été sur la possibilité de reconnaître un droit d’accès aux preuves qui pourrait – ou devrait – être reconnu lorsque les recrutements sont faits au moyen de systèmes d’IA opaques et possiblement biaisés à considérer qu’un travailleur efficace est, en substance, un homme cis et blanc.
Dans un article paru dans la Common Market Law Review (2021) j’ai suggéré qu’un droit d’accès aux preuves soit reconnu par une lecture combinée du RGPD (art. 22) et les dispositions du droit de l’UE relatives à la lutte contre les discriminations. La directive sur la responsabilité du fait des produits défectueux (2024), récemment révisée, prévoit désormais, à son article 9, un droit pour les victimes de demander la divulgation de preuves. En reconnaissant ce droit, ladite directive complète l’article 86 du règlement européen sur l’IA qui reconnaît le droit à l’explication de décisions automatisées individuelles.
Dans mes travaux plus récents, ainsi que dans mes travaux futurs, je m’intéresse aux moyens de mieux opérationnaliser l’accès aux informations pour les victimes de discriminations fondées sur le sexe/genre, mais pas uniquement. À cette fin, et en m’inspirant de la jurisprudence émergente sur les discriminations dites algorithmiques, j’essaie de clarifier les besoins concrets des victimes visant à connaître certaines informations liées au traitement automatisé de leurs données. C’est le cas dans cet article paru dans l’International Journal of Law, Ethics and Technology (2024. Dans un esprit similaire, dans le cadre du PDR-FNRS (KNOW.THY.AI, accordé en 2024), on envisage de lancer une consultation publique en Belgique, en France, en Allemagne, aux Pays-Bas et en l’Italie, afin de clarifier davantage les besoins d’information que j’ai évoqués, me permettant d’in fine proposer un modèle de justice ‘algorithmique’ fondé sur la transparence informationnelle effective et non pas déclarative.
De manière plus générale, comment la recherche fondamentale peut-elle contribuer à l’égalité de genre ?
D’abord, par une plus grande inclusivité des chercheuses dans des secteurs historiquement considérés comme « masculins » l’exemple souvent cité à ce titre étant celui des sciences dites dures (physique, informatique, mathématique etc).
Il faudrait, ensuite, réaliser davantage de recherches, notamment dans les sciences sociales, qui examinent comment les stéréotypes liés aux genres déterminent les opportunités, l'éducation à l'avancement professionnel. Les recherches récentes dans le domaine des nouvelles technologies sont marquées par un relatif renouveau de l’intérêt des préjugés inconscients et donc, invisibles mais bien présents, notamment au niveau de l’accès à l’emploi.
Enfin, les chercheuses et chercheurs ont une responsabilité dans la lutte active contre le retour de stéréotypes moyenâgeux visant les femmes. Les développements politiques aux Etats-Unis concernant la restriction du droit à l’avortement sont alarmants. Nous devons donc proposer des solutions fondées sur des données empiriques. En tant que chercheuses/chercheurs, nous avons la responsabilité d’être « la voix de la raison (scientifique) » aux côtés des législateurs, afin que les réglementations en vigueur et à venir puissent faire appliquer le principe d’égalité de manière - réellement - effective.
Lutter contre les réactions hostiles
Leila Fery, Aspirante FNRS, ULB
Comment la recherche fondamentale peut-elle contribuer à l'égalité de genre ?
La recherche fondamentale peut permettre de mieux comprendre les inégalités de genre, notamment en identifiant les facteurs sous-jacents qui perpétuent les discriminations et en analysant leurs conséquences. Néanmoins, elle n’est pas suffisante pour voir advenir un changement dans la société. C’est pourquoi il est, selon moi, primordial de créer des ponts entre les mondes académiques, associatif et politique.
Quel impact les décisions américaines visant à interdire une liste de mots liés à la diversité et au genre dans les programmes de recherche ont ou auront-elles sur les droits des femmes et sur la recherche relative à cette problématique ?
Tout d’abord, je voudrais rappeler que la sociologie n’est pas prospective. Ce n’est pas notre rôle. Ensuite, l’élimination de ces mots s’applique actuellement aux centres de recherche liés au pouvoir fédéral étatsunien. C’est une attaque brutale et directe contre des champs de recherche. Il est important de souligner que les sciences sociales ne sont pas les seules concernées. Par exemple, dans le domaine médical, il ne sera plus possible de tenir compte des conséquences genrées d’une maladie ou de comprendre en quoi le changement climatique impacte différemment les femmes et les hommes. Il s’agit d’une éradication pure et simple de toute production de savoir sur les sujets liés au genre, et plus largement aux minorités et donc à l’équité. Je souhaite également souligner que les politiques de diversité, équité et inclusion (DEI) sont aussi touchées. Cela signifie très concrètement une suppression des mécanismes d’action positive. Appliquée au domaine de la recherche, il s’agit, par exemple, d’abroger des mentorats spécifiques pour que les femmes chercheuses obtiennent des postes dans le milieu académique. Cette décision se fait sous volet d’un faux argument de méritocratie, qui revient à supprimer toutes possibilités de soutenir la carrière scientifique des femmes et plus largement de toutes les personnes minorisées.
Selon vous, quels sont les défis à venir pour les droits des femmes ?
Selon moi, un défi important qui se pose est celui des hommes et des masculinités. En effet, l’écart en matière d’idées progressistes se creuse entre femmes et hommes. Des politiques publiques ont été menées ces dernières décennies dans le but de réduire les inégalités de genre mais principalement en se concentrant sur les femmes. Il est désormais crucial d’accompagner les hommes dans ce changement pour éviter des réactions hostiles, masculinistes ou antiféministes. Par exemple, le récent procès dit « des viols de Mazan » a remis sur le devant de la scène de façon spectaculaire que les violences sexistes et sexuelles sont perpétrées par des hommes de tout âge et issus tous les milieux socio-économiques mais aussi que différents représentants des institutions médicales et judiciaires n’étaient pas suffisamment formés sur ces questions. Certes, cet exemple est emblématique mais il est important de rappeler que les violences sexistes et sexuelles font partie d’un continuum et que nous sommes tous et toutes concernés. Selon moi, il est important que ce travail auprès des hommes et des garçons soit pris en charge de façon collective. Il peut passer par de l’éducation dans les milieux scolaires mais aussi de l’éducation permanente. Il existe d’ailleurs déjà des associations qui réalisent ce travail de réflexion autour des masculinités mais elles sont encore peu nombreuses.