crédit photo : Geralt de Pixabay
Si l’intelligence artificielle est souvent présentée comme un outil objectif, de nombreux exemples démontrent qu’elle reproduit, voire accentue, les inégalités existantes entre les sexes.
Qu’on veuille ou non l’admettre, les biais algorithmiques y sont bien présents et ont des conséquences bien réelles. Les technologies de reconnaissance faciale en sont un exemple frappant. Plusieurs études montrent que ces technologies sont moins précises lorsqu’elles analysent des visages féminins, ce qui augmente les risques d’erreurs d’identification, de fausses accusations ou de surveillance injustifiée. Ces biais sont généralement involontaires et résultent de jeux de données insuffisamment représentatifs ou de modèles d’entraînement déséquilibrés.
On sait aussi que certaines utilisations de l’intelligence artificielle sont délibérément malveillantes. Les « deepfakes », ces images ou vidéos générées par IA, sont de plus en plus utilisées pour harceler, humilier ou discréditer des femmes. Les deepfakes pornographiques non consensuels illustrent particulièrement cette dérive : ils représentent aujourd’hui 96 % des deepfakes diffusés en ligne, et 99,9 % des personnes visées sont des femmes. Les conséquences peuvent être dévastatrices, tant sur le plan psychologique que social et professionnel. Les victimes doivent souvent faire face à une atteinte durable à leur réputation, à des répercussions émotionnelles importantes et à des démarches judiciaires longues et coûteuses pour tenter de faire retirer ces contenus.
Ces risques sont encore plus marqués lorsqu’ils se combinent à d’autres formes de discrimination. L’approche intersectionnelle montre en effet que les personnes appartenant à plusieurs groupes marginalisés sont davantage exposées aux violences numériques. Les femmes racisées, notamment les femmes noires, subissent plus fréquemment des attaques en ligne que les femmes blanches. Une étude menée en 2017 sur Twitter, aujourd’hui X, a ainsi révélé que les femmes racisées avaient 34 % de risques supplémentaires d’être mentionnées dans des messages injurieux ou problématiques.
Des études illustrent que l’IA contribue à des biais sexistes quand il s’agit des grands modèles de langages qui associent « encore fréquemment les femmes à la sphère domestique, à la famille ou aux soins, tandis que les hommes sont davantage liés au leadership, aux affaires et à la réussite professionnelle. Dans certains cas, ces systèmes ont produit des réponses présentant les femmes comme des objets sexuels ou comme subordonnées aux hommes. »
Selon l’ONU, ce problème reflète des tendances structurelles à intégrer les questions de genres dans les stratégies nationales en matière d’IA. Sur 138 pays étudiés, seuls 24 se sont penchés sur cet aspect et seuls 18 pays « prévoient des mesures concrètes prenant en compte l’égalité entre les femmes et les hommes ».
Bien sûr, il faut aussi noter que les biais de l’IA sont aussi un reflet du fait que les femmes continuent à avoir une très faible représentation dans les secteurs qui développent ces technologies : « Selon l’Organisation internationale du Travail (OIT), les femmes représentent seulement 30 % de la main-d’œuvre mondiale dans le secteur de l’IA. »
L’IA a aussi des conséquences économiques qui impactent les femmes de façon disproportionnée, car les femmes sont presque deux fois plus susceptibles que les hommes d’occuper des emplois fortement exposés au risque d’automatisation.
Heureusement, il existe des initiatives pour des projets fondés sur une approche féministe de l’IA. Cela inclut entre autres une application mobile aux Philippines qui aide à trouver des itinéraires sécurisés pour les femmes et les personnes LGBTQ+ pour se déplacer d’un point A à un point B; un logiciel basé sur l’IA qui vise à aider les tribunaux pénaux en Amérique latine à receuillir et à rendre disponibles des données sur la violence basée sur le genre.
On y trouve aussi ces petites perles:
Au Canada, on retrouve:
Ces exemples démontrent que l’intelligence artificielle n’est pas vouée à reproduire les inégalités. Lorsqu’elle est conçue de manière responsable et inclusive, elle peut au contraire devenir un puissant levier pour repérer les biais, favoriser une meilleure représentation et améliorer l’accès aux services pour les populations longtemps laissées de côté.
Mais cette promesse ne se concrétisera que si les milieux académiques, les entreprises privées et les institutions gouvernementales travaillent ensemble et placent l’égalité au cœur du développement de ces technologies avant qu’il soit trop tard.
