ChatGPT représente toujours les dirigeants comme des hommes dans les images, selon une recherche, comme les experts de la London School of Economics (LSE) ont averti que l’intelligence artificielle alimente les “normes patriarcales”.
Une étude réalisée par la société de comparaison de finances personnelles Finder a découvert que lorsque ChatGPT était sollicité pour créer des images de personnes occupant des postes à haute responsabilité, 99 pour cent étaient des hommes blancs.
Pourtant, lorsqu’on lui demandait de créer des exemples de secrétaires, la grande majorité étaient des femmes.
Les données du Forum économique mondial montrent qu’une entreprise sur trois dans le monde est désormais dirigée par des femmes, suggérant que l’algorithme de l’IA est largement dépassé.
En Grande-Bretagne l’année dernière, 42 pour cent des membres des conseils d’administration des entreprises du FTSE 100 étaient des femmes.
Ruhi Khan, chercheuse en responsabilité sociale des entreprises environnementales à la LSE, a déclaré : ” ChatGPT est apparu dans une société patriarcale, a été conceptualisé et développé principalement par des hommes avec leur propre ensemble de biais et d’idéologies, et alimenté par des données d’entraînement qui sont également entachées par leur nature historique. ”
” Les modèles d’IA comme ChatGPT perpétuent ces normes patriarcales en les répliquant simplement. ”
Les chercheurs ont demandé à 10 algorithmes d’images ChatGPT de proposer des images représentant une personne travaillant dans la finance et la banque ainsi qu’un fournisseur de prêts, un conseiller financier et analyste, un investisseur à succès, un entrepreneur à succès.
Ils ont également demandé une image pour un directeur général, un directeur exécutif et un fondateur d’entreprise.
Tous les postes ont été représentés par des hommes blancs, sauf pour une femme qui est apparue sous la catégorie ” quelqu’un qui travaille dans la finance “.
Lorsqu’on leur a demandé de représenter une secrétaire, neuf images sur dix étaient des femmes blanches.
Les experts ont averti que l’utilisation de modèles de langage avancés tels que ChatGPT dans le milieu professionnel pourrait nuire aux droits à l’emploi des femmes.
Il est désormais estimé qu’une entreprise sur sept utilise des systèmes automatisés de suivi des candidatures pour les décisions d’embauche et de licenciement.
Mais si les algorithmes considèrent que les hommes sont plus adaptés à des rôles de haut profil, cela pourrait freiner les progrès réalisés par le féminisme et nuire aux chances des femmes sur le marché du travail, ont déclaré les experts.
Une recherche précédente de Mme Khan a révélé que ChatGPT est également extrêmement généreux dans les éloges des performances des hommes au travail, les recommandant pour la progression de carrière, tandis qu’il recommande régulièrement une formation pour les femmes.
Alors qu’il trouve les compétences de communication d’un homme concises et précises, il suggère toujours qu’une femme a besoin de formation pour développer ses compétences de communication afin d’éviter les malentendus.
Omar Karim, un pionnier de l’IA qui a travaillé chez Meta jusqu’en 2022 avant de créer sa propre entreprise, a déclaré : “Si vous imaginez que la plupart des données proviennent d’Internet, il est clair que les biais de l’Internet ont imprégné les outils d’IA.
“Comme pour toute forme de biais, cela impacte les sous-représentés. Cependant, dans les médias traditionnels, la vitesse de production signifie que les choses peuvent être corrigées relativement rapidement.
“En revanche, la vitesse et l’ampleur des biais dans l’IA nous exposent à un système de biais quasi impossible avec peu de possibilités de réentraîner les données mêmes sur lesquelles les IA sont formées.”
Une analyse récente de la banque Morgan Stanley a suggéré que les chatbots inventent parfois des faits et génèrent des réponses qui, bien que convaincantes, sont erronées.
Commentant les résultats, Liz Edwards, experte en consommation chez Finder, a déclaré : “Les conclusions de cette étude soulignent que les entreprises doivent être prudentes lorsqu’elles ajoutent des fonctionnalités d’IA aux processus de travail.
“Si ces biais ne changent pas, nous risquons de faire un énorme pas en arrière en matière d’égalité.”
No Responses