ChatGPT, le chatbot d’intelligence artificielle (IA) qui peut faire croire aux utilisateurs qu’ils parlent à un humain, est la nouvelle technologie qui fait sensation sur internet. C’est également le dernier exemple du potentiel de biais inhérent à certaines IA.
Développé par la société OpenAI, ChatGPT — un transformateur pré-entraîné génératif (GPT) — est une application d’un grand modèle de langage. Ces modèles sont nourris d’énormes quantités de texte et de données sur internet, qu’ils utilisent pour prédire la séquence de mots la plus probable en réponse à une sollicitation. ChatGPT peut répondre à des questions, expliquer des sujets complexes, et même aider à écrire du code, des emails, et des dissertations.
Cependant, les réponses fournies par des outils comme ChatGPT peuvent ne pas être aussi neutres que de nombreux utilisateurs pourraient l’espérer. Le PDG d’OpenAI, Sam Altman, a reconnu le mois dernier que ChatGPT a des “lacunes en matière de biais.”
Des systèmes comme ChatGPT ont produit des résultats qui sont non-sensiques, factuellement incorrects — voire sexistes, racistes ou autrement offensants. Ces résultats négatifs n’ont pas choqué Timnit Gebru, la fondatrice et directrice exécutive de l’Institut de Recherche en Intelligence Artificielle Distribuée.
Le nouveau monde des chatbots IA comme ChatGPT
Les recherches de Gebru ont mis en évidence les pièges de la formation des applications d’intelligence artificielle avec des montagnes de données indistinctes provenant d’Internet. En 2020, elle a co-rédigé un article soulignant les risques de certains systèmes d’IA. Cette publication, a-t-elle dit, l’a conduite à être forcée de quitter son poste de co-responsable de l’équipe d’éthique de l’IA chez Google.
Comme l’a expliqué Gebru, les gens peuvent supposer que, parce que l’internet regorge de textes et de données, les systèmes formés sur ces données doivent donc coder divers points de vue.
“Et ce que nous soutenons, c’est que la taille ne garantit pas la diversité,” a dit Gebru.
Au lieu de cela, elle soutient qu’il existe de nombreuses façons dont les données sur Internet peuvent renforcer les biais, à commencer par qui a accès à Internet et qui n’y a pas accès. De plus, les femmes et les personnes appartenant à des groupes sous-représentés sont plus susceptibles d’être harcelées et intimidées en ligne, les amenant à passer moins de temps sur Internet, a dit Gebru. À leur tour, ces perspectives sont moins représentées dans les données que les grands modèles de langage codent.
“Le texte que vous utilisez d’Internet pour former ces modèles va coder les personnes qui restent en ligne, qui ne sont pas chassées par le harcèlement – toutes les choses sexistes et racistes qui sont sur Internet, toutes les vues hégémoniques qui sont sur Internet,” a dit Gebru. “Donc, nous n’étions pas surpris de voir des sorties racistes, sexistes, homophobes, validistes, etc.”
Pour lutter contre cela, Gebru a dit que des entreprises et des groupes de recherche développent des détecteurs de toxicité qui ressemblent aux plateformes de médias sociaux qui font de la modération de contenu. Cette tâche revient finalement aux humains qui forment le système à reconnaître le contenu nuisible.
Pour Gebru, cette approche morcelée — retirer le contenu nuisible au fur et à mesure qu’il apparaît — est comme jouer à un jeu de taupes. Elle pense que la manière de gérer les systèmes d’intelligence artificielle comme ceux-ci à l’avenir est de construire une supervision et une régulation.
“Je pense vraiment qu’il devrait y avoir une agence qui nous aide à nous assurer que certains de ces systèmes sont sûrs, qu’ils ne nous nuisent pas, qu’ils sont réellement bénéfiques, vous savez ?” a dit Gebru. “Il devrait y avoir une sorte de supervision. Je ne vois aucune raison pour laquelle cette industrie serait traitée si différemment de tout le reste.”
Depuis le lancement de ChatGPT en novembre dernier, les conservateurs ont également accusé le chatbot d’être biaisé — contre les conservateurs. En janvier, un article de National Review a déclaré que le chatbot était devenu “woke”. Il citait des exemples, y compris un utilisateur demandant au bot de générer une histoire dans laquelle l’ancien Président Donald Trump battait le Président Joe Biden lors d’un débat présidentiel, et le refus du bot d’écrire une histoire sur pourquoi l’heure du conte de drag queen est mauvaise pour les enfants.
Le fabricant de ChatGPT, OpenAI, a déclaré qu’ils travaillaient à réduire les biais du chatbot et permettraient aux utilisateurs de personnaliser son comportement.
“Nous travaillons toujours à améliorer la clarté de ces directives [sur les sujets politiques et controversés]”, a écrit l’entreprise dans un billet de blog le mois dernier, “et en fonction de ce que nous avons appris depuis le lancement de ChatGPT jusqu’à présent, nous allons fournir des instructions plus claires aux évaluateurs concernant les pièges potentiels et les défis liés aux biais, ainsi qu’aux figures et thèmes controversés.”
No Responses