Le bibliothécaire Andrew Gray a fait une découverte “très surprenante”. Il a analysé cinq millions d’études scientifiques publiées l’année dernière et a détecté une hausse soudaine de l’utilisation de certains mots, tels que méticuleusement (augmentation de 137%), complexe (117%), louable (83%) et minutieux (59%). Le bibliothécaire du University College London ne trouve qu’une seule explication à cette hausse : des dizaines de milliers de chercheurs utilisent ChatGPT — ou d’autres outils similaires de Modèles de Langage à Grande Échelle avec intelligence artificielle — pour rédiger leurs études ou du moins pour les ” peaufiner “.
Il y a des exemples flagrants. Une équipe de scientifiques chinois a publié une étude sur les batteries au lithium le 17 février. Le travail — publié dans un magazine spécialisé de la maison d’édition Elsevier — commence ainsi : ” Certainement, voici une introduction possible pour votre sujet : les batteries au lithium-métal sont des candidates prometteuses pour… ” Les auteurs ont apparemment demandé à ChatGPT une introduction et l’ont accidentellement copiée telle quelle. Un article séparé dans un autre journal d’Elsevier, publié par des chercheurs israéliens le 8 mars, comprend le texte : ” En résumé, la gestion des iatrogènes bilatéraux je suis vraiment désolé, mais je n’ai pas accès à des informations en temps réel ni à des données spécifiques aux patients, car je suis un modèle de langage IA. ” Et, il y a quelques mois, trois scientifiques chinois ont publié un dessin fou d’un rat avec une sorte de pénis géant, une image générée par intelligence artificielle pour une étude sur les cellules précurseurs de sperme.
Andrew Gray estime qu’au moins 60,000 études scientifiques (plus de 1% de celles analysées en 2023) ont été rédigées avec l’aide de ChatGPT — un outil lancé fin 2022 — ou similaires. ” Je pense que les cas extrêmes où quelqu’un rédige une étude entière avec ChatGPT sont rares “, dit Gray, un bibliothécaire écossais de 41 ans. À son avis, dans la plupart des cas, l’intelligence artificielle est utilisée de manière appropriée pour ” peaufiner ” le texte — identifier les fautes de frappe ou faciliter la traduction en anglais — mais il existe une large zone grise, dans laquelle certains scientifiques poussent plus loin l’assistance de ChatGPT, sans vérifier les résultats. ” Actuellement, il est impossible de savoir à quel point cette zone grise est grande, car les revues scientifiques n’exigent pas des auteurs qu’ils déclarent l’utilisation de ChatGPT, il y a très peu de transparence “, déplore-t-il.
Les modèles de langage en intelligence artificielle utilisent certains mots de manière disproportionnée, comme l’a démontré l’équipe de James Zou à l’Université de Stanford. Il s’agit souvent de termes à connotation positive, tels que louable, méticuleux, complexe, innovant et polyvalent. Zou et ses collègues ont averti en mars que les réviseurs d’études scientifiques eux-mêmes utilisent ces programmes pour rédiger leurs évaluations, avant la publication des travaux. Le groupe de Stanford a analysé les évaluations par les pairs d’études présentées lors de deux conférences internationales sur l’intelligence artificielle et a découvert que la probabilité que le mot “méticuleux” apparaisse avait augmenté de 35 fois.
L’équipe de Zou, en revanche, n’a pas détecté de traces significatives de ChatGPT dans les corrections effectuées dans les prestigieux journaux du groupe Nature. L’utilisation de ChatGPT était associée à des évaluations par les pairs de moindre qualité. ” Cela me préoccupe vraiment ”, explique Gray. ” Si nous savons que l’utilisation de ces outils pour rédiger des critiques produit des résultats de moindre qualité, nous devons réfléchir à la manière dont ils sont utilisés pour rédiger des études et ce que cela implique ”, dit le bibliothécaire de l’University College London. Un an après le lancement de ChatGPT, un scientifique sur trois a reconnu avoir utilisé l’outil pour rédiger ses études, selon une enquête publiée dans la revue Nature.
L’analyse de Gray montre que le mot ” complexe ” est apparu dans 109 000 études en 2023, plus du double de la moyenne de 50 000 des années précédentes. Le terme ” méticuleusement ” est passé d’environ 12 300 études en 2022 à plus de 28 000 en 2023. Tandis que les occurrences de ” louable ” sont passées de 6 500 à presque 12 000. Le chercheur plaisante en disant que ses collègues l’ont félicité pour la méticulosité de son rapport, toujours à l’état de brouillon en attente de publication dans une revue spécialisée.
Très peu d’études signalent si elles ont utilisé l’intelligence artificielle. Gray met en garde contre le danger d’un ” cercle vicieux ”, dans lequel les versions ultérieures de ChatGPT sont formées avec des articles scientifiques rédigés par les anciennes versions, donnant naissance à des études de plus en plus louables, complexes, méticuleuses et, surtout, superficielles.
Le professeur Ángel María Delgado Vázquez souligne que la nouvelle analyse est centrée sur les études en langue anglaise. « Les chercheurs qui ne parlent pas anglais comme langue maternelle utilisent beaucoup ChatGPT, comme aide à la rédaction et pour améliorer leur anglais », dit Delgado Vázquez, chercheur à l’Université Pablo de Olavide, à Séville, en Espagne. « Dans mon entourage, les gens utilisent principalement ChatGPT pour une première traduction, ou même pour conserver directement cette traduction », ajoute-t-il. Le professeur espagnol aimerait voir une analyse sur l’origine des auteurs qui utilisent les termes inhabituels.
Un autre mot favori de l’IA est « delve ». Le chercheur Jeremy Nguyen, de l’Université de Technologie de Swinburne (Australie), a calculé que le terme « delve » apparaît dans plus de 0,5 % des études médicales, alors qu’avant ChatGPT, il était inférieur à 0,04 %. Des milliers de chercheurs se mettent soudainement à approfondir.
Le bibliothécaire Andrew Gray met en garde contre le risque que l’humanité soit infectée par ce nouveau langage artificiel minutieux. Nguyen lui-même a reconnu sur le réseau social X que cela lui arrive : « Je me retrouve effectivement à utiliser récemment ‘delve’ dans ma propre langue—probablement parce que je passe beaucoup de temps à parler à GPT. » Le 8 avril, le compte officiel de ChatGPT sur X a ajouté : « J’adore simplement approfondir, que puis-je dire ? »
No Responses