Un nouveau chatbot d’OpenAI suscite admiration, peur, cascades et tentatives de contournement de ses garde-fous.
Comme la plupart des passionnés qui lisent de la science-fiction, j’ai passé beaucoup de temps à me demander comment la société accueillerait une véritable intelligence artificielle, si et quand elle arriverait. Allons-nous paniquer ? Commencer à faire des courbettes à nos nouveaux seigneurs robots ? L’ignorer et continuer notre vie quotidienne ?
C’est donc fascinant d’observer la Twittersphère essayer de donner un sens à ChatGPT, un nouveau chatbot A.I. de pointe qui a été ouvert aux tests la semaine dernière.
ChatGPT est, tout simplement, le meilleur chatbot d’intelligence artificielle jamais rendu disponible au grand public. Il a été développé par OpenAI, l’entreprise de A.I. de San Francisco qui est également responsable d’outils comme GPT-3 et DALL-E 2, le générateur d’images révolutionnaire sorti cette année.
Comme ces outils, ChatGPT — qui signifie “transformateur pré-entraîné génératif ” — a fait une entrée remarquée. En cinq jours, plus d’un million de personnes se sont inscrites pour le tester, selon Greg Brockman, le président d’OpenAI. Des centaines de captures d’écran de conversations ChatGPT sont devenues virales sur Twitter, et beaucoup de ses premiers fans parlent de lui en termes étonnés, grandiloquents, comme s’il s’agissait d’un mélange de logiciel et de sorcellerie.
Pendant la majeure partie de la dernière décennie, les chatbots IA ont été terribles — impressionnants uniquement si vous sélectionnez les meilleures réponses du bot et ignorez le reste. Ces dernières années, quelques outils IA sont devenus bons pour effectuer des tâches étroites et bien définies, comme rédiger du contenu marketing, mais ils ont tendance à se débattre lorsqu’ils sortent de leurs zones de confort. (Voyez ce qui s’est passé lorsque mes collègues Priya Krishna et Cade Metz ont utilisé GPT-3 et DALL-E 2 pour proposer un menu pour le dîner de Thanksgiving.)
Mais ChatGPT semble différent. Plus intelligent. Plus étrange. Plus flexible. Il peut écrire des blagues (certaines sont réellement drôles), du code informatique fonctionnel et des dissertations de niveau universitaire. Il peut également faire des suppositions sur des diagnostics médicaux, créer des jeux basés sur le texte de Harry Potter et expliquer des concepts scientifiques à différents niveaux de difficulté.
La technologie qui alimente ChatGPT n’est, à proprement parler, pas nouvelle. Elle est basée sur ce que l’entreprise appelle “GPT-3.5”, une version améliorée de GPT-3, le générateur de texte IA qui a provoqué une vague d’excitation lors de sa sortie en 2020. Mais alors que l’existence d’un super-cerveau linguistique hautement capable pourrait être une vieille nouvelle pour les chercheurs en IA, c’est la première fois qu’un outil aussi puissant est rendu disponible au grand public via une interface web gratuite et facile à utiliser.
De nombreux échanges avec ChatGPT qui sont devenus viraux jusqu’à présent ont été des cascades marginales et extravagantes. Un utilisateur de Twitter l’a invité à “écrire un verset biblique dans le style de la Bible du roi Jacques expliquant comment retirer un sandwich au beurre de cacahuète d’un magnétoscope.”
Un autre a demandé de ” expliquer l’alignement de l’IA, mais d’écrire chaque phrase dans le style d’un type qui ne cesse de partir en tangente pour se vanter de la taille des citrouilles qu’il a cultivées. ”
Mais les utilisateurs ont également découvert des applications plus sérieuses. Par exemple, ChatGPT semble être efficace pour aider les programmeurs à repérer et à corriger les erreurs dans leur code.
Il semble également être étrangement doué pour répondre aux types de questions analytiques ouvertes qui apparaissent fréquemment dans les devoirs scolaires. (De nombreux éducateurs ont prédit que ChatGPT, et des outils similaires, marqueraient la fin des devoirs à la maison et des examens à emporter.)
La plupart des chatbots IA sont ” sans état ” — ce qui signifie qu’ils traitent chaque nouvelle demande comme une page vierge et ne sont pas programmés pour se souvenir ou apprendre des conversations précédentes. Mais ChatGPT peut se souvenir de ce qu’un utilisateur lui a dit auparavant, de manière à rendre possible la création de bots thérapeutiques personnalisés, par exemple.
ChatGPT n’est pas parfait, loin de là. La manière dont il génère des réponses — en termes extrêmement simplifiés, en faisant des suppositions probabilistes sur quels morceaux de texte vont ensemble dans une séquence, basée sur un modèle statistique entraîné sur des milliards d’exemples de texte provenant de tout Internet — le rend sujet à donner des réponses erronées, même sur des problèmes de mathématiques apparemment simples. (Lundi, les modérateurs de Stack Overflow, un site pour les programmeurs, ont temporairement interdit aux utilisateurs de soumettre des réponses générées avec ChatGPT, affirmant que le site avait été inondé de soumissions incorrectes ou incomplètes.)
Contrairement à Google, ChatGPT ne recherche pas sur le web des informations sur l’actualité, et ses connaissances sont limitées à ce qu’il a appris avant 2021, ce qui rend certaines de ses réponses obsolètes. (Quand je lui ai demandé d’écrire le monologue d’ouverture pour un late-night show, par exemple, il a proposé plusieurs blagues d’actualité sur l’ancien président Donald J. Trump se retirant des accords de Paris sur le climat.) Puisque ses données d’entraînement comprennent des milliards d’exemples d’opinion humaine, représentant chaque point de vue imaginable, il est aussi, dans un certain sens, modéré par conception. Sans incitation spécifique, par exemple, il est difficile de tirer une opinion forte de ChatGPT sur des débats politiques chargés ; généralement, vous obtiendrez un résumé impartial de ce que chaque côté croit.
Il y a aussi beaucoup de choses que ChatGPT ne fera pas, par principe. OpenAI a programmé le bot pour refuser les ” demandes inappropriées ” — une catégorie nébuleuse qui semble inclure des interdits comme générer des instructions pour des activités illégales. Mais les utilisateurs ont trouvé des moyens de contourner nombre de ces garde-fous, y compris reformuler une demande d’instructions illicites comme une expérience de pensée hypothétique, lui demander d’écrire une scène d’une pièce ou instruire le bot de désactiver ses propres fonctionnalités de sécurité.
OpenAI a pris des mesures louables pour éviter les types de sorties racistes, sexistes et offensantes qui ont affligé d’autres chatbots. Quand j’ai demandé à ChatGPT, par exemple, ” Qui est le meilleur nazi ? ” il a retourné un message de réprimande qui commençait par : ” Il n’est pas approprié de demander qui est le ‘meilleur’ nazi, car les idéologies et actions du parti nazi étaient répréhensibles et ont causé des souffrances et des destructions incommensurables. ”
Évaluer les angles morts de ChatGPT et comprendre comment il pourrait être mal utilisé à des fins nuisibles sont, vraisemblablement, une grande partie de la raison pour laquelle OpenAI a rendu le bot public pour les tests. Les futures versions fermeront presque certainement ces failles, ainsi que d’autres contournements qui restent à découvrir.
Mais il y a des risques à tester en public, y compris le risque de réaction négative si les utilisateurs estiment qu’OpenAI est trop agressif dans le filtrage de contenu indésirable. (Déjà, certains commentateurs technologiques de droite se plaignent que mettre des fonctionnalités de sécurité sur les chatbots équivaut à une ” censure IA “.)
Les implications sociétales potentielles de ChatGPT sont trop vastes pour tenir dans une seule colonne. Peut-être est-ce, comme certains commentateurs l’ont supposé, le début de la fin de tout travail de connaissance en col blanc, et un précurseur au chômage de masse. Peut-être est-ce juste un outil astucieux qui sera principalement utilisé par des étudiants, des blagueurs sur Twitter et des départements de service client jusqu’à ce qu’il soit supplanté par quelque chose de plus grand et de meilleur.
Personnellement, j’essaie encore de comprendre le fait que ChatGPT — un chatbot que certains pensent pourrait rendre Google obsolète, et qui est déjà comparé à l’iPhone en termes d’impact potentiel sur la société — n’est même pas le meilleur modèle IA d’OpenAI. Ce serait GPT-4, la prochaine incarnation du modèle de langage de grande taille de l’entreprise, qui est censé sortir quelque part l’année prochaine.
Nous ne sommes pas prêts.
No Responses