Le père de ChatGPT : l’IA pourrait “mal tourner”

Sam Altman, PDG de l’entreprise à l’origine de ChatGPT, a exprimé son inquiétude selon laquelle l’intelligence artificielle pourrait “mal tourner” lors d’une audience du comité sénatorial mardi, se concentrant sur la manière de réguler le domaine de l’IA, qui se développe rapidement.

Altman, qui dirige OpenAI basé à San Francisco, a déclaré en réponse à une question sur sa plus grande crainte concernant l’IA que la technologie et l’industrie pourraient “causer des dommages significatifs au monde” à moins qu’elle ne soit correctement régulée.

“Si cette technologie tourne mal, elle peut vraiment mal tourner”, a-t-il déclaré au Sous-comité du Sénat sur la Vie Privée, la Technologie et la Loi. “Nous voulons être vocaux à ce sujet. Nous voulons travailler avec le gouvernement pour empêcher que cela se produise. Mais nous devons être lucides à ce sujet.”

Interrogé par le sénateur Josh Hawley, R-Mo., sur le risque que des modèles de langage à grande échelle comme ChatGPT, qui peuvent déjà prédire l’opinion publique avec précision, pourraient être utilisés pour manipuler des personnes, telles que des électeurs indécis, Altman a répondu : “Cela me rend nerveux.” Il a également établi un parallèle avec l’émergence de Photoshop à la fin des années 1990 et au début des années 2000, lorsque de nombreuses personnes ont été initialement dupées par des images photoshoppées avant de développer une compréhension de la manipulation d’images.

“Ce sera comme cela, mais sous stéroïdes”, a-t-il dit.

L’IA, une menace pour la démocratie ?

L’audition au Congrès a abordé une série de préoccupations, et les sénateurs des deux partis ont largement convenu que l’IA nécessitait une régulation, sans pour autant parvenir à des conclusions fermes sur la manière de procéder. Le sénateur Chris Coons, démocrate du Delaware, s’est inquiété que les modèles d’IA développés en Chine promeuvent un “point de vue” pro-chinois et a plaidé pour la création d’une IA qui favoriserait “les marchés ouverts et les sociétés ouvertes”.

Hawley a ensuite énuméré une liste d’effets négatifs potentiels de l’IA : “Perte d’emplois, perte de vie privée, manipulation du comportement personnel, manipulation de l’opinion personnelle et déstabilisation des élections en Amérique”, a-t-il déclaré.

Mais Altman s’est montré optimiste quant au fait que l’IA créerait plus d’emplois qu’elle n’en détruirait, en disant : “Nous sommes très optimistes quant à l’existence de fantastiques emplois à l’avenir et au fait que les emplois actuels peuvent être bien meilleurs”, et a déclaré que ChatGPT était “bon pour exécuter des tâches, pas des emplois”.

Christina Montgomery, Directrice de la Confidentialité et de la Confiance chez IBM, qui a également témoigné lors de l’audition, s’est servie d’elle-même comme exemple de la création de nouveaux emplois par l’IA, notant qu’elle dirige une équipe de professionnels de la gouvernance de l’IA.

En effet, la technologie perturbe déjà certains domaines. Plus tôt ce mois-ci, le directeur général d’IBM a déclaré à Bloomberg que l’entreprise allait suspendre l’embauche pour des emplois pouvant être effectués par l’IA, affectant environ un tiers des effectifs de l’entreprise, soit 7 800 positions.

Altman et le chercheur en IA Gary Marcus ont exprimé leur soutien pour une réglementation gouvernementale de l’IA. Cela pourrait inclure potentiellement la création d’une nouvelle agence pour superviser la technologie, exigeant que les entreprises rendent publics les modèles d’IA et leurs données sous-jacentes, obligeant les créateurs d’IA à posséder une licence pour publier publiquement des produits ou à démontrer leur sécurité avant leur sortie publique, et à avoir un audit indépendant des modèles d’IA. Montgomery a plaidé pour une approche plus ciblée où le gouvernement régulerait seulement certains “cas d’usage” de l’intelligence artificielle.

Ces choses auront appris de nous

L’émergence rapide de “l’intelligence artificielle générative” – des outils capables de produire d’importants volumes de textes ou d’images visuelles, aidant par exemple les médecins à communiquer avec leurs patients et les professionnels de l’immobilier à rédiger rapidement des annonces – a renforcé les préoccupations du public concernant la technologie. Le pionnier de l’IA, Geoffrey Hinton, qui a récemment quitté son emploi chez Google pour parler librement de la technologie, a récemment déclaré lors d’une conférence que l’IA pourrait représenter une gamme de menaces.

“Ces choses auront appris de nous, en lisant tous les romans jamais écrits et tout ce que Machiavel a jamais écrit, comment manipuler les gens,” a dit Hinton, selon l’Associated Press. “Même s’ils ne peuvent pas directement actionner des leviers, ils peuvent certainement nous faire actionner des leviers.”

En mars, un certain nombre de PDG et de chercheurs éminents ont signé une lettre demandant un moratoire de six mois sur le développement des principaux modèles d’IA. “Devrions-nous développer des esprits non humains qui pourraient éventuellement nous surpasser en nombre, nous dépasser en intelligence, nous rendre obsolètes et nous remplacer?” ont-ils demandé.

Lors de l’audience de mardi, cependant, le consensus était que l’explosion de l’IA allait se poursuivre à un rythme soutenu, les entreprises et les investisseurs investissant des milliards de dollars dans la technologie.

“Il n’y a aucun moyen d’arrêter cela,” a dit le sénateur Cory Booker, D-N.J. “Il n’y aura pas de pause. Il n’existe aucun organe de contrôle pour imposer une pause. Pardonnez-moi d’être sceptique, mais personne ne va faire une pause.”