OpenAI a annoncé lundi que son populaire chatbot ChatGPT pourra désormais se souvenir des détails des utilisateurs, y compris des informations de base, des hobbies et l’historique des interactions. La mémoire améliorée du chatbot sera disponible uniquement pour les abonnés au service ChatGPT Plus à 20 $ par mois.
Une vidéo de démonstration fournie par OpenAI montre un utilisateur fournissant des informations sur ses animaux de compagnie, puis demandant au chatbot de créer une image de ces animaux faisant du surf sur une planche dans l’océan. Ou bien, ChatGPT peut inclure des informations sur les accommodations pour animaux lorsqu’on lui demande de rechercher une destination de vacances.
La nouvelle fonctionnalité, qui est optionnelle et peut être désactivée, n’est pas encore disponible pour les utilisateurs en Europe ou en Corée.
UTILISATION ET CONTRÔLE DE LA MÉMOIRE
Pour ajouter à la mémoire du chatbot, l’utilisateur peut taper un fait simple le concernant — par exemple, « J’adore le surf et j’utilise une longboard de Channel Islands et une combinaison O’Neill. » Un tag « mémoire mise à jour » apparaît alors, signifiant que l’information a été stockée de manière permanente avec le chatbot. Un autre bouton montre tous les points de données que le bot a mémorisés, que l’utilisateur peut supprimer à tout moment.
Pour tester la nouvelle fonctionnalité, j’ai déposé un PDF de mon CV dans la fenêtre de dialogue de ChatGPT et j’ai demandé au chatbot de se souvenir de mes qualifications.
J’ai ensuite demandé : « Aidez-moi s’il vous plaît à générer un plan pour trouver un emploi. » Mais la réponse de ChatGPT était entièrement générique et ne contenait aucune tactique spécialisée pour trouver du travail dans mon domaine. J’ai alors demandé, « En fonction de ce que vous savez de mes compétences et de mon expérience, quels types de postes devrais-je rechercher ? » Il a alors généré une liste d’emplois spécifiques à mon domaine, ou adjacents à mon domaine. Ainsi, le chatbot rappellera des faits pertinents de sa mémoire, mais la formulation de la demande est importante.
COMBLER UN MANQUE
Depuis le début de la folie des chatbots IA l’année dernière, le manque de connaissances personnelles ou spécialisées des bots, ainsi que leur tendance à inventer des faits (c’est-à-dire à “halluciner”), ont limité leur utilité (bien que les chercheurs aient fait des progrès significatifs dans la recherche de moyens pour empêcher les chatbots d’halluciner). La nouvelle fonctionnalité de mémoire d’OpenAI représente une tentative de rendre ChatGPT un assistant personnel plus personnalisé et utile.
Cependant, former activement ChatGPT à être plus informé sur l’utilisateur crée un travail continu pour l’utilisateur. D’autres entreprises comme Microsoft ou Google pourraient être mieux placées pour personnaliser les chatbots qu’OpenAI, car elles hébergent probablement déjà beaucoup d’informations personnelles et/ou professionnelles de l’utilisateur, auxquelles elles pourraient facilement accéder.
Il y a aussi des préoccupations en matière de confidentialité avec la nouvelle mémoire de ChatGPT. Pour commencer, il n’est pas clair si OpenAI “possède” les données que les utilisateurs demandent au bot de se souvenir, ou si l’entreprise peut ensuite utiliser les données mémorisées à ses propres fins, comme pour entraîner ses modèles. (OpenAI n’a pas immédiatement répondu à mes questions concernant la propriété et la confidentialité.)
Mes propres préoccupations en matière de confidentialité n’ont pas été apaisées après avoir essayé de supprimer mon numéro de téléphone (inclus dans mon CV) de la mémoire de ChatGPT. Cinq minutes après l’avoir fait, le chatbot a scrupuleusement inclus le numéro dans l’une de ses réponses générées.
No Responses