Amazon lance un chatbot alimenté par l’IA pour les clients AWS nommé Q.
Dévoilé lors d’une keynote à la conférence AWS re:Invent d’Amazon à Las Vegas ce matin, Q — commençant à 20 $ par utilisateur par mois, maintenant en avant-première publique — peut répondre à des questions telles que “Comment construire une application web en utilisant AWS ?” Formé sur 17 ans de connaissances AWS, Q proposera une liste de solutions potentielles accompagnées des raisons pour lesquelles vous pourriez envisager ses propositions.
“Vous pouvez facilement discuter, générer du contenu et prendre des actions [avec Q],” a déclaré sur scène Adam Selipsky, PDG d’AWS. “Tout cela est informé par une compréhension de vos systèmes, vos dépôts de données et vos opérations.”
Les clients AWS configurent Q en le connectant à — et en le personnalisant avec — des applications et logiciels spécifiques à l’organisation comme Salesforce, Jira, Zendesk, Gmail et des instances de stockage Amazon S3. Q indexe toutes les données et contenus connectés, “apprenant” des aspects concernant une entreprise, y compris ses structures organisationnelles, concepts clés et noms de produits.
Depuis une application web, une entreprise peut demander à Q d’analyser, par exemple, avec quelles fonctionnalités de produit ses clients ont des difficultés et les moyens possibles de les améliorer — ou, à la manière de ChatGPT, de télécharger un fichier (un document Word, PDF, feuille de calcul et similaire) et de poser des questions sur ce fichier. Q s’appuie sur ses connexions, intégrations et données, y compris les données spécifiques à l’entreprise, pour élaborer des réponses accompagnées de citations.
Q va au-delà de la simple réponse aux questions. L’assistant peut générer ou résumer du contenu tel que des billets de blog, des communiqués de presse et des emails. Et il prend des actions pour le compte d’un utilisateur à travers un ensemble de plugins configurables, comme la création automatique de tickets de service, la notification d’équipes particulières dans Slack et la mise à jour de tableaux de bord dans ServiceNow.
Pour éviter les erreurs, Q demande aux utilisateurs d’inspecter les actions qu’il s’apprête à prendre avant leur exécution et fournit un lien vers les résultats pour validation.
Accessible depuis la Console de Gestion AWS et l’application web susmentionnée, ainsi que depuis des applications de chat existantes comme Slack, Q possède une compréhension approfondie d’AWS et des produits et services disponibles à travers celui-ci, comme vous pouvez l’imaginer. Amazon indique que Q peut comprendre les nuances des charges de travail des applications sur AWS, suggérant des solutions AWS pour des applications qui ne fonctionnent que quelques secondes contre des minutes ou des heures, ou des applications qui accèdent très rarement au stockage, par exemple.
Sur scène, Selipsky a donné l’exemple d’une application qui repose sur un encodage et un transcodage vidéo haute performance. Interrogé sur la meilleure instance EC2 pour l’application en question, Q fournirait une liste prenant en compte les considérations de performance et de coût, a déclaré Selipsky.
“Je crois vraiment que cela va être transformateur,” a-t-il dit, en référence à Q. “Nous voulons que de nombreux types de personnes qui font de nombreux types de travail bénéficient d’Amazon Q.”
Q peut également résoudre des problèmes tels que les problèmes de connectivité réseau, en analysant les configurations réseau pour fournir des étapes de remédiation.
Et Q est intégré avec CodeWhisperer, le service d’Amazon capable de générer et d’interpréter le code d’application. Dans un IDE pris en charge (par exemple, CodeCatalyst d’Amazon), Q peut générer des tests pour évaluer le logiciel en s’appuyant sur la connaissance du code d’un client. Q peut également créer un plan préliminaire et de la documentation pour l’implémentation de nouvelles fonctionnalités dans un logiciel ou la transformation du code et la mise à niveau des paquets de code, des dépôts et des cadres — des plans qui peuvent ensuite être affinés et exécutés en utilisant le langage naturel.
Selipsky a déclaré qu’une petite équipe au sein d’Amazon a utilisé Q en interne pour mettre à niveau environ 1 000 applications de Java 8 à Java 17 — et tester ces applications — en seulement deux jours.
Les fonctionnalités de transformation de code de Q ne prennent en charge que la mise à niveau des applications Java 8 et Java 11 vers Java 17 (avec la transformation du .NET Framework vers le .NET multiplateforme à venir bientôt), tandis que toutes les fonctionnalités liées au code de Q — y compris la transformation de code — nécessitent un abonnement CodeWhisperer Professionnel. Aucune information sur le moment ou la possibilité d’un changement concernant l’exigence d’abonnement.
Amazon indique qu’il intègre également Q dans ses produits propriétaires comme AWS Supply Chain et QuickSight, un service d’analyse commerciale. Q au sein de QuickSight peut fournir des options de visualisation pour les rapports commerciaux, les reformatant automatiquement, ou répondre à des questions sur les données référencées ou contenues dans un rapport. Dans AWS Supply Chain, Q peut répondre à des questions telles que “Qu’est-ce qui cause le retard de mes expéditions ?” avec des analyses à la minute près.
Q fait également son chemin dans le logiciel de centre de contact d’Amazon, Amazon Connect. Désormais — alimenté par Q — les agents du service client peuvent obtenir des réponses proposées aux questions des clients avec des actions suggérées et des liens vers des articles de support connexes sans avoir à saisir ces questions des clients dans une barre de texte. Q génère également un résumé post-appel que les superviseurs peuvent utiliser pour suivre les étapes de suivi.
Selipsky a souligné à plusieurs reprises tout au long du discours d’ouverture que les réponses fournies par Q — et les actions qu’il entreprend — sont entièrement contrôlables et filtrables. Q ne retournera que les informations que l’utilisateur est autorisé à voir, et les administrateurs peuvent restreindre les sujets sensibles, demandant à Q de filtrer les questions et réponses inappropriées si nécessaire.
Pour atténuer les hallucinations (c’est-à-dire les cas où Q pourrait inventer des faits, un problème courant avec les systèmes d’IA générative), les administrateurs peuvent choisir de faire en sorte que Q extrait des informations uniquement à partir de documents de l’entreprise au lieu des connaissances provenant de tout modèle sous-jacent. Les modèles qui animent Q — un mélange de modèles de Bedrock, la plateforme de développement d’IA d’Amazon, y compris la propre famille Titan d’Amazon — ne s’entraînent pas sur les données d’un client, a déclaré Selipsky.
Ces points étaient sans doute destinés aux entreprises réticentes à adopter l’IA générative pour des raisons de responsabilité et de sécurité. Plus d’une douzaine d’entreprises ont émis des interdictions ou des restrictions sur ChatGPT, exprimant des préoccupations quant à la manière dont les données saisies dans le chatbot pourraient être utilisées et le risque de fuites de données.
“Si votre utilisateur n’a pas la permission d’accéder à quelque chose sans Q, il ne peut pas y accéder avec Q non plus”, a déclaré Selipsky. “Q comprend et respecte vos identités existantes, vos rôles et vos permissions… nous n’allons jamais utiliser [le contenu d’affaires] pour entraîner les modèles sous-jacents.”
Mise à part l’accent mis sur la confidentialité, à bien des égards, Q semble être la réponse d’Amazon au Copilot de Microsoft pour Azure — qui était à son tour la réponse de Microsoft à Duet AI dans Google Cloud. Copilot pour Azure et Duet AI prennent la forme d’assistants pilotés par chat pour les clients du cloud, suggérant des configurations pour les applications et les environnements et aidant au dépannage en identifiant les problèmes potentiels — et les solutions.
Mais Q semble être un peu plus complet, touchant à une large gamme de cas d’usage en intelligence d’affaires, programmation et configuration. Ray Wang, fondateur et analyste principal chez Constellation Research, a déclaré à TechCrunch qu’il croit que c’est l’annonce “la plus importante” à re:Invent jusqu’à présent.
“C’est à propos d’armer les développeurs avec l’IA pour qu’ils réussissent,” a-t-il dit — un point important à soulever considérant que, selon au moins une enquête récente, de nombreuses entreprises expérimentant l’IA générative ont du mal à trouver des cas d’usage commerciaux et à surmonter des implémentations mal conçues.
Nous devrons juste voir si Q fonctionne aussi bien qu’Amazon le dit.
No Responses