Calipia : le blog

Microsoft a annoncé en fin de semaine que son service Azure OpenAI offre désormais en preview de ChatGPT, le célèbre moteur de chat basé sur OpenAI. Le service Azure OpenAI de Microsoft prend déjà en charge d’autres modèles génératifs OpenAI, notamment « Dall-E 2 » pour la génération d’images, « GPT-3.5 » pour la génération de langage naturel et de code, et « Codex » pour la génération de code à partir de langage naturel. L’ajout de l’aperçu ChatGPT permettra donc de renforcer les chatbots pour les utiliser dans le cadre du service à la clientèle, entre autres cas d’utilisation.

Voici comment Microsoft décrit ces cas d’utilisation :

« Désormais, avec ChatGPT en avant-première dans Azure OpenAI Service, les développeurs peuvent intégrer des expériences personnalisées basées sur l’IA directement dans leurs propres applications, notamment en améliorant les robots existants pour répondre à des questions inattendues, en récapitulant les conversations dans les centres d’appels pour permettre une résolution plus rapide des problèmes d’assistance à la clientèle, en créant de nouveaux textes publicitaires avec des offres personnalisées, en automatisant le traitement des réclamations, et bien plus encore« .

Microsoft vend également l’utilisation de son service Azure Cognitive Search avec ces chatbots améliorés par ChatGPT. L’intégration avec Azure Cognitive Search permettra aux organisations de connecter le chatbot à des données spécifiques de l’entreprise, évitant ainsi les réponses génériques. Le service Azure Cognitive Search agit comme « une base de connaissances externe qui peut retrouver des éléments rapidement et avec une bonne pertinence », a expliqué Microsoft dans cette annonce.

Microsoft a présenté également Azure OpenAI Studio, un environnement de développement permettant de créer des applications intelligentes « sans code ». Il peut également être utilisé pour « personnaliser ChatGPT ».

En général, Microsoft utilise « la puissance des grands modèles de langage d’OpenAI et l’infrastructure optimisée pour l’IA d’Azure » pour soutenir ses divers produits commerciaux et grand public, nous vous parlions de ceci avec Dynamics la semaine dernière sur le Blog.

Le service Azure OpenAI peut être utilisé dans différents scénarios, selon Microsoft. Il peut être utilisé pour générer du contenu en réponse aux demandes des clients ou pour personnaliser l’interface utilisateur sur les sites web. Il peut être utilisé pour résumer le contenu dans des scénarios d’assistance à la clientèle ou pour résumer les tendances des médias sociaux. Le service Azure OpenAI peut également générer du code à partir de requêtes en langage naturel, y compris des requêtes SQL et de la documentation de code. Le service renforce également la recherche grâce à ses capacités de « knowledge mining ».

Le choses qui fâchent
La preview de ChatGPT dans le service Azure OpenAI peut actuellement être essayé, mais Microsoft peut facturer certains aspects, même en beta… : Microsoft indique que le prix est de 0,002 $/1k tokens et la facturation pour toute utilisation de ChatGPT commence à partir d’aujourd’hui (13 mars). Outre le tarif d’utilisation des modèles (appelé « inferencing » et facturé sur la base des « tokens »), Azure OpenAI a des coûts d’hébergement et de formation. Les détails de la tarification sont indiqués sur cette page. Ainsi le taux d’utilisation du modèle d’inférence pour 1 000 jetons varie en fonction du modèle d’IA sélectionné. Par exemple, le modèle « Curie » est tarifé à « 0,002 $/1 000 jetons ».

La page de tarification ne donne pas beaucoup de détails sur ces questions, nous reviendrons sur ceci lors d’une session dédiée au prochain Briefing Calipia, histoire de tenter de comprendre les modes de tarifications cloud en général de l’éditeur. N’hésitez pas à vous inscrire.