Archives des étiquettes : IA

Une enquête sur les finances de cinq entreprises influentes dans le domaine de l’IA…

Publié le par Poster un commentaire

La Commission fédérale du commerce (FTC) des États-Unis a annoncé la semaine dernière une enquête sur les finances de cinq entreprises influentes dans le domaine de l’intelligence artificielle (IA), dont sans surprise, Microsoft, afin d’éviter d’éventuelles pratiques anticoncurrentielles.

Alphabet, la société mère de Google, Amazon, Anthropic, Microsoft et OpenAI seront donc étudié de près pas l’organisme américain. La FTC leur a demandé de « fournir des informations sur les investissements et les partenariats récents ». L’enquête se concentre spécifiquement sur les transactions suivantes, selon le communiqué de presse de la FTC :

  • Les milliards de dollars d’investissements de Microsoft dans OpenAI, le fabricant de ChatGPT , dont il détient une participation minoritaire de 49 %.
  • L’investissement de 4 milliards de dollars d’Amazon dans Anthropic, qui lui a permis d’acquérir une participation minoritaire dans le fabricant de chatbots Claude AI.
  • Bien sur également Google pour son investissement aussi récent dans Anthropic, histoire de combler les retards de ses technologies maison.
  • Ainsi donc que OpenAI et Anthropic…

L’enquête est une première mesure prise par le gouvernement américain pour prévenir l’apparition d’un monopole ou de tout autre problème antitrust sur le marché de l’IA générative.

« L’histoire montre que les nouvelles technologies peuvent créer de nouveaux marchés et une concurrence saine. Alors que les entreprises font la course pour développer et monétiser l’IA, nous devons nous prémunir contre les tactiques qui verrouillent cette opportunité. »

Lina M. Khan, présidente de la FTC

Les entreprises sont invitées à fournir des documents, qui permet à la FTC d’ordonner aux entreprises de fournir des informations sur leurs pratiques commerciales sans qu’une enquête criminelle ne soit nécessaire.

La FTC demande notamment des études sur l’impact de chaque opération sur les parts de marché des participants et sur le marché global de l’intelligence artificielle, des feuilles de route pour les produits, des plans d’embauche et d’affectation du personnel, toute information fournie à des gouvernements extérieurs en rapport avec l’opération, des accords d’exclusivité entre les participants à l’opération, et bien d’autres choses encore.

L’enquête 6, datée du 24 janvier, donne aux entreprises 45 jours pour déposer les informations requises auprès de la FTC. Une copie de la demande peut être consultée ici.

Utilisation de nos données pour entrainer les IA : le cas Microsoft

Publié le par Un commentaire

Nous vous parlions hier de Meta et comment l’entreprise propose re répondre très partiellement à cette question légitime. C’est au tour de Microsoft cette fois, et les choses ne sont pas beaucoup plus clair, c’est le moins que l’on puisse dire…

Microsoft a récemment publié un nouveau contrat de services qui entrera en vigueur à la fin de ce mois, le 30 septembre 2023. Parmi les nombreux changements, certains des plus importants incluent une nouvelle section « stockage Microsoft » qui concerne les récents changements apportés à la façon dont les pièces jointes d’Outlook.com sont traitées. Mais surtout, Microsoft a élargi la section « Votre contenu » sous « Votre vie privée » dans son contrat de services. Il s’agit d’apporter des précisions sur les données générées par les utilisateurs, qui comprennent également les données générées à l’aide des divers services d’intelligence artificielle de Microsoft, tels que Bing Chat, entre autres. Cela vient s’ajouter à la nouvelle section « AI Services » qui comporte une sous-section intitulée « Use of Your Content » (Utilisation de votre contenu). Donc tout irait pour le mieux du monde… si ces nouvelles closes étaient claires.

Mais force est de constater que cela ne semble pas le cas, c’est en tout cas ce qu’analyse la fondation Mozilla : les termes et les formulations sont quelque peu vagues la plupart du temps, et Mozilla semble désespérée de savoir quelles sont les véritables intentions de Microsoft à ce sujet. L’entreprise a attaqué sans relâche le géant technologique sur X, le bombardant constamment de questions et à lancer une pétition à laquelle elle veut que les utilisateurs participent sur ce lien.

Demandez à Microsoft : utilisez-vous nos données personnelles pour entraîner votre IA ?

Nous avons fait examiner le nouvel accord de service de Microsoft qui entrera en vigueur le 30 septembre par quatre avocats, trois experts en confidentialité et deux militants. Et devinez quoi ? Aucun de nos experts n’est parvenu à déterminer si Microsoft prévoyait d’utiliser vos données personnelles pour entraîner ses modèles d’IA. Cela inclut vos échanges audio, vidéo et écrits ainsi que vos pièces jointes dans 130 produits comme Office, Skype, Teams et Xbox.

Si neuf experts en confidentialité ne parviennent pas à comprendre ce que Microsoft fait avec vos données, quelle chance a un·e simple utilisateur·rice d’y arriver ? C’est pourquoi nous demandons à Microsoft de dire s’ils vont utiliser nos données personnelles pour entraîner leur IA.

Les comptes rendus intelligents arrivent dans Teams Premium

Publié le par Poster un commentaire

Nous vous en parlions sur le Blog, Microsoft avait lancé son service Teams Premium au début de l’année pour les entreprises. Aujourd’hui, annonce une nouvelle fonctionnalité dans le cadre des abonnements Premium. Le récapitulatif intelligent des réunions, largement basé sur l’IA et intégré à ce que Microsoft présentait il y a peu comme « Copilot pour Teams » il pourrait s’avérer utile pour les personnes qui manquent une réunion en ligne, ou pour ceux qui y assistent mais qui souhaitent avoir une bonne vue d’ensemble de ce qui a été discuté. Encore faut-il que les performances soient au rendez-vous… Nous avions vu, il y a 4 ans maintenant, ce type de démonstrations chez BlueJean dans leurs équipes de développement à San Francisco et… c’était très largement perfectible. Mais c’était avant l’arrivé massive des IA génératives, alors tout peut changer, à tester donc.

Dans un billet de blog, Microsoft indique que ses études montrent que :

 » 56 % des participants aux réunions Teams affirment qu’il leur a été difficile de résumer ce qui s’est passé au cours de l’événement. 55 % des utilisateurs déclarent qu’ils ne savent pas exactement ce qu’il faut faire à la suite d’une réunion. »

Le compte rendu intelligent des meetings s’appuie sur l’IA pour fournir automatiquement une vue d’ensemble de la réunion, avec pour objectif d’aider les utilisateurs à gagner du temps pour rattraper leur retard et coordonner les prochaines étapes. Dans un nouvel onglet « Recap » du calendrier et du chat Teams, les utilisateurs trouveront des informations alimentées par l’IA donc, telles que :

  • des notes de réunion générées automatiquement,
  • des tâches recommandées
  • et des mises en évidence personnalisées pour aider les utilisateurs à trouver rapidement les informations les plus importantes…
  • les marqueurs temporels personnalisés : qui indiquent à chaque utilisateur quand son nom a été mentionné, quand il est entré et sorti de la réunion, et quand un écran a été partagé.
  • des marqueurs de chronologie pour les orateurs qui indiquent quand chaque personne de la réunion a pris la parole, ce qui permet de revenir en arrière et de voir exactement à quel moment cela s’est produit.

En plus de cela cet onglet fournira l’accès à l’enregistrement de la réunion, ainsi que des notes de réunion collaboratives co-créées, la transcription de la réunion et le contenu partagé. Si ceci a été créé en cours de réunion bien entendu.

Une petite vidéo ci-dessous qui résume tout cela :


Pour l’instant, ces fonctions de comptes rendus intelligents ne sont disponible qu’en anglais, mais devraient arriver en français en 2023, sans plus de précision. A tester donc. Nous en reparlerons lors du prochain Briefing Calipia qui commence dans 15 jours ! il est encore temps de vous y inscrire 🙂

Microsoft fabriquerait ses propres puces dédiées à l’IA

Publié le par Un commentaire

Depuis quelques mois, fort de son partenariat avec OpenAI, Microsoft fait de l’IA sa priorité, avec la ribambelle de services « Copilot », pour son CRM, Office, la Sécurité, le code, etc. Nous avions même imaginé une édition pour remplacée les commerciaux le 1er avril, finalement pas si éloigné de la réalité :). On apprend aujourd’hui que Microsoft développerait sa propre puce matérielle (NPU) spécialement conçue pour les programmes d’intelligence artificielle, et ce depuis quatre ans.

Selon The Information, qui s’appuie sur deux sources anonymes, la puce porte le nom de code interne Athena et Microsoft y travaille depuis 2019, avec 300 employés qui s’y consacrent. L’article ajoute que la puce est actuellement testée par certains employés de Microsoft, ainsi que par OpenAI.

Comme beaucoup d’acteur, Microsoft utilise des puces fabriquées par NVIDIA pour ses services d’intelligence artificielle. L’idée est que la fabrication de son propre processeur interne répondra mieux à ses besoins et coûtera moins cher. Le lancement d’Athena serait prévu pour 2024.

Bien entendu, la création de puces en interne pour les serveurs et autres systèmes basés sur le cloud n’est pas une nouveauté dans le secteur. Apple, Amazon, Google et Facebook ont tous conçu leurs propres processeurs pour leur produits (clients ou serveurs). La destination de ces puces ne serait pas limité à des serveurs côté Microsoft, l’entreprise pourrait ajouter ces dernières à ses prochaines machines Surface, là encore rien de très surprenant, c’est ce que fait Apple dans ses iPhones et iPad depuis plusieurs années et se que fait Google dans ses derniers Pixel et sa prochaine tablette Pixel à venir en juin prochain.

Nous reparlerons de tout ceci lors du prochain Briefing Calipia.

Microsoft présente SalesRep Copilot : une IA pour seconder, puis remplacer les commerciaux

Publié le par 8 Commentaires

Microsoft n’arrête décidemment pas d’innover avec ses fonctionnalités d’IA issues de son partenariat avec OpenAI. Après l’utilisation de GPT pour produire du code avec GitHub Copilot et à terme tailler dans les équipes de développement, Security Copilot, a destination des équipes de sécurité, Microsoft franchit une nouvelle étape, visant cette fois ci les populations commerciales.

Il annonce aujourd’hui SalesRep Copilot. Sans surprise ce nouveau service sera basé sur GPT-4, avec pour objectif d’assister puis de remplacer à terme le poste de responsable commercial.

Spécialement entrainé sur la vente de technologies de l’information, l’entreprise annonce une preview interne dans un premier temps puis une preview limité à quelques entreprises commerciales partenaires de l’éditeur et qui pourront ainsi limiter réduire les recrutements de commerciaux et donc faire des économies sur la masse salariale.

Comment cela fonctionne ?

Microsoft en collaboration avec OpenAI aurait entrainé pendant plus de six mois son IA avec plusieurs milliers de conversations commerciales, des milliers d’emails adressés à des clients et des centaines de propositions commerciales. Tout ceci pour obtenir une IA opérationnelle aujourd’hui, opérant dans 26 langues (dont le français) dès la Preview. SalesRep Copilot Preview serait en mesure de répondre aux demandes des clients, de réaliser des propositions commerciales cohérentes (en se basant sur les offres réalisées pour d’autres clients, tant d’un point de vue de couverture fonctionnelle que de tarification) en étant plus fiable et rapide que leurs équivalents humains.

Durant des mois l’entreprise a réalisé des tests à l’aveugle où les demandes de clients étaient tantôt prises en charge par de véritables commerciaux de l’entreprise et tantôt par l’IA SalesRep Copilot. Le résultat obtenu est, toujours selon l’éditeur, très positif, l’IA ayant obtenue en moyenne +27% de satisfaction client (via l’enquête habituelle) par rapport aux commerciaux humains de l’éditeur !

Elisabeth Fishmann, la responsable marketing de la solution déclarait lors de la présentation du produit :

« Avec SalesRep Copilot, une entreprise proposant des solutions informatique sera en mesure de remplacer 60 à 80% de ses commerciaux à terme, les économies engendrées permettant ainsi de renforcer les besoins internes de R&D ô combien important pour les entreprises technologiques« 

« Dans une entreprise comme Microsoft nous sommes contraints de former en permanence nos commerciaux, avec à la clé : des coûts importants pour l’entreprise, et une indisponibilité pour répondre aux demandes de nos clients durant ces formations. Avec SalesRep Copilot ces problèmes seront du passé« 

« Contrairement au commercial humain, SaleRep Copilot, sait répondre à un nombre de questions bien plus élevé en tirant parti de la mise en réseau des problématiques clients. Contrairement aux commerciaux humains, SalesRep Copilot est d’humeur égale et offre une disponibilité bien meilleure 24h/24 et 7j/7. Le taux de disponibilité étant actuellement de 99,999 % soit celui de notre offre Azure, alors que celle d’un commercial humain plafonne en général à 17% pour les plus performants d’entre eux…« 

« Pour Microsoft, les efforts en matière de réduction de l’emission des gaz à effet de serre (GES) sont très important, si le numérique et l’IA émettent du CO2 comme toutes technologies, SaleRep Copilot, solution hébergée sur nos centres de données Azure, qui seront neutres dès 2030, est une solution beaucoup plus efficiente que nos commerciaux humains, qui avec leurs voitures de fonctions et parfois leur consommation excessive de viande peuvent constituer un frein sur les efforts de l’entreprise« 

Microsoft ne communique pas actuellement de date de disponibilité générale pour cette solution.

En tant que client Microsoft, si vous pensez que votre commercial n’est en réalité qu’une IA, signalez le dans les commentaires.

IA et Sécurité : Microsoft annonce Security Copilot

Publié le par 4 Commentaires

Décidément il y a des « Copilot » pour tout chez Microsoft… L’entreprise vient d’annoncer en début de semaine Security Copilot qui utilisera sans trop de surprise GPT4 d’OpenAI comme les autres produits Copilot.

Sur le modèle de ce qui a été présenté sur Office (nous vous en donnions le résumé ici sur le blog) cela fonctionne comme un chatbot. Il est destiné aux admins sécurité qui ont besoin d’informations rapides pour les aider à isoler et à chasser les menaces. Ce qui différencie Security Copilot des autres chatbots, c’est qu’il utilise les centaines milliards de signaux que Microsoft recueille dans le cadre de son propre travail de renseignement de sécurité, ainsi que des informations provenant d’agences de sécurité externes telles que la National Security Agency. Microsoft précise également que les clients pourront former Security Copilot à partir de leurs propres données.

Microsoft a publié un site de démonstration proposant des scénarios pour Security Copilot comme :

  • Identifier une attaque en cours, évaluer son ampleur et obtenir des instructions pour commencer à remédier à la situation en se basant sur des tactiques éprouvées lors d’incidents de sécurité réels.
  • Découvrir si votre organisation est sensible aux vulnérabilités et aux exploits connus. Examinez votre environnement, un actif à la fois, à la recherche de preuves d’une violation.
  • Résumez tout événement, incident ou menace en quelques minutes et préparez les informations dans un rapport prêt à partager et personnalisable pour le public que vous souhaitez.

Security Copilot s’intègre à Microsoft Sentinel, Defender et Intune. Les utilisateurs peuvent utiliser Security Copilot pour demander des résumés d’informations sur les vulnérabilités, pour aider à l’analyse des incidents et des codes, et pour suivre les alertes provenant d’autres outils.

Security Copilot est actuellement disponible en preview privée. Microsoft n’indique pas de date pour la mise à disposition de Security Copilot à plus grande échelle, ni les modalités d’acquisition…

Le preview de Microsoft Loop est disponible :)

Publié le par 3 Commentaires

Avant-hier, nous vous en parlions, Microsoft faisait du teasing sur Loop, nous pensions que cela indiquait une arrivée imminente de la beta publique, et c’est le cas. Enfin, après plus de 9 mois de retard elle est dispo depuis cette nuit. Uniquement dispo depuis le Web, application iOS et Android dans un premier temps. Microsoft sans trop de surprise devrait l’encapsuler (comme son modèle Notion) dans une app native (via electron ou autre).

Pour rappel, et c’est une des originalité de l’application versus Notion, elle peut être utilisée à la fois en tant qu’application/canvas autonome et sous la forme de pages intégrables qui peuvent être intégrées dans des applications Microsoft comme Outlook, Teams, OneNote, Word pour le web et Whiteboard,nous vous montrions l’année dernière comment faire ceci avec Teams dans une vidéo. L’application Loop fonctionne essentiellement comme une sorte de gestionnaire de projet construit autour d’un espace de travail commun. Les utilisateurs peuvent créer des pages Loop à l’aide de modèles ou en faisant glisser des blocs de contenu dans leur espace de travail, où ils peuvent collectivement discuter, commenter, modifier et garder le contrôle sur les tâches à accomplir. SharePoint / Onedrive Entreprise fournit la plate-forme sous-jacente de stockage et de collaboration pour l’application Loop, ont indiqué les responsables. Logiquement l’application sera intégrée à M365.

Petit ajout qui n’est pas une grande surprise en ce moment, Microsoft ajoute également sa technologie d’assistant IA Microsoft 365 Copilot à Loop, là encore en suivant l’exemple de Notion qui avait ajouté ces fonctions fin d’année. Les utilisateurs pourront utiliser des prompts tels que « créer », « brainstorming », « blueprint » et « décrire » ou utiliser leurs propres mots pour obtenir des suggestions spécifiques et personnalisées. Alors que l’application Loop elle-même est en preview publique à partir d’aujourd’hui, la fonction Copilot est elle en preview privée seulement.

Pour tester l’application Loop il suffit se rendre sur la page d’accueil de Loop pour y accéder sur le web. On peut également télécharger les versions mobiles de l’application pour Android et iOS, mais pour l’instant uniquement pour les comptes professionnels. Pour ce qui est de l’application Web et les utilisateurs professionnels, l’application Loop est désactivée par défaut, de sorte qu’elle ne sera pas disponible dans les entreprises, à moins que les administrateurs ne l’autorise expressément. Tout sauf cohérent : donc en gros compte perso ok pour l’application web mais pas pour les mobiles l’inverse pour les comptes pro…

Attention aussi en entreprise : cette beta n’a pas accès encore à toutes les capacités de conformité de Microsoft, puisque l’eDiscovery, l’étiquetage de sensibilité et d’autres fonctionnalités ne sont pas encore activés. Les responsables de Microsoft ont déclaré qu’ils fourniraient une liste de ce qui sera disponible dans les prochaines mises à jour de la feuille de route.

Nous aurons l’occasion de parler de tout ceci, du positionnement vis a vis du reste des techno Microsoft et des zones de recouvrement fonctionnel avec des applis comme OneNote par exemple mais aussi Planner, etc, lors du prochain Briefing Calipia en juin prochain. Inscrivez-vous dès maintenant 🙂

IA : Microsoft annonce le SDK Semantic Kernel

Publié le par Poster un commentaire

Microsoft vient d’annoncer la prévision du kit de développement « Semantic Kernel ». Logiquement ce dernier est dispo en Open Source sur GitHub. Le Semantic Kernel est donc un kit de développement logiciel (SDK) léger qui facilite l’utilisation d’éléments tels que ChatGPT d’OpenAI dans les applications, selon John Maeda, vice-président de Microsoft chargé de la conception et de l’intelligence artificielle, il fonctionne avec les langages de programmation conventionnels, avec une prise en charge actuelle en beta de « C# et Python ». Microsoft envisage d’ajouter la prise en charge de TypeScript et d’autres langages dans un futur proche.

Semantic Kernel, qui a débuté en tant que projet d’incubation interne à Microsoft, il prend actuellement en charge le modèle GPT-4 d’OpenAI et le service Azure OpenAI. Ses capacités peuvent être intégrées dans n’importe quel type d’application et peuvent se connecter à des sources de données et à des services externes. Semantic Kernel se distingue également par le fait qu’il permet aux développeurs d’utiliser des prompts complexes, ce qui peut s’avérer problématique lorsqu’on travaille avec de l’IA

« Ainsi, imaginez que vous puissiez facilement créer des invites complexes, des invites à multiples facettes, des invites qui font toutes sortes de choses comme se connecter à du code natif. Ce genre de choses est offert gratuitement avec Symantec Kernel » – John Maeda.

Ce SDK peut être en réalité considéré comme un ensemble de bonnes pour ajouter une IA riche en sémantique aux applications existantes. Ainsi la source GitHub comprend quelques exemples de codes modèles que les développeurs peuvent essayer. Il existe une capacité de « résumé de chat simple » pour les applications. Un exemple de code « Book creator » permet aux applications de créer des aperçus de livres. Il existe également un modèle de code de connecteur de base qui peut être utilisé pour « s’authentifier et se connecter à une API ».

Nous reviendrons lors du prochain Briefing sur les IA conversationnelles et leurs usages.

Que retenir en synthèse de la conférence Microsoft « Futur of Work with AI » d’hier ?

Publié le par 7 Commentaires

Elle était attendue, nous vous en parlions hier sur le blog autour des avancées en matière d’IA dans Linkedin. Nous n’avons pas été déçu, tant ces nouveautés annoncées sont enthousiasmantes, avec peut-être néanmoins quelques bémols, nous y reviendrons.

Microsoft a donc annoncé sans surprise ses nouvelles fonctions d’intelligence artificielle pour les applications Microsoft 365, avec de nombreuses démonstrations assez bluffantes. Ses fonctions présentées logiquement sous l’appellation « Copilot » sont basées sur GPT-4 d’OpenAI, cette nouvelle capacité sera placé à côté des applications Microsoft 365 comme un assistant, apparaissant dans la barre latérale comme un chatbot qui permettra aux utilisateurs de l’appeler pour générer du texte dans les documents, créer des présentations PowerPoint basées sur des documents Word, aider dans l’animation d’une réunion Teams ou même aider à utiliser des fonctionnalités telles que les tableaux croisés dynamiques dans Excel. La promesse énoncée par Microsoft est ambitieuse : « offrir une nouvelle façon de travailler »… tout simplement.

Amusant, l’annonce de Microsoft intervient quelques jours seulement après que Google a annoncé des fonctionnalités d’IA similaires pour Google Workspace, notamment la génération de texte assistée par l’IA dans Gmail, Docs, etc. Cette annonce de Google n’a visiblement pas enthousiasmé les foules avec aucune démo probante et surtout très peu de détail sur les technologies utilisées. Où est passé Bart ?

Regardons concrètement ce que propose Microsoft :

Copilot avec Word

Il pourra être utilisé dans Word pour rédiger des documents à partir d’autres fichiers. Le texte généré par l’IA sera ensuite être librement édité et adapté. Copilot étant essentiellement un chatbot, vous pourrez même lui demander de créer une présentation PowerPoint de 10 diapositives à partir d’un document Word lui même généré à partir de données externes…

Une petite vidéo de résumé :

Copilot avec Excel

C’est encore plus impressionnant dans Excel. Les utilisateurs peuvent utiliser Copilot pour créer instantanément une analyse SWOT ou un tableau croisé dynamique à partir de données. Là encore en langage naturel.

La vidéo de résumé :

Copilot avec Teams

Avant la réunion, Copilot pourra fournir des informations sur une réunion Microsoft Teams à venir, préparer les gens avec des mises à jour sur les projets connexes, les changements tels que des embauches récentes, et même des mises à jour sur les collègues qui pourraient être rentrés de vacances.

Lire la suite

Services Azure OpenAI assurés avec l’aide des composants Nvidia

Publié le par Poster un commentaire

Microsoft met en avant ses offres pour créer des supercalculateurs via son programme de cloud computing Azure pour aider la société OpenAI. Parallèlement, la société a également annoncé une nouvelle machine virtuelle d’IA utilisant les nouvelles GPU améliorés de NVIDIA. Ainsi la nouvelle ND H100 v5 VM de Microsoft utilise, on s’en doutait, les GPU H100 de NVIDIA, Il est donc possible pour toutes les entreprises qui ont besoin d’ajouter des fonctions d’IA d’accéder à ce service de machine virtuelle qui présente les caractéristiques suivantes, un nouveau bond en terme de performance :

8x GPU NVIDIA H100 Tensor Core interconnectés via la nouvelle génération de NVSwitch et NVLink 4.0

  • 400 Gb/s NVIDIA Quantum-2 CX7 InfiniBand par GPU avec 3,2 To/s par VM dans un réseau fat-tree non bloquant
    NVSwitch et NVLink 4.0 avec une bande passante bisectionnelle de 3,6 To/s entre 8 GPU locaux dans chaque VM.
  • Processeurs Intel Xeon Scalable de 4ème génération
    Interconnexion hôte-GPU PCIE Gen5 avec une bande passante de 64 Go/s par GPU
    16 canaux de DIMM DDR5 à 4800 MHz

Cette offre vient s’ajouter au ChatGPT in Azure OpenAI Service annoncé précédemment par Microsoft, nous vous en parlions hier sur le blog, qui permet à des tiers d’accéder à la technologie des chatbots via Azure.

Dans un autre billet de blog, Microsoft explique comment l’entreprise a commencé à travailler avec OpenAI pour aider à créer les supercalculateurs nécessaires au grand modèle de langage de ChatGPT (donc le nouveau Bing). Pour ce faire, il a fallu relier des milliers de GPU d’une toute nouvelle manière. Le blog propose une explication de Nidhi Chappell, chef de produit chez Microsoft pour Azure High Performance Computing and AI :

Pour former un grand modèle de langage, explique-t-elle, la charge de calcul est répartie entre des milliers de GPU dans un cluster. À certaines phases de ce calcul – appelé allreduce – les GPU échangent des informations sur le travail qu’ils ont effectué. Un réseau InfiniBand accélère cette phase, qui doit se terminer avant que les GPU ne puissent commencer le morceau de calcul suivant.

Ce matériel est associé à un logiciel qui permet d’optimiser l’utilisation des GPU NVIDIA et du réseau qui les fait fonctionner ensemble. Microsoft indique qu’elle continue d’ajouter des GPU et d’étendre son réseau tout en essayant de les faire fonctionner 24 heures sur 24 et 7 jours sur 7 grâce à des systèmes de refroidissement, des générateurs de secours et des systèmes d’alimentation électrique sans interruption.

« Entrées précédentes