OpenAI : les possibilités et les implications de la génération de textes par l’IA

Capture d’écran 2019-02-19 à 10.23.06.png

La société OpenAI, créée par Elon Musk en 2015 pour travailler sur le concept d’une IA « sûre », sous contrôle et au bénéfice des humains, a publié la semaine dernière sur son blog un article qui présente leur état d’avancement concernant un modèle pour prédire du texte à partir de texte existant. A noter qu’Elon Musk a quitté le board d’OpenAI il y a tout juste un an afin de limiter les risques de conflit d’intérêt, l’IA constituant un enjeu majeur pour les véhicules autonomes, dont Tesla est la figure de proue aujourd’hui.

Concrètement, OpenAI travaille sur un modèle, GPT-2, et l’entraine pour pouvoir prédire le mot suivant à partir des mots précédents dans un texte. Les possibilités d’un tel modèle sont, par exemple de générer un texte cohérent, ou de répondre à des questions, à partir d’une phrase qui lui est fourni, en se basant sur un dataset de 8 millions de pages Web. La force de GPT-2 est de travailler à partir d’informations qui ne sont pas spécifiques à un domaine, en tirant partie de techniques d’apprentissage non supervisé avec de gros volumes de données non étiquetées.

Dans son billet de blog, OpenAI donne des exemples de traitement (voir ici le premier exemple, c’est une histoire de licornes qui parlent anglais :)), et c’est vraiment bluffant. En partant d’un texte de 2 phrases d’une quarantaine de mots, GPT-2 est capable de produire une histoire de près de 400 mots, précise et cohérente.

Fidèle à sa mission (« Discovering and enacting the path to safe artificial general intelligence« ), OpenAI explique aussi dans ce billet que compte tenu des risques d’exploitation « maligne » d’un tel système, pour produire des fake news, ils ont décidé de ne pas publier l’intégralité de leur modèle, mais uniquement un sous ensemble de GPT-2, sans le dataset. le code d’entrainement ou les paramètres du modèle.

 

Répondre

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion /  Changer )

Photo Google

Vous commentez à l'aide de votre compte Google. Déconnexion /  Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion /  Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion /  Changer )

Connexion à %s

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur la façon dont les données de vos commentaires sont traitées.