Calipia : le blog

En mars, elle avait officiellement dévoilé Bing Image Creator, qui permet aux utilisateurs de créer des œuvres d’art à l’aide de quelques invites textuelles. En avril, elle a lancé l’aperçu public de Microsoft Designer, qui permet aux utilisateurs de créer un projet tel qu’un article de blog, un site web là encore encore à l’aide d’invites textuelles et de son modèle d’IA. A ce jour, Bing Image Creator a géré plus de 200 millions d’images et prend en charge plus de 100 langues différentes.

Ce n’est une surprise pour personne, on craint que les outils de création artistique basés sur l’IA ne soient utilisés par des groupes hostiles, voire par des pays, pour diffuser des informations erronées. Face à la multiplication des images et des vidéos de ce type deux approches s’opposent souvent : interdire les usages en tentant de bloquer les avancées de l’IA ou développer des technologies pour attester la véracité d’un contenu. Sans surprise, Microsoft penche pour la seconde solution.

Ainsi l’éditeur à annoncé qu’il ajouterait bientôt une fonctionnalité qui permettra à quiconque de voir si une œuvre d’art ou un clip vidéo a été créé par l’IA dans Bing Image Creator et Microsoft Designer. La technologie utilisée mettra en oeuvre des méthodes cryptographiques pour marquer et signer le contenu généré par l’IA avec des métadonnées sur son origine. Ce n’est pas la première fois que Microsoft s’attaque à ce problème. Elle avait co-fondée le projet Origin (avec le MIT et des journaux américains) et l’organisme de normalisation Coalition for Content Provenance and Authenticity (C2PA).

Selon l’éditeur cette fonctionnalité sera utilisée pour les principaux formats d’images et de vidéos dans le cadre de ses deux programmes de création de contenu par l’IA. Cependant, Microsoft n’a pas annoncé quels formats seraient pris en charge par les métadonnées. Elle n’a pas non plus donné de date précise pour l’ajout de cette fonctionnalité, mais uniquement : « dans les mois à venir »…

Google travaille de son coté aussi sur ce problème pour les contenus générés par ses IA. L’éditeur met aussi, sans surprise, son moteur de recherche d’image pour trouver la première apparition de cette dernier sur le Web : souvent simple et très efficace pour déjouer dès maintenant les pièges.