Calipia : le blog

Microsoft a annoncé une nouvelle technologie pour lutter contre les fameux Deepfakes qui sont les vecteurs importants de la désinformation, qui ne manquera pas d’être largement utilisée lors des prochaines élections américaines.Vous le savez, ces « deepfakes », utilisent l’intelligence artificielle pour modifier des photos, des vidéos ou des fichiers audio de manière difficilement détectable afin de donner l’impression que quelqu’un fait ou dit quelque chose qu’il n’a pas fait ou qu’il se trouve dans des endroits où il n’était pas. On voit bien le danger de telles pratiques que la technologie permet malheureusement aujourd’hui.

Microsoft propose ainsi, Microsoft Video Authenticator, outil qui analyse une photo ou une vidéo pour fournir un pourcentage de chance, ou score de confiance, indiquant la probabilité qu’elle soit manipulée. Pour les vidéos, l’outil peut fournir ce score en temps réel sur chaque image pendant la lecture de la vidéo. Cette technologie a été développée à l’origine par Microsoft Research en coordination avec l’équipe responsable de l’IA de Microsoft et le comité AETHER (Ethics and Effects in Engineering and Research). Pour fonctionner cette technologie détecterait la limite de mélange entre les éléments de fond et les éléments plus subtils de décoloration ou de niveaux de gris qui aurait été modifiés et surtout qui sont souvent indétectables par l’œil humain. Problème, cette technologie risque de devenir rapidement obsolète, car pendant ce temps se sont aussi les technologies de Deepfake, elles aussi alimentées à l’IA qui continueront de se perfectionner. Pour lutter contre ceci Microsoft a annoncé un systèmequi permettra aux producteurs de contenu d’ajouter un code caché à leurs séquences afin de signaler toute manipulation des séquences initiales. Microsoft s’est également associé à un consortium de médias comme la BBC, la CBC/Radio-Canada et le New York Times pour tester la technologie et contribuer à la faire progresser en tant que norme.

Cette technologie ne sera pas directement mise à la disposition du public. Microsoft s’est associé à l’AI Foundation, une entreprise à la fois commerciale et à but non lucratif basée à San Francisco pour que cette technologie soit utilisée dans le cadre de l’initiative Reality Defender 2020 (RD2020) de la fondation pour les organisations impliquées dans le processus démocratique, y compris les organes d’information et les campagnes politiques.