Archives des étiquettes : reconnaissance faciale

Facebook modifie des vidéos pour bloquer la reconnaissance faciale

logo facebookFacebook se soucie de votre vie privée (si si…). Des chercheurs du laboratoire de recherche en Intelligence Artificielle de Facebook aurait mis au point un système à base de Machine Learning pour « dépersonnaliser des personnes dans les vidéos« .

Il existait déjà des startups comme D-ID par exemple ou d’autres algorithmes qui avaient réussi à faire de la dé-identification pour des images fixes, mais c’est la première technologie qui fonctionne sur des vidéos. Lors des premiers tests, la méthode a permis de contrecarrer les systèmes de reconnaissance faciale les plus modernes.

L’IA développée par Facebook propose une version légèrement déformée du visage d’une personne afin qu’il soit difficile pour la technologie de reconnaissance faciale de l’identifier. Et c’est là tout l’intérêt car un humain sera lui capable de reconnaitre la personne mais pas la machine ! Comment ? L’humain lui ne remarquera pas cette petite différence alors que la machine pensera qu’elle est suffisamment importante pour estimer que c’est une personne différente !

Facebook justifie ainsi sa démarche : « La reconnaissance faciale peut entraîner une perte de vie privée et la technologie de remplacement du visage peut être utilisée à mauvais escient pour créer des vidéos trompeuses « . Et d’ajouter « Les récents événements mondiaux concernant les progrès de la technologie de reconnaissance faciale et l’abus de cette technologie invoquent la nécessité de comprendre les méthodes qui permettent de traiter avec succès la dépersonnalisation de l’identité. Notre contribution est la seule qui convient à la vidéo, y compris la vidéo en direct, et présente une qualité qui surpasse de loin les méthodes actuelles. »

Lior Wolf, l’ingénier en charge du projet chez Facebook explique le fonctionnement : « L’approche de Facebook associe un codeur automatique contradictoire à un réseau de classificateurs« . Je sais pas si c’est plus clair, mais visiblement cela fonctionne. A voir si la société compte exploiter ceci dans ces applications : Facebook, Instagram, WhatsApp, son récent écran connecté Portal… rien n’est moins sur pour l’instant !

Microsoft n’est pas contre vendre les technologies de reconnaissance faciale aux gouvernements, avec quelques réserves…

reconnaissance facialeIl y a un mois une coalition de groupes d’activistes avait envoyé des lettres à Microsoft, Amazon et Google, leur demandant de ne pas vendre leurs technologies de reconnaissance faciale aux gouvernements. Ceci pour plusieurs raisons :

  • Cette technologie, selon ces groupes, mettrait à mal la sécurité des personnes et plus généralement la confiance du public.
  • Certains gouvernements pourraient utiliser cette technologie pour cibler les immigrants et les personnes de couleur.

Business Insider nous apprend que Brad Smith (patron des affaires juridique et Président de Microsoft), a répondu qu’il serait « cruel » de ne pas donner (ou plutôt vendre) ces technologies aux états en citant des exemples bénéfiques de leurs usages :

  • Le National Human Genome Research Institute, qui utilise la reconnaissance faciale pour améliorer le diagnostic du syndrome de Di George qui affecte les Africains, les Asiatiques et les Latino-Américains.
  • La technologie avait été utilisée en Inde pour retrouver 5 000 enfants disparus.

Il précise ainsi : « Qu’une interdiction générale de tous les usages du gouvernement va manifestement trop loin et risque d’avoir un effet humanitaire cruel.  » mais ajoute « qu’il était préoccupé par son utilisation dans des pays qui ne respectent pas les droits de l’homme »…

On se souvient il y a quelques temps la polémique sur les technologies de reconnaissance faciale qui posaient problème pour reconnaitre les personnes de couleur et les asiatiques. Microsoft avec ses services Azure Cognitives API dit avoir fait de très gros progrès.

On voit mal comment empêcher les gouvernements, même pas très scrupuleux sur les droits de l’homme acquérir de telles technologies… On voit bien comment ces mêmes acteurs se plient aux demandes de la Chine ou de la Russie par exemple pour continuer à faire du business sur place…