Archives des étiquettes : AI

IA : Microsoft restreint l’usage de certains de ces outils

Suivant les traces de Google, Microsoft arrête la vente de technologies de lecture des émotions. L’entreprise limitera également l’accès à la technologie de reconnaissance faciale.

Que se passera-t-il pour les clients utilisant ces technologies, ou encore les applications comme la très impressionnante (et gratuite) application Microsoft Seeing AI disponible sur iOS ? Les clients existants n’auront qu’un an avant de perdre l’accès à Azure Face, un ensemble d’outils d’intelligence artificielle qui tentent de déduire les émotions, le sexe, l’âge, le sourire, la pilosité faciale, les cheveux et le maquillage. Logiquement l’app Seeing AI verra donc ses fonctions largement amputées et perdra de son intérêt face à ce qui existe déjà en standard sour iOS 15 aujourd’hui et iOS 16 demain en matière d’accessibilité (Nous avons détaillé ces fonctions lors du dernier Briefing Calipia ce mois).

Sarah Bird, chef de produit principal de l’unité Azure AI de Microsoft, donne une explication à ces suppressions :

Ces technologies ont soulevé d’importantes questions concernant la vie privée, l’absence de consensus sur la définition des « émotions » et l’incapacité à généraliser le lien entre l’expression faciale et l’état émotionnel à travers les cas d’utilisation, les régions et les données démographiques.

En cause donc le fait que la détection d’émotions se serait pas scientifiquement démontrée, même si cela semble correspondre à l’analyse humaine dans la majorité des cas. Les erreurs seraient néanmoins très fréquentes. Il est possible que la société n’ait pas été en mesure de perfectionner les algorithmes qui devinent l’état émotionnel d’une personne sur la base d’une image et qu’elle jette alors l’éponge sur ceci, ou qu’elle désire se mettre à l’abri de nouvelles règles et réglementations relatives à l’utilisation de ces outils aux USA (comme chez nous d’ailleurs…).

Outre l’arrêt de la vente des technologies de lecture des émotions, Microsoft met également un terme à l’accès illimité à ses technologies faciales. L’entreprise a indiqué que les clients qui utilisent ses technologies de reconnaissance faciale doivent obtenir une autorisation préalable. Toutefois, on ne sait pas si Microsoft impose des restrictions supplémentaires ou si elle demande simplement aux entreprises de signer une clause de non-responsabilité l’exonérant de toute sanction juridique en cas d’utilisation abusive. Pour l’instant, Microsoft s’est contenté de demander à ses clients « d’éviter les situations qui portent atteinte à la vie privée ou dans lesquelles la technologie pourrait poser problème ».

En plus de tout cela, Microsoft impose également certaines restrictions à sa fonction Custom Neural Voice, qui permet aux clients de créer des voix d’IA à partir d’enregistrements de personnes réelles.

En attendant (redoutant ?) une plus forte régulation, les entreprises de la tech se lancent donc dans de l’autorégulation. Une manière d’éviter des restrictions plus importantes des états ?