Calipia : le blog

Microsoft vient de déposer un brevet pour lutter contre le harcèlement et plus généralement les insultes sur le net. L’éditeur prévoit dans son brevet récemment déposé un «bouclier de toxicité» personnalisé qui permettrait de surveiller les communications et de censurer les données en fonction des préférences de l’utilisateur. Les choses ne sont pas simples car la définition de ce que l’on peut considérer comme «agressif» varie d’une personne à l’autre. Par exemple, un juron qui peut offenser quelqu’un, peut ne pas être interprété de la même manière par un autre utilisateur.

L’objet est de traiter toutes formes de communications : vocales ou textuelles, telles que celles de sessions de jeu en ligne, ou même des affichages dans des flux vidéo. Le système pourrait également être implémenté pour fonctionner dans le cadre de conférences Web en ligne ou de sessions VR / AR. Cela permettrait essentiellement aux utilisateurs de communiquer efficacement avec plusieurs autres personnes sans qu’une personne en particulier ne soit heurtée par des propos inadaptés…

Ce module de protection doit pouvoir analyser des « données de tolérance » afin de de proposer un fonctionnement spécifique à un utilisateur. Il pourrait également être basé sur des modèles de prévision générés par un moteur d’apprentissage automatique qui analyse les réactions aux comportements de l’utilisateur face aux insultes. Les utilisateurs pourront également configurer les paramètres manuellement dans le même but. En tant que tel, le système serait en mesure de réagir en conséquence – en mettant en sourdine, en censurant ou en ne lisant pas les données indésirables en temps réel. Dans certains cas, le système pourrait également envoyer des messages d’avertissement à l’auteur de ces actes indésirables ou suspendre toutes les communications avec lui automatiquement.

A suivre en tout cas pour voir si Microsoft intègre ce système assez largement dans ces applications (on pense à toutes les applications de communications de l’éditeur) et pourquoi pas directement à une future version de Windows…