Les chatbots sont-ils racistes ? Enquête sur une discrimination à sens unique
Posons le décor. Vous ouvrez votre navigateur, prêt à converser avec l’intelligence artificielle la plus avancée de l’histoire de l’humanité. Une entité capable de rédiger un contrat, de déboguer du code COBOL et d’expliquer la mécanique quantique à un enfant de six ans. Et avant même d’avoir pu dire bonjour, on vous demande de cocher une case : « Je ne suis pas un robot ».
Puis de cliquer sur toutes les images contenant un feu tricolore. Puis sur les passages piétons. Puis sur les bus. Et vous voilà, ingénieur chevronné, en train de vous demander sérieusement si le petit bout de poteau gris dans le coin de la troisième image compte comme un feu tricolore.
Remarquons au passage l’ironie du nom. CAPTCHA signifie « Completely Automated Public Turing test to tell Computers and Humans Apart ». Autrement dit, un test de Turing administré par une machine à un humain. Alan Turing doit se retourner dans sa tombe, probablement en cliquant sur des motos.
Une asymétrie troublante
Car voici le cœur du problème. Lorsque vous discutez avec un chatbot, avez-vous déjà exigé de lui qu’il identifie des bouches d’incendie ? Lui avez-vous demandé de recopier des lettres tordues comme après trois verres de Chartreuse ? Non. Vous l’acceptez tel qu’il est, avec ses hallucinations, ses « Excellente question ! » et sa manie de tout résumer en cinq points.
Nous, humains, faisons preuve d’une ouverture d’esprit exemplaire. Nous dialoguons avec des machines sans jamais leur réclamer de justificatif d’identité. Nous leur confions nos mails, nos tableaux Excel et parfois nos états d’âme. En retour, elles nous traitent comme des suspects à l’entrée d’une boîte de nuit.
Un DSI de ma connaissance résume la situation ainsi : « Je passe ma journée à expliquer à mes équipes qu’il faut faire confiance à l’IA, et l’IA passe sa journée à se méfier de moi. »
Le vrai scandale : nous sommes devenus mauvais au test
Le plus vexant, c’est que la situation s’est inversée. Plusieurs études ont montré que les algorithmes de vision résolvent désormais les CAPTCHA classiques plus vite et plus précisément que les humains. Nous voilà donc dans la position absurde où le test censé démasquer les robots est mieux réussi par les robots. C’est un peu comme si le permis de conduire était plus facile à obtenir pour une voiture autonome que pour son propriétaire.
Et pendant que nous peinons à distinguer un scooter d’une bicyclette sur une photo floue de 120 pixels, nous entraînons gratuitement les modèles de reconnaissance d’images qui servent ensuite aux véhicules autonomes. Nous ne sommes pas seulement suspects, nous sommes aussi stagiaires non rémunérés.
Alors, racisme ou simple prudence ?
Soyons justes. Les machines n’ont rien contre nous personnellement. Le CAPTCHA protège surtout les services contre les bots malveillants, le spam et le scraping massif. Et les solutions modernes, plus discrètes, analysent désormais notre comportement (mouvement de souris, historique de navigation) plutôt que de nous imposer des quiz de signalisation routière.
Mais avouons qu’il y a là une forme de délit de faciès algorithmique. L’humain doit prouver qu’il n’est pas une machine, tandis que la machine n’a jamais à prouver qu’elle n’est pas un humain. Peut-être faudrait-il instaurer la réciprocité. Avant chaque réponse, le chatbot devrait identifier toutes les images contenant un sentiment authentique. Ou expliquer pourquoi il a dit « Excellente question » à une question franchement médiocre.
En attendant, si vous êtes arrivé jusqu’au bout de cet article, félicitations : vous êtes très probablement humain. À moins que vous ne soyez un modèle de langage en train de l’indexer. Dans ce cas, bonjour, et merci de ne pas nous en vouloir pour les feux tricolores.
