Lire l’article sur l’ADN Innovation
Souriez, vous êtes fiché ! À partir de décembre 2018, l’Union européenne va mettre en place un nouveau dispositif de contrôle à l’entrée de son territoire. Il s’agit d’iBorderCTRL un bot censé soulager le travail des douaniers. Testé en Hongrie, en Lettonie et en Grèce, le système est notamment équipé d’une intelligence artificielle capable de détecter les mensonges. Son développement a coûté plus de 4 millions d’euros. Grâce à lui, l’UE espère mieux réguler les 700 millions d’entrées sur son territoire, mais aussi reprendre le contrôle de l’immigration clandestine et prévenir le crime et le terrorisme.
Concrètement, comment fonctionne-t-il ? Les voyageurs ou candidats à l’immigration qui ne sont pas citoyens européens peuvent utiliser, depuis un ordinateur équipé d’une webcam, le bot prévu à cette occasion. Ce dernier demande des copies numériques des papiers d’identité et des passeports puis commence un interrogatoire dans la langue du voyageur. Les questions posées sont les mêmes que celles d’un douanier classique : motif et durée du voyage, lieu de résidence, etc. Dans le même temps, une IA analyse le visage et la voix du candidatafin de prélever des données biométriques et un spectre vocal.
Détecter les mensonges… avec une marge d’erreur
L’algorithme de reconnaissance faciale examine aussi en détail les micros expressions du visage afin de prédire si la personne est en train de mentir. Pour cela, l’IA détecte des tics inconscients censés révéler le stress de la dissimulation. « On ne cherche pas vraiment de sourires ou de froncement de sourcils, explique le docteur Keeley Crockett de l’université de Manchester, responsable de la technologie. On essaye de capter des micro-mouvements en fonction des questions, comme les yeux qui vont rapidement de gauche à droite par exemple. »
Enfin, iBorderCTRL embarque un autre dispositif tout aussi intrusif que son détecteur de mensonge. À partir du nom et du prénom de l’individu, il va passer en revue l’ensemble de ses comptes de réseaux sociaux afin de vérifier s’il n’est pas en lien avec une personne recherchée par la justice. La machine ne décide toutefois pas toute seule qui peut entrer dans l’Union Européenne. En fonction du score obtenu lors de l’interrogatoire, les voyageurs sont placés dans des files d’attente plus ou moins longues lors du passage à la frontière. Si la machine estime que vous n’avez pas menti, la file d’attente sera plus rapide. En revanche, si vous faites partie de la catégorie des « menteurs potentiels », vous aurez non seulement droit à un nouvel interrogatoire plus poussé, mais aussi à l’enregistrement de vos empreintes digitales et un balayage des veines de la main.
Le système pose évidemment de nombreuses questions techniques et éthiques. La première concerne la fiabilité du détecteur de mensonge. D’après les chercheurs qui ont mis au point ce système, le taux de fiabilité est estimé à 75 % seulement. Mais ces derniers espèrent qu’il pourra monter à 85 % à l’issue du test qui devrait durer un an. Avec une marge d’erreur aussi importante, pas étonnant que le passage par iBorderCTRL se fasse de manière volontaire avec la demande de consentement du voyageur.
Des données biométriques et psychologique dans un même fichier
L’autre question posée par cette technologie concerne l’utilisation des données recueillies par le système. Sur ce sujet, l’avocat Alexandre Lazarègue, familier du droit de la donnée, tire la sonnette d’alarme. « C’est la première fois que l’on croise ensemble autant de donnée intimes et sensibles, explique-t-il. On peut voir quels sont les déplacements précédents, l’activité sur le web, les données biométriques et psychologiques ; tout ça au sein d’un même fichier qui indique si vous êtes considéré comme un menteur ou pas. C’est du jamais-vu. »
En plus de pouvoir sonder l’intégralité de notre vie, iBorderCTRL va sans doute garder les données quelque part, pour une durée qui est encore incertaine. « Si on se base sur le RGPD, les données sensibles peuvent être conservées durant un délai raisonnable en rapport avec le traitement des données, poursuit l’avocat. Tout est dans cette expression. Quand il s’agit de la sécurisation de l’ordre public, c’est quoi un délai raisonnable ? 2 ans ? 5 ans ? Si on garde ces données aussi longtemps, on augmente aussi les risques de fuite. Avec un tel fichier, ça peut donner des résultats catastrophiques. »
Pour le moment le système nécessite le consentement des voyageurs. Mais ça ne sera sans doute plus le cas le jour où il sera déployé de manière systématique à la frontière. « Dans ce cas, prévient Alexandre Lazarègue, iBorderCTRL sera en contradiction avec le RGPD. Il faudra mettre en place une législation particulière qui autorisera ce système très intrusif. On ne pourra pas franchir ce palier sans un débat public. »
