Une reconnaissance faciale éthique est-elle envisageable ou bien est-ce un idéal juridique ?
Une reconnaissance faciale éthique est-elle envisageable ou bien est-ce un idéal juridique ?
S’il est plutôt évident pour tout le monde que la reconnaissance faciale est un outil qui permet d’identifier des personnes, il est moins évident de savoir comment elle fonctionne ainsi que les dangers auxquels elle nous expose.
Pour comprendre comment fonctionne la reconnaissance faciale, il est important d’en distinguer deux types : l’authentification et l’identification.
- L’authentification, a pour but de vérifier l’identité d’une personne. Pour ça, l’algorithme va comparer le gabarit du visage pris en photo aux gabarits enregistrés dans la base de données. S’il y trouve une correspondance, c’est donc que l’identité est confirmée.
On utilise ce type de reconnaissance faciale dans les portails d’identification présent dans de nombreux aéroports. Deux lycées à Marseille et à Nice ont tenté d’importer cette technologie à l’entrée des lycées pour des raisons de sécurité mais la CNIL a récemment interdit cet usage qu’elle trouve « disproportionné ». Au-delà d’une question de sécurité, il y aurait aussi derrière l’usage de ces portails une question économique car ils coûteraient moins chers que le personnel.
Le système d’Authentification en Ligne Certifiée sur Mobile (ALICEM) utilise aussi cette technologie. Lancé par le gouvernement et toujours en phase d’expérimentation, il donnerait accès, depuis son téléphone, aux services administratifs.
Cet usage de la reconnaissance faciale serait le moins dangereux car pour les portails par exemple, la photo prise au moment du passage n’est pas conservée. Pour ce qui est d’ALICEM, les données biométriques seraient conservées sur le téléphone, donc sous notre contrôle et non partagées à un tiers.
- L’indentification a pour but de retrouver une personne parmi la foule. Ce procédé croise les images des caméras de vidéosurveillance avec celles d’une base de données où sont stockées des milliers (voir des milliards) de photos.
En France, ce type de reconnaissance faciale est utilisé en phase expérimentation à Nice, une ville qui possède énormément de caméras de surveillance. Si dans le cadre de cette expérience, la base de données repose sur une liste de volontaires, il n’est pas inimaginable que certains organismes décident d’employer des moyens peu éthiques pour constituer leur base.
Des dangers multiples et méconnus
Le bon fonctionnement d’une identification faciale repose sur sa base de données. Il est évident que plus elle est grande et de bonne qualité, plus l’efficacité de la technologie augmente. Une fois constituée, la base ne peut être totalement sécurisée et les risques de fuites ne sont pas à prendre à la légère. Récemment, une entreprise chinoise a vu une partie de sa base hackée et ses données dispersées sur internet. Cela signifie que des données appartenant à des personnes se sont retrouvées accessibles à tous sur internet.
L’autre problème de ce fonctionnement est la façon dont se construit cette base. Aux Etats-Unis, la start-up Clearview AI a été mise en demeure par Facebook, Google ou encore Twitter. Le problème étant que Clearview AI a créé une base données énorme d’environ trois milliards d’images tirées de différents réseaux sociaux comme YouTube, Twitter, Instagram … alors que le règlement de ces applications l’interdit. La start-up vendait le partage et l’accès à leur base de données aux forces de police américaine ce qui leur permettait de faciliter leur travail.
Ce problème d’éthique autour de la reconnaissance faciale est aussi en partie dû au vide juridique autour de la question. Cette technologie tend à se développer et se perfectionner très vite, il y a donc une nécessité de se projeter et d’anticiper ses évolutions, au risque sinon, de mettre en danger nos libertés. Dans un article publié en octobre dernier dans Le Monde, Didier Bachère, député LREM, et Stéphane Sejournée, député européen, nous mettaient déjà en garde :
« Si nous n’y prenons garde, la reconnaissance faciale s’imposera d’elle-même, avec ses biais sur lesquels il sera bien difficile de revenir, malgré les discriminations engendrées. »
L’usage de la reconnaissance faciale dans une société qui n’encadre pas son utilisation aurait des conséquences sur nos libertés d’où l’importance de mettre un terme à ce vide juridique. La CNIL a proposé le 15 Novembre dernier un « code de la route » pour l’usage de cette technologie. Ce document vise à poser un cadre à l’utilisation de cet outil mais milite aussi pour en faire un usage limité et très encadré.
De son côté, le gouvernement français par l’intermédiaire de Cédric O, le Secrétaire d’état chargé du Numérique, souhaite « prendre le temps nécessaire pour que la société tout entière puisse décider en connaissance de cause de l’utilisation de cette technologie dans notre quotidien ». Le gouvernement français soutient donc la recherche et l’expérimentation dans ce secteur qui serait nécessaire pour que les entreprises progressent, selon le ministre.
Cependant, la Quadrature du net, une association qui cherche à protéger les droits et les libertés sur internet, s’oppose farouchement à cette prise de position faite par l’Etat. Pour eux, la reconnaissance faciale serait un « outil ultime de surveillance de la population » et permettrait de faire des policiers des surhommes.
Il est vrai que si on regarde ce qu’il se passe en Chine, l’usage de la reconnaissance faciale dans cet Etat autoritaire lui permet de toujours mieux contrôler sa population. D’une part, cette technologie va jusqu’à établir une sorte de profilage de ses citoyens afin de les noter et de les surveiller et donc de restreindre leurs libertés. Elle permet aussi de garder un œil sur les minorités, comme les Ouighours (et donc d’entretenir les discriminations), mais aussi sur les opposants au régime. Pour ce qui est des policiers surhommes, c’est presque déjà le cas car le gouvernement chinois souhaite doter ses policiers de lunettes intelligentes de reconnaissance faciale. Elles leur permettraient de reconnaitre un homme recherché par un simple regard.
Face à l’exemple de la Chine, il est évident que la reconnaissance faciale, surtout quand on sait quels peuvent-être les dangers de sa mauvaise utilisation, fasse peur. Cependant, aujourd’hui, la reconnaissance faciale telle que nous la connaissons a des problèmes d’efficacité avec un fort taux d’échec à l’identification dans une foule. On lui attribue des promesses de sécurité comme le fait le maire de Nice, Christian Estrosi, mais elle ne permet pas encore de prévenir les attentats ou toutes autres sortes de délits. Elle se limite à un usage a posteriori. Concernant son évolution, on pourrait imaginer que dans quelques années, la reconnaissance faciale se perfectionnera à tel point qu’elle devra faire face à de nouveaux enjeux. Fusionnée avec les technologies d’intelligence artificielle, elle pourrait peut-être même prédire des crimes ou des infractions.
En somme, la solution serait d’établir un juste milieu et de l’éthique dans l’utilisation de la reconnaissance faciale. Dans l’idéal il faudrait organiser un cadre juridique au niveau européen voir mondial et établir des normes communes qu’un organisme indépendant se chargerait de faire respecter afin que nos libertés ne soient pas en danger et donc d’empêcher des dérives pouvant servir un Etat autoritaire. Le problème, c’est qu’en réalité, mettre un terme au vide juridique à l’échelle nationale, c’est faisable, mais à l’échelle européenne, ça semble un peu plus compliqué et encore plus à l’échelle mondiale. Surtout quand on sait que tous les pays ne partagent pas les mêmes valeurs ou la même définition des droits de l’homme.
Par Adèle BRUNAGEL,
étudiante en 1ère année de Relations Internationales à l'ILERI et membre de Cyb-RI.
#Cybersecurite #ReconnaissanceFaciale #Strategie #Cyber #Defense #Liberte #Technologies #Tech #Numerique #SSI #France #ILERI #IA #IntelligenceArtificielle #Hacker #Hacking #Cyberdefense #AI
Sources :
ALICEM : 