Reconnaissance faciale : pourquoi l'UE veut l'interdire ?

Si la reconnaissance faciale est présente dans notre quotidien avec nos smartphones, l'Union européenne envisage d'interdire l'usage de la reconnaissance faciale pour une durée de 3 à 5 ans dans les lieux publics. En effet, un document sur les propositions de régulation de l'intelligence artificielle s'interroge sur cette possibilité. Retour sur un débat qui ne fait que commencer.

La Commission européenne tacle les problématiques liées à l'encadrement de l'intelligence artificielle

La Commission européenne est en train de travailler sur un cadre réglementaire pour l'intelligence artificielle qui pourrait bannir l'utilisation de la reconnaissance faciale dans les secteurs privés et publics pour une période allant de 3 à 5 ans.

C'est en tout cas ce que révèle le site Euractiv qui a "leaké" un livre blanc ("White Paper") de 18 pages encore au stade de brouillon et dont la version définitive serait prévue pour février. Ce document ne traite d'ailleurs pas que de la reconnaissance faciale mais aussi et surtout de toutes les applications de l'intelligence artificielle dans notre société. Dans ce document, la Commission européenne semble mesurer le danger potentiel d'une reconnaissance faciale utilisée sans un cadre réglementaire bien défini :

En dépit des opportunités que l'intelligence artificielle peut apporter, celle-ci peut aussi nuire. Un dommage potentiel provoqué par l'intelligence artificielle pourrait être tout aussi bien matériel (accident grave, sécurité et santé des individus, dommages matériels, etc.) et immatériel (atteintes à la vie privée, restrictions de la liberté d'expression et de la dignité humaine, etc.), et peut amener un large éventail de risques...

Cet éventail de risques est rassemblé en 2 sections dans le document avec notamment :

1. Les risques liés aux droit fondamentaux incluant la discrimination, la vie privée et protection des données personnelles. Un exemple de discrimination liée à une intelligence artificielle est celui du système de publicité de Facebook comme le rapporte le document : "Un employeur avait publié une annonce pour un emploi dans un secteur dominé par les hommes. L'algorithme publicitaire de Facebook a ainsi poussé l'annonce uniquement vers les hommes pour maximiser les retours en nombre et nature des applicants."
2. Les risques de sécurité et de responsabilité. Un exemple de problématique lié à ces considérations est celui d'un accident fatal à bord d'un véhicule autonome Uber en Arizona en 2018. Le système n'ayant pas reconnu une passante traversant en dehors du passage piéton a causé ainsi sa mort. En plus de la tragédie, il est alors difficile de comprendre d'où vient la faute et d'attribuer une responsabilité légale pour protéger et dédommager les victimes.

Qu'est-ce que l'intelligence artificielle ? Dans ce document de la Commission européenne, l'intelligence artificielle est définie comme "un système logiciel (ou possiblement un système matériel informatique) conçu par des humains, doté d'un but complexe, qui agit dans la dimension numérique ou physique en percevant son environnement par la collecte de données, interprétant ces données collectées structurées et non structurées [...] et décidant des meilleures actions à mener pour accomplir le but fixé."

La Commission européenne considère une interdiction de la reconnaissance faciale de 3 à 5 ans

Comme nous l'avons mentionné auparavant, il est effectivement fait mention dans ce document de la possibilité de bannir l'usage de la technologie de reconnaissance faciale pour les acteurs privés et publics. Cette éventuelle interdiction est mentionnée dans les 5 propositions de régulation qui sont envisagées par la Commission européenne pour encadrer légalement et efficacement l'intelligence artificielle :

1. L'étiquetage volontaire consisterait en un ensemble de pratiques à respecter pour le développement d'une intelligence artificielle éthique et fiable. Les développeurs pourraient choisir volontairement de suivre ces directives et bénéficier ainsi d'un label "intelligence artificielle fiable et éthique".
2. L'utilisation de l'intelligence artificielle par les pouvoirs publics et ses réglementations. Dans cette partie, le document s'interroge sur les différentes manières de réguler la reconnaissance faciale et revient sur le droit des individus à refuser une décision basée purement sur une intelligence artificielle sans leur consentement. La Commission s'interroge aussi sur le bien fondé d'une interdiction de l'usage de la reconnaissance faciale pour une durée définie de 3 à 5 ans.
3. La définition de secteurs à haut risque où le danger pour les individus sont élevés ou bien une dimension légale d'importance est en jeu. Ces secteurs comme la santé, l'appareil judiciaire ou les transports seraient bien plus encadrés et régulés.
4. Un développement de la législation concernant sécurité et responsabilité pour l'intelligence artificielle. Les lois existantes étant insuffisantes pour répondre adéquatement aux potentiels litiges et problématiques liés à la cyber-sécurité, la protection des données personnelles et de la vie privée.
5. Le dernier point porte sur la gouvernance, c'est-à-dire la nécessité d'organismes de contrôle solide collaborant avec les autorités déjà en place au niveau national et européen.

Le bannissement des technologies de reconnaissance faciale est ainsi bien mentionné et envisagé dans ce document avec tout de même des exceptions pour la recherche et le développement dans le domaine de la sécurité. Les auteurs émettent malgré tout certaines réserves : "par sa nature, une telle interdiction serait une mesure radicale qui pourrait entraver le développement et l'assimilation de cette technologie."

En guise de conclusion, le document suggère d'ailleurs plutôt un mélange des propositions 3,4 et 5 :

Par conséquent, la Commission pourrait envisager la combinaison d'un instrument horizontal précisant les exigences de transparence et de responsabilité couvrant aussi la structure gouvernante, complété par des amendements spécifiques de la législation européenne concernant la responsabilité et la sécurité.

Envie d'un smartphone doté de la reconnaissance faciale ?Découvrez notre guide sur les meilleurs smartphones du moment. La plupart est dotée de cette technologie.