Alerte de la Cnil sur la vidéosurveillance augmentée
Les dispositifs de vidéosurveillance alimentée par l'IA dans l'espace public pourraient être le prochain défi des pouvoirs publics. Face à leur multiplication, la Cnil met le holà, mettant en cause des risques démesurés de surveillance massive. Elle en appelle à une régulation par des textes réglementaires ou législatifs.
Face aux caméras augmentées alimentées par l'intelligence artificielle, la Commission nationale de l'informatique et des libertés (Cnil) monte au créneau. Après avoir lancé une consultation publique sur le sujet des systèmes de vidéosurveillance à base d'IA dans l'espace public en janvier dernier, et ce pour une durée de deux mois, elle publie sa position. L'autorité précise notamment les conditions de déploiement des dispositifs de vidéo « augmentée » dans les lieux ouverts au public. Elle y présente ainsi le cadre juridique actuellement applicable et souligne les risques pour les droits et libertés des personnes.
La Cnil ajoute que dans sa prise de position, elle ne s'est pas intéressée aux dispositifs de reconnaissance biométrique et aux usages des dispositifs de vidéo augmentée dans des lieux non ouverts au public (par exemple bureaux, réserves ou entrepôts de magasins...), dans un cadre strictement domestique et en temps différé. Elle se focalise sur les dispositifs de vidéo augmentée dans les lieux publics, où l'objectif étant de « catégoriser et analyser grâce à l'intelligence artificielle sans identifier une personne de manière unique ». Dénonçant des risques d'un nouveau genre pour la vie privée, elle indique qu'« une généralisation non maîtrisée de ces dispositifs, par nature intrusifs, conduirait à un risque de surveillance et d'analyse généralisée dans l'espace public susceptible de modifier, en réaction, les comportements des personnes circulant dans la rue ou se rendant dans des magasins ».
« Fixer des lignes rouges »
Afin de gérer au mieux les risques que comporte le déploiement dans l'espace public de « caméras augmentées », la Cnil appelle donc à une réflexion d'ensemble sur le juste usage de ces outils dans l'espace public, quelle que soit, par ailleurs, la légitimité de chaque usage pris isolément. Elle estime qu'il est nécessaire de fixer des lignes rouges pour ne jamais utiliser ces caméras à des fins de « notation » des personnes comme en Chine. Le fameux système de confiance en la société ou communément appelé système de crédit social. À ce jour, elle estime que la loi française n'autorise pas l'usage, par la puissance publique, des caméras « augmentées » pour la détection et de poursuite d'infractions, qu'il s'agisse de dispositifs dédiés ou couplés à des caméras de vidéoprotection préexistantes.
Les dispositifs qui sont visés ici ont pour objet de permettre aux services de police et de gendarmerie de détecter des comportements considérés comme « suspects » (attroupements ou mouvements rapides d'individus, présence anormalement longue d'une personne dans un lieu, etc.) car ils laisseraient présumer une infraction passée ou imminente (vol, atteintes aux biens ou aux personnes, etc.). En ce sens, une loi spécifique devrait fixer les cas d'usage précis de ces caméras avec des garanties pour les personnes.
Quels usages admissibles ? Quel encadrement ?
La Cnil défend certains usages de ces caméras, notamment lorsqu'il s'agit de dispositifs comptabilisant les piétons, les voitures ou les cyclistes sur la voie publique afin de l'aménager, l'adaptation des capacités des transports en commun selon leur fréquentation, l'analyse de la fréquentation et de l'occupation d'un bâtiment pour en adapter la consommation énergétique, et d'autres exemples similaires. Elle précise toutefois que « dans la mesure où il n'est généralement pas possible pour les personnes d'exercer les droits qui leur sont reconnus par le RGPD - le droit d'opposition à être analysé par la caméra - ces usages ne seront licites que lorsqu'ils auront été autorisés par les pouvoirs publics, qui doivent prendre un texte (réglementaire ou législatif) pour écarter le droit d'opposition ».
Si les caméras sont utilisées à des fins de statistiques, constituées de données anonymes et n'ayant pas de vocation immédiatement opérationnelle, elles peuvent d'ores et déjà être déployées, sans encadrement spécifique. Elle cite en exemple le cas d'un dispositif permettant de calculer l'affluence dans le métro pour afficher aux voyageurs les rames les moins remplies vers lesquelles se diriger. De fait, elle indique que de façon plus générale, il revient aux pouvoirs publics de veiller à un usage limité de ces caméras afin d'éviter « une multiplication disproportionnée de ces dispositifs ». Notons que l'usage des caméras augmentées est l'un des axes thématiques faisant partie du plan stratégique 2022-2024 de la Cnil.
(Crédit : Joseph Mucira, Pixabay)
