JO 2024 : des caméras dopées à l’intelligence artificielle pour assurer la sécurité
Le projet de loi relatif aux JO 2024 sera débattu au Parlement à partir du 24 janvier.Face au défi sécuritaire que représente l’événement, un arsenal inédit va être déployé.Caméras dopées à l’IA et logiciels de gestion de foules seront mis à contribution notamment.
Taxi volant, navette autonome, robot d’assistance… La technologie sera au cœur des Jeux olympiques 2024 à Paris. Un gigantesque laboratoire où l’intelligence artificielle (IA), notamment dans le domaine de la sûreté, sera également mise à contribution, une première à l’échelle du territoire. Le défi sécuritaire que représente l’événement donne des sueurs froides aux pouvoirs publics, en particulier des centaines de milliers de personnes attendues le long de la Seine pour la cérémonie d’ouverture. Le ministère de l’Intérieur réclame, à ce titre, la mise à disposition de moyens supplémentaires en matière de vidéosurveillance.
Un arsenal encore inédit, à base de logiciel de gestion de foules et de caméras dites «intelligentes», figure, entre autres, dans le projet de loi relatif aux JO 2024, dont les discussions débuteront le 24 janvier au Parlement. Objectif affiché, ne pas réitérer le fiasco de la finale de la ligue des champions de football, au Stade de France l’an dernier.
Loin des dispositifs de vidéoprotection classiques
Selon le texte présenté par l’exécutif, ces dispositifs s’appuyant sur des technologies d’intelligence artificielle serviront «pour la détection et le signalement en temps réel d’évènements prédéterminés» présentant un risque dans des lieux accueillant des compétitions et dans les transports en commun. Ils pourront également être déployés lors de manifestations sportives, récréatives ou culturelles, est-il précisé.
«Le projet de loi met en place un cadre juridique qui autorise l’usage de ces technologies à titre expérimental et uniquement pour une durée d’un an», souligne, auprès de TF1info, Marie Duboys Fresney, adjointe aux affaires économiques à la Cnil. Le déploiement de ce type de technologies marque un changement de nature par rapport aux dispositifs de vidéoprotection classiques, d’où ces précautions. «Ces dispositifs procèdent à des analyses automatisées dans l’espace public. Il y a donc un risque d’atteinte à la vie privée et aux droits et libertés des personnes qui est beaucoup plus attentatoire. Ce n’est plus juste un agent qui regarde des images derrière un écran», souligne-t-elle.
Il y aura nécessairement un contrôle humain derrière, qui décidera ou non d’intervenir ou de procéder à une interpellation»
Concrètement, ces outils de surveillance s’appuient sur des technologies d’intelligence artificielle qui analyseront en direct les flux d’images provenant des caméras de vidéosurveillance ou des drones qui survoleront les abords des stades. Conformément à l’avis de la Cnil, la prise de décision, en revanche, ne sera pas automatisée. «Imaginons que l’algorithme détecte un mouvement de foule, la présence d’un objet dangereux ou un comportement suspect, il y aura nécessairement un contrôle humain derrière, qui décidera ou non d’intervenir ou de procéder à une interpellation«, indique Marie Duboys Fresney. De plus, le projet de loi garantit, à ce stade, l’exclusion totale des technologies de reconnaissance faciale et de traitements de données biométriques, ajoute-t-elle.
Par ailleurs, conformément à l’avis de la Cnil, un décret devra également fixer précisément le type d’événements prédéfinis pouvant faire l’objet d’une analyse automatisée. «Une expérimentation n’a pas forcément vocation à aboutir à des dispositions pérennes. À ce jour, on ne connaît pas l’efficacité de ces dispositifs, et c’est justement tout l’intérêt de cette démarche. On a d’ailleurs insisté sur la nécessité d’avoir un rapport d’évaluation. Est-ce que ça fonctionne et à quel prix ? Quelles sont les risques et comment les limiter, le cas échéant ?», détaille la juriste de la Cnil. Même si la loi comporte un certain nombre de gardes fou, l’opacité de ces technologies pose des questions.
Un premier pas vers la surveillance de masse ?
Pour l’association de défense des libertés «La Quadrature du Net», le déploiement annoncé de ces technologies marque un tournant majeur, un premier pas vers la surveillance de masse. «Les événements sportifs ont toujours été un lieu d’expérimentation de mesures autoritaires, rappelle Noémie Levain, juriste au sein de l’association, contactée par TF1info. «L’État instrumentalise les Jeux olympiques pour justifier l’extension des technologies de surveillance dans l’espace public, en utilisant la reconnaissance faciale comme épouvantail de manière à minimiser l’impact de ces technologies. On sait très bien que c’est l’étape d’après», pointe cette spécialiste des questions de droit. «Ce n’est pas juste un petit logiciel pour aider les policiers. À chaque étape du développement de ces algorithmes, il y a des choix politiques», souligne-t-elle.
Il y a trois ans, l’association «La Quadrature du Net» a lancé l’initiative «Technolopolice», dans le but de recenser justement les nouvelles technologies policières en France. Le contexte sécuritaire, notamment au regard de la menace terroriste, encourage le développement de ces outils de surveillance. «A ce jour, il n’y a aucune étude sérieuse qui démontre que ces dispositifs sont efficaces. C’est même plutôt l’inverse», soutient Noémie Levain, qui cite à l’appui une étude commandée par l’École des Officiers de la Gendarmerie Nationale (EOGN). Si l’on en croit les conclusions, les images des caméras de vidéosurveillance seraient utilisées dans «environ une enquête sur dix» et se révèlent utiles pour les résoudre que «dans 1,13 % des cas». Pas très convaincant, en effet.
Du côté du ministère de l’Intérieur, on rappelle qu’il n’y a aucun cadre légal et juridique à ce stade et qu’il est donc difficile d’identifier objectivement les cas d’usage derrière cette technologie «La réflexion sera nourrie par le débat parlementaire. Puis, lorsque la loi sera définitivement votée, on en discutera avec les industriels pour savoir ce qu’on pourra mettre en place, indique, auprès de TF1info, le ministère de l’Intérieur. «L’intelligence artificielle est un sujet qui fait débat. Le ministre a choisi de ne pas y intégrer la reconnaissance faciale, et le projet de loi reprend l’ensemble des garanties qui avaient été identifiées par la Commision nationale de l’informatique et des libertés et le Conseil d’État. On y va à pas de velours, en espérant un débat apaisé et constructif», ajoute son porte-parole,
Matthieu DELACHARLERY
Publié à l’origine par :https://www.tf1info.fr/high-tech/video-jeux-olympiques-paris-2024-des-cameras-dopees-a-l-intelligence-artificielle-pour-assurer-la-securite-du-public-2245265.html
Olimpiadas de 2024: cámaras reforzadas con inteligencia artificial para garantizar la seguridad
El proyecto de ley relativo a los Juegos Olímpicos de 2024 se debatirá en el Parlamento a partir del 24 de enero. Ante el reto de seguridad que plantea el acontecimiento, se desplegará un arsenal sin precedentes, que incluye cámaras mejoradas con inteligencia artificial y programas informáticos de gestión de multitudes.
Taxis voladores, naves autónomas, robots de asistencia… La tecnología estará en el centro de los Juegos Olímpicos de 2024 en París. Un gigantesco laboratorio donde también se pondrá en práctica la inteligencia artificial (IA), especialmente en el ámbito de la seguridad, una primicia a escala territorial. El reto de seguridad que plantea el acontecimiento hace sudar frío a las autoridades públicas, sobre todo ante los cientos de miles de personas que se espera que se agolpen a orillas del Sena para la ceremonia de apertura. El Ministerio del Interior reclama más medios de videovigilancia.
Un arsenal sin precedentes, basado en programas informáticos de gestión de multitudes y en las llamadas cámaras «inteligentes», figura en el proyecto de ley relativo a los Juegos Olímpicos de 2024, que se debatirá en el Parlamento el 24 de enero. El objetivo declarado es evitar que se repita el fiasco de la final de la Liga de Campeones de fútbol del año pasado en el Estadio de Francia.
Muy lejos de los sistemas convencionales de protección por vídeo
Según el texto presentado por el Ejecutivo, estos dispositivos, basados en tecnologías de inteligencia artificial, se utilizarán «para la detección y notificación en tiempo real de eventos predeterminados» que supongan un riesgo en lugares que acojan competiciones y en el transporte público. También podrían utilizarse en acontecimientos deportivos, recreativos o culturales.
«El proyecto de ley establece un marco jurídico que autoriza el uso de estas tecnologías a título experimental y sólo por un periodo de un año», declaró a TF1info Marie Duboys Fresney, adjunta de asuntos económicos de la CNIL. La implantación de este tipo de tecnología supone un cambio de naturaleza con respecto a los sistemas tradicionales de protección por vídeo, de ahí estas precauciones. «Estos dispositivos realizan análisis automatizados en el espacio público. Por tanto, existe un riesgo de violación de la intimidad y de los derechos y libertades de las personas mucho más intrusivo. Ya no es sólo un agente mirando imágenes detrás de una pantalla», dijo.
Habrá necesariamente un control humano detrás, que decidirá si intervenir o no o proceder a una detención.
En concreto, estas herramientas de vigilancia se basan en tecnologías de inteligencia artificial que analizarán en directo secuencias de imágenes procedentes de cámaras de videovigilancia o de drones que sobrevolarán los estadios. Sin embargo, de acuerdo con el dictamen del Cnil, la toma de decisiones no se automatizará. «Digamos que el algoritmo detecta un movimiento de multitud, la presencia de un objeto peligroso o un comportamiento sospechoso, detrás habrá necesariamente un control humano, que decidirá si interviene o no o si procede a una detención», explica Marie Duboys Fresney. Además, el proyecto de ley garantiza, en esta fase, la exclusión total de las tecnologías de reconocimiento facial y tratamiento de datos biométricos, añade.
Además, de conformidad con el dictamen de la CNIL, un decreto también tendrá que establecer con precisión el tipo de hechos predefinidos que pueden ser objeto de análisis automatizado. «Un experimento no tiene por qué conducir necesariamente a disposiciones permanentes. Hasta la fecha, no sabemos hasta qué punto serán eficaces estos sistemas, y ese es el objetivo de este planteamiento. También insistimos en la necesidad de un informe de evaluación. ¿Funciona y a qué precio? ¿Cuáles son los riesgos y cómo pueden limitarse, en caso necesario? Aunque la ley contiene una serie de salvaguardias, la opacidad de estas tecnologías plantea interrogantes.
¿Un primer paso hacia la vigilancia masiva?
Para la organización de defensa de las libertades civiles «La Quadrature du Net», el anunciado despliegue de estas tecnologías marca un importante punto de inflexión, un primer paso hacia la vigilancia masiva. Los acontecimientos deportivos siempre han sido un lugar para experimentar con medidas autoritarias», declaró Noémie Levain, abogada de la asociación, contactada por TF1info. «El Estado está utilizando los Juegos Olímpicos para justificar la extensión de las tecnologías de vigilancia en los espacios públicos, utilizando el reconocimiento facial como espantajo para minimizar el impacto de estas tecnologías. Sabemos muy bien que este es el siguiente paso», afirma el jurista. «No se trata sólo de un pequeño programa informático para ayudar a la policía. En cada fase del desarrollo de estos algoritmos hay opciones políticas», subraya.
Hace tres años, la asociación «La Quadrature du Net» lanzó la iniciativa «Technolopolice», con el objetivo de identificar las nuevas tecnologías policiales en Francia. El contexto de seguridad, especialmente en lo que respecta a la amenaza terrorista, fomenta el desarrollo de estas herramientas de vigilancia. «Hasta la fecha, no existe ningún estudio serio que demuestre la eficacia de estos dispositivos. De hecho, ocurre lo contrario», sostiene Noémie Levain, que cita un estudio encargado por la Escuela de Oficiales de la Gendarmería Nacional (EOGN). Si hemos de creer las conclusiones, las imágenes de las cámaras de videovigilancia se utilizan en «aproximadamente una de cada diez investigaciones» y resultan útiles para resolverlas «sólo en el 1,13% de los casos». No es muy convincente.
El Ministerio del Interior señala que por el momento no existe un marco jurídico y que, por tanto, es difícil identificar objetivamente los casos de uso de esta tecnología. Después, cuando se vote definitivamente la ley, la discutiremos con la industria para saber qué podemos poner en marcha», declaró el Ministerio del Interior a TF1info. «La inteligencia artificial es objeto de debate. El ministro ha optado por no incluir el reconocimiento facial, y el proyecto de ley incluye todas las garantías que habían señalado la Comisión Nacional de Informática y Libertades y el Consejo de Estado. Nos lo tomamos con calma, esperando un debate sereno y constructivo», añadió su portavoz,
Matthieu DELACHARLERY
Publicado originalmente por: https://www.tf1info.fr/high-tech/video-jeux-olympiques-paris-2024-des-cameras-dopees-a-l-intelligence-artificielle-pour-assurer-la-securite-du-public-2245265.html