La policía de Londres reveló los resultados de su último despliegue de tecnología de reconocimiento facial en vivo (LFR) en Oxford Circus, que resultó en tres arrestos y el escaneo de la información biométrica de aproximadamente 15,600 personas.
El Servicio de Policía Metropolitana (MPS) dijo que su despliegue de LFR el jueves 7 de julio en las afueras de Oxford Circus era parte de una operación a largo plazo para abordar delitos graves y violentos en el distrito de Westminster.
Entre los arrestados se encuentran un hombre de 28 años buscado con una orden judicial por agresión a un trabajador de emergencia; una mujer de 23 años buscada por posesión con la intención de suministrar drogas de Clase A; y un hombre de 29 años por posesión con la intención de suministrar Clase A y no comparecer ante el tribunal.
Los agentes arrestaron y detuvieron a los arrestados siguiendo las alertas del sistema LFR montado en el vehículo, que permite a la policía identificar a las personas en tiempo real escaneando sus rostros y cotejándolos con una base de datos de imágenes faciales, o “lista de observación”, a medida que pasan. .
Según el documento de revisión posterior al despliegue compartido por el MPS, el despliegue fuera de Oxford Circus, uno de los estados del metro más concurridos de Londres, generó cuatro alertas de coincidencias, todas las cuales dijo que eran “alertas verdaderas”. También estima que el sistema procesó la información biométrica de unas 15.600 personas.
Sin embargo, solo tres de las alertas dieron lugar a que la policía interviniera y, posteriormente, arrestara a personas. Computer Weekly se comunicó con el MPS para obtener aclaraciones sobre la cuarta alerta, que decía que los operadores de LFR y los oficiales de participación no pudieron ubicar al individuo entre la multitud.
La última vez que la policía desplegó LFR en Oxford Circus el 28 de enero de 2022, el día después de que el gobierno del Reino Unido relajara los requisitos de uso de máscaras, el sistema generó 11 alertas de coincidencias, una de las cuales dijo que era falsa, y escaneó la información biométrica de 12,120 personas. Esto llevó a que siete personas fueran detenidas por oficiales y cuatro arrestos posteriores.
Al comentar sobre el despliegue más reciente, Griff Ferris, un alto funcionario legal y de políticas de la organización no gubernamental Fair Trials, que estuvo presente ese día, dijo: “El uso operativo de la vigilancia de reconocimiento facial por parte de la policía en los despliegues en Londres en los últimos seis años ha dado como resultado que innumerables personas hayan sido identificadas erróneamente, detenidas y registradas indebidamente, e incluso que se les hayan tomado las huellas dactilares. También ha sido claramente discriminatorio, con personas negras a menudo objeto de estas identificaciones erróneas y detenciones.
“A pesar de ello, la Policía Metropolitana, actualmente sin comisario, en medidas especiales, y autora de reiterados hechos que evidencian el sexismo y el racismo institucional, siguen tratando de fingir que esto es un ‘juicio’. El reconocimiento facial es una herramienta de vigilancia autoritaria que perpetúa la vigilancia racista. Nunca se debe usar”.
En respuesta a las preguntas de Computer Weekly sobre si el MPS ha recreado las condiciones operativas en un entorno controlado sin el uso de imágenes de custodia de la vida real, dijo: “El MPS ha realizado una diligencia significativa en relación con el rendimiento de su algoritmo”. Agregó que parte de esta diligencia está en continuar probando la tecnología en condiciones operativas.
“Junto con el despliegue operativo, el Met probó sus algoritmos de reconocimiento facial con el Laboratorio Nacional de Física [NPL]. Voluntarios de todas las edades y antecedentes pasan frente al sistema de reconocimiento facial… Después de esto, los expertos científicos y tecnológicos de la NPL revisarán los datos y producirán un informe sobre cómo funciona el sistema. Haremos públicos estos hallazgos una vez que se haya completado el informe”, dijo.
En el documento “Comprender la precisión y el sesgo” en el sitio web de MPS, agregó que las pruebas algorítmicas en entornos controlados solo pueden llevar la tecnología hasta cierto punto, y que “las pruebas controladas adicionales no reflejarían con precisión las condiciones operativas, particularmente la cantidad de personas que necesitan para pasar el sistema LFR de una manera que sea necesaria para proporcionar al Met más seguridad”.
Pide un nuevo marco legislativo para la biometría
En junio de 2022, Ryder Review, una revisión legal independiente sobre el uso de datos y tecnologías biométricos, que analizó principalmente su implementación por parte de las autoridades públicas, encontró que el marco legal actual que rige estas tecnologías no es adecuado para su propósito, no ha seguido el ritmo. con los avances tecnológicos, y no aclara cuándo y cómo se puede utilizar la biometría, ni los procesos que se deben seguir.
También encontró que los arreglos de supervisión actuales están fragmentados y son confusos, y que la posición legal actual no protege adecuadamente los derechos individuales ni enfrenta las invasiones muy sustanciales de la privacidad personal que puede causar el uso de la biometría.
“Mi revisión legal independiente muestra claramente que el régimen legal actual está fragmentado, confuso y no se mantiene al día con los avances tecnológicos. Necesitamos urgentemente un marco legislativo nuevo y ambicioso específico para la biometría”, dijo Matthew Ryder QC de Matrix Chambers, quien realizó la revisión. “No debemos permitir que prolifere el uso de datos biométricos bajo leyes inadecuadas y regulaciones insuficientes”.
Fraser Sampson, el actual comisionado de cámaras de vigilancia y biometría del Reino Unido, dijo en respuesta a Ryder Review: “Si las personas van a tener confianza en el uso legítimo de las tecnologías biométricas, el marco de responsabilidad debe ser integral, consistente y coherente. Y si vamos a confiar en el consentimiento implícito del público, ese marco tendrá que ser mucho más claro”.
No debemos permitir que prolifere el uso de datos biométricos bajo leyes inadecuadas y regulaciones insuficientes.
Matthew Ryder, cámaras de matriz
La falta de legislación en torno al reconocimiento facial en particular ha sido una preocupación durante varios años. En julio de 2019, por ejemplo, el Comité de Ciencia y Tecnología del Parlamento del Reino Unido publicó un informe que identificaba la falta de un marco y pedía una moratoria sobre su uso hasta que se estableciera un marco.
Más recientemente, en marzo de 2022, el Comité de Justicia y Asuntos Internos de la Cámara de los Lores (JHAC) concluyó una investigación sobre el uso de tecnologías algorítmicas avanzadas por parte de la policía del Reino Unido, y señaló que se necesitaría una nueva legislación para regular el uso general de estas tecnologías por parte de la policía. (incluido el reconocimiento facial), que describió como “un nuevo Salvaje Oeste”.
Sin embargo, el gobierno ha rechazado en gran medida los hallazgos y recomendaciones de la investigación, afirmando que aquí ya existe “una red integral de controles y contrapesos”.
Si bien tanto Ryder Review como JHAC sugirieron implementar una moratoria sobre el uso de LFR, al menos hasta que se establezca un nuevo marco legal y un nuevo código de práctica, el gobierno dijo en su respuesta al comité que “no estaba persuadido por la sugerencia”. , y agregó: “Las moratorias son un proceso que requiere muchos recursos y puede generar retrasos significativos en el despliegue de nuevos equipos”.
Cuando Computer Weekly le preguntó si el MPS consideraría suspender el uso de la tecnología, citó esta respuesta del gobierno y agregó: “El uso del reconocimiento facial por parte del Met ha hecho que numerosas personas sean arrestadas ahora por delitos violentos y otros delitos graves. Es una táctica operativa que ayuda a mantener seguros a los londinenses y refleja nuestras obligaciones con los londinenses para prevenir y detectar delitos”.
¿Necesario y proporcionado?
Antes de que pueda implementar la tecnología de reconocimiento facial, el MPS debe cumplir una serie de requisitos relacionados con la necesidad, la proporcionalidad y la legalidad.
Por ejemplo, el documento de mandato legal del MPS, que establece el complejo mosaico de legislación que, según la fuerza, le permite implementar la tecnología, dice que “los funcionarios autorizados deben decidir que el uso de LFR es necesario y no solo deseable para permitir que el MPS lograr su objetivo legítimo”.
En respuesta a las preguntas sobre cómo la fuerza decidió que era necesario el despliegue del 7 de julio, el MPS afirmó: “El despliegue fue autorizado sobre la base de un caso de inteligencia y la necesidad operativa de desplegar, de acuerdo con los documentos LFR del Met”.
En cuanto a la base sobre la cual se consideró proporcionado el despliegue, agregó: “La proporcionalidad de este despliegue se evaluó teniendo debidamente en cuenta el caso de inteligencia y la necesidad operativa de desplegar, mientras se sopesaba el impacto en aquellos agregados a la lista de vigilancia y aquellos quién podría esperarse que pasara el sistema LFR.”
El despliegue de LFR, según el documento de revisión de MPS, contenía 6.699 imágenes en las listas de observación, escaneó la información de 15.600 personas y generó cuatro alertas, lo que condujo a tres arrestos.
Las justificaciones descritas a Computer Weekly por el MPS con respecto a la necesidad y la proporcionalidad son exactamente las mismas que las proporcionadas después de su último despliegue de Oxford Circus LFR a fines de enero de 2022.
La Evaluación de Impacto de Protección de Datos (DPIA) de MPS también dice que “todas las imágenes enviadas para su inclusión en una lista de vigilancia deben estar en posesión legal de MPS”.
En 2012, un fallo del Tribunal Superior determinó que la retención de imágenes de custodia, que se utilizan como la fuente principal de las listas de vigilancia, por parte de la Policía Metropolitana era ilegal, y la información de las personas no condenadas se conservaba de la misma manera que la de aquellos que finalmente fueron condenados. También consideró que el período mínimo de conservación de seis años no era proporcionado.
Dirigiéndose al Comité Parlamentario de Ciencia y Tecnología el 19 de marzo de 2019, el entonces comisionado de biometría, Paul Wiles, dijo que había “muy poca comprensión” del período de retención que rodea las imágenes de custodia en las fuerzas policiales de Inglaterra y Gales.
Señaló además que, si bien tanto las personas condenadas como las no condenadas pueden solicitar que se eliminen sus imágenes, con la presunción de que la policía lo haría si no hubiera una buena razón para no hacerlo, hay “pocas pruebas de que se estaba llevando a cabo”.
“No estoy seguro de que el caso legal [for retention] es lo suficientemente fuerte, y no estoy seguro de que resista un nuevo desafío judicial”, dijo.
Cuando se le preguntó cómo había resuelto este problema de retención legal y si podía garantizar que cada una de las 6699 imágenes en las listas de vigilancia del 7 de julio se mantuvieran legalmente, el MPS citó la sección 64A de la Ley de evidencia policial y criminal de 1984, que otorga a la policía el poder fotografiar a las personas detenidas y conservar esa imagen.
Agregó que las imágenes de custodia también se mantienen de acuerdo con las pautas de Práctica policial autorizada de gestión de información policial (APP MOPI).
En julio de 2019, un informe del Proyecto de Derechos Humanos, Big Data y Tecnología con sede en el Centro de Derechos Humanos de la Universidad de Essex, que marcó la primera revisión independiente de los ensayos de la tecnología LFR por parte de la Policía Metropolitana, destacó una “presunción de intervención” discernible. entre los oficiales de policía que usaban la tecnología, lo que significa que tendían a confiar en los resultados del sistema e involucrar a las personas que, según decía, coincidían con la lista de vigilancia en uso, incluso cuando no era así.
Sobre cómo resolvió este problema, el MPS dijo que había implementado capacitación adicional para los oficiales involucrados en operaciones de reconocimiento facial.
“Esta información se brinda antes de cada despliegue de LFR para garantizar que los oficiales estén al tanto de las capacidades actuales de los sistemas. LFR es una herramienta que se utiliza para ayudar a lograr los objetivos más amplios de la operación policial, no reemplaza la toma de decisiones humana”, dijo. “Durante el entrenamiento, se recuerda a los oficiales la importancia de tomar sus propias decisiones sobre si involucrarse o no con un miembro del público”.
