El grupo de campaña de privacidad Big Brother Watch ha presentado una demanda legal contra la cadena de supermercados Southern Co-op por su uso de reconocimiento facial en vivo (LFR) en las tiendas, marcando el primer desafío legal presentado contra un minorista por usar la tecnología en el Reino Unido.
Southern Co-op, que actualmente opera LFR en 35 de sus 200 tiendas en el sur de Inglaterra, anunció por primera vez que estaba usando la tecnología en las tiendas en octubre de 2020, y el oficial de prevención de pérdidas Gareth Lewis afirmó en una publicación de blog que “ha ayudado a reducir el robo”. en las tiendas donde se despliega”.
Lewis agregó que el software LFR, proporcionado por la firma londinense de biometría Facewatch, se probó inicialmente “en un número selecto de tiendas donde hay un mayor nivel de delincuencia” antes de implementarse más ampliamente.
Después de escanear los rostros de las personas con una sola cámara cuando ingresan a la tienda, el sistema convierte las imágenes capturadas en datos numéricos, o hashes, para poder comparar los rostros con una “lista de observación” predefinida de personas que la cooperativa cree. han robado de sus tiendas, o han sido violentos.
Según un portavoz de Southern Co-op, el mayor instigador de violencia contra sus empleados es cuando intervienen después de que ya se ha producido un robo. Para lidiar con esto, un empleado en la tienda recibe una notificación una vez que el sistema LFR genera una alerta, para que tenga tiempo de decidir qué acción preventiva tomar, dijo el vocero.
Esto podría incluir hacer que el personal se acerque a la persona identificada con una oferta de ayuda, para que sepa que ha sido detectada, o pedirle que abandone las instalaciones.
“La seguridad de nuestros colegas y clientes es primordial y esta tecnología ha marcado una diferencia significativa en el número limitado de lugares de alto riesgo donde se utiliza”, dijo el vocero. “La señalización está en exhibición en las tiendas relevantes. Mientras continúe previniendo ataques violentos, creemos que su uso está justificado.
“El sistema no almacena imágenes de un individuo a menos que haya sido identificado y evidenciado como infractor, incluidos aquellos que han sido prohibidos/excluidos”.
Pero el director de Big Brother Watch, Silkie Carlo, afirmó que la vigilancia de reconocimiento facial de Southern Co-op es “orwelliana en extremo, muy probablemente ilegal, y debe ser detenida de inmediato por el comisionado de información”, y agregó: “Esta es una forma profundamente poco ética y, francamente”. Es una forma escalofriante de comportamiento para cualquier negocio y recomiendo enfáticamente que las personas no compren en Southern Co-op mientras continúan espiando a sus compradores”.
En su queja legal ante la Oficina del Comisionado de Información (ICO), Big Brother Watch dijo que el sistema de Facewatch es “altamente invasivo” en el procesamiento de datos personales y que permite a los puntos de venta minoristas como Southern Co-op “crear y hacer cumplir anuncios”. listas negras dinámicas y ad hoc de individuos que desean excluir de sus tiendas, o con los que ‘intervenir’ de otro modo”.
Agregó: “En términos prácticos, un individuo puede ingresar a una tienda de Southern Co-op y, sin que lo sepa después de su visita, un miembro del personal lo agregue a una lista de vigilancia que contenga acusaciones de ‘crimen o desorden’, si ese miembro de el personal ‘sospecha razonablemente’ de ellos”.
Big Brother Watch dijo que, al convertirse en un “tema de interés”, el perfil biométrico de la persona se puede compartir con el personal de Southern Co-op en otras tiendas, así como con los miembros del personal de cualquier otro cliente de Facewatch dentro de un cierto radio de la primera ubicación.
“Es posible que el ‘tema de interés’ nunca sepa por qué sucede esto o qué puede hacer al respecto”, dijo. “Permanecerán en la lista de vigilancia durante dos años, sin que Facewatch tome medidas proactivas para confirmar si las acusaciones de Southern Co-op han sido confirmadas o refutadas por la acción policial.
“Los riesgos para los derechos y libertades de los interesados por este tipo de procesamiento son significativos. Como deja en claro la propia guía del Comisionado, el estándar para que dicho procesamiento sea legal es alto, y Facewatch y Southern Co-op no logran cumplir con ese estándar”.
Según la agencia de derechos de datos AWO, que representa a Big Brother Watch en su demanda legal, su análisis del sistema sugiere que Facewatch y Southern Co-op están usando LFR ilegalmente.
Por ejemplo, afirmó que aunque las organizaciones confían en que existe un “interés público sustancial” en su procesamiento de datos biométricos, hay poca evidencia que respalde esto, y la información proporcionada a los compradores y a los que están en las listas de vigilancia no cumple con las Normas Generales de Protección de Datos. Estándares de transparencia del Reglamento (GDPR).
El análisis de AWO también encontró “motivos reales de preocupación sobre la precisión y las salvaguardas al crear las listas de vigilancia y realizar intervenciones”, lo que podría conducir a resultados sesgados e injustos.
“Facewatch y Southern Co-op están empujando, y pueden estar excediendo, los límites de lo que permite la ley para esta nueva y poderosa tecnología”, dijo AWO. “Sin acción, existe el riesgo de un progresivo reequilibrio del poder lejos de los individuos y hacia las empresas en nuestros espacios públicos. Para eso son nuestros derechos de datos: pueden darnos voz sobre si las empresas pueden usar la tecnología para ejercer poder sobre nosotros y cómo. Pero eso solo funciona si esos derechos se hacen cumplir”.
El abogado de AWO, Alex Lawrence-Archer, agregó: “Este tipo de procesamiento biométrico de alto riesgo necesita una justificación sólida, y no está del todo claro que Facewatch y Southern Co-op cumplan con esa prueba”.
Otras violaciones específicas de la ley de protección de datos del Reino Unido que supuestamente han tenido lugar incluyen: que la mala señalización de Southern Co-op, la falta de capacitación del personal y la información incompleta en línea no cumplen con los requisitos de transparencia de GDPR; que trate más datos de los necesarios, infringiendo el principio de minimización de datos; que los riesgos significativos de sesgo injusto en la creación de la lista de vigilancia violan el principio de equidad; y que no cumple con las condiciones del artículo 9 para procesar datos de categoría especial, porque el procesamiento no es necesario para la prevención del delito y no es de interés público sustancial.
Se afirma además que el “interés legítimo” de Southern Co-op para el procesamiento es anulado por los intereses de los interesados.
En respuesta a varias acusaciones contra el uso de LFR por parte de la organización, Southern Co-op dijo que las imágenes de la lista de observación de personas identificadas y evidenciadas como delincuentes se retienen durante un año, en lugar de dos, y que todas las imágenes escaneadas de los compradores, independientemente de si están en un vigilancia, se conservan durante tres días en caso de que posteriormente se detecte un delito.
En respuesta a la afirmación de que está agregando clientes a las listas de vigilancia sin el debido proceso, Southern Co-op respondió que cuenta con “procedimientos extensos para mitigar cualquier riesgo y trabajar con nuestro proveedor de tecnología de reconocimiento facial para garantizar que el sistema de reconocimiento facial sea seguro y cumple con el RGPD”.
Un portavoz agregó: “Agradeceríamos cualquier comentario constructivo de la ICO, ya que nos tomamos muy en serio nuestras responsabilidades en torno al uso del reconocimiento facial y trabajamos arduamente para equilibrar los derechos de nuestros clientes con la necesidad de proteger a nuestros colegas y clientes de la violencia y el abuso inaceptables”. .”
Computer Weekly contactó a Facewatch sobre el desafío legal. Dijo que el reconocimiento facial es legal para la prevención del delito si se siguen criterios estrictos, y que la empresa opera en “cumplimiento total” de la ley.
Un portavoz dijo: “Los clientes minoristas vienen a Facewatch porque están experimentando niveles significativos de delitos y robos, además de un aumento dramático en los asaltos y abusos de su personal.
“Cualquier intrusión en la privacidad es mínima y proporcionada. Se ha demostrado que Facewatch es eficaz en la prevención de delitos y nuestros clientes experimentan una reducción significativa de los delitos al usar Facewatch. No hay evidencia de que Facewatch impida que los clientes regulares compren; hay evidencia clara de que disuade el crimen”.
El portavoz agregó que Facewatch ha sido abierto y colaborativo con la ICO, y que la compañía agradece cualquier comentario constructivo adicional: “Trabajamos arduamente para equilibrar los derechos de los clientes de nuestros muchos clientes minoristas con la necesidad de proteger a su personal y clientes de violencia inaceptable y abuso en todo el Reino Unido”.
En mayo de 2020, Facewatch anunció que había desarrollado un algoritmo “periocular” que permite que sus cámaras realicen identificaciones al escanear el área entre los pómulos y las cejas de una persona, y que el algoritmo estará accesible para todos los titulares de licencias existentes bajo mantenimiento activo, en sin costo adicional
Sin embargo, Facewatch no es la única empresa que ha desarrollado este tipo de algoritmos. El inicio de Covid-19 provocó que una gran cantidad de empresas biométricas actualizaran su tecnología de reconocimiento facial para identificar a las personas que usan máscaras faciales.
