El gobierno del Reino Unido ha rechazado en gran medida los hallazgos y recomendaciones de una investigación de la Cámara de los Lores sobre el uso de tecnologías algorítmicas por parte de la policía, alegando que ya existe “una red integral de controles y equilibrios”.
Luego de una investigación de 10 meses sobre el uso de tecnologías algorítmicas avanzadas por parte de la policía del Reino Unido, incluido el reconocimiento facial y varias herramientas de “predicción” de delitos, el Comité de Justicia y Asuntos Internos de los Lores (JHAC) describió la situación como “un nuevo Salvaje Oeste”, caracterizado por una falta de estrategia, rendición de cuentas y transparencia desde arriba hacia abajo.
En un informe publicado el 30 de marzo, la JHAC dijo: “El uso de tecnologías avanzadas en la aplicación de la ley plantea un riesgo real y actual para los derechos humanos y el estado de derecho.
“A menos que esto se reconozca y se aborde, los beneficios potenciales del uso de tecnologías avanzadas pueden verse superados por el daño que se producirá y la desconfianza que creará”.
A lo largo de la investigación, el JHAC escuchó de testigos expertos que la fuerza policial del Reino Unido está introduciendo nuevas tecnologías con muy poco escrutinio o capacitación, continúa implementando nuevas tecnologías sin evidencia clara sobre su eficacia o impacto, y tiene intereses en conflicto con sus propios proveedores de tecnología.
Sin embargo, en su respuesta oficial a los hallazgos de la investigación, el gobierno ha dicho que si bien “el informe llama la atención sobre un tema cada vez más importante… creemos que es importante mantener una perspectiva a largo plazo”.
Agregó que muchas tecnologías utilizadas regularmente en un contexto policial, como las huellas dactilares y el ADN, alguna vez se consideraron controvertidas, pero ahora están validadas y ampliamente aceptadas. “El gobierno los empoderará y apoyará para ir más allá, aprovechando las oportunidades para simplificar y consolidar estructuras cuando sea probable que haya un impacto positivo en la coherencia, la rendición de cuentas y la transparencia”, dijo.
Protegiendo al publico
El gobierno agregó además que, si bien los parlamentarios establecen el marco legal que otorga a la policía sus poderes y deberes, corresponde a la propia policía determinar la mejor manera de utilizar las nuevas tecnologías, como la inteligencia artificial (IA) y los modelos predictivos, para proteger al público.
“Los órganos de supervisión existentes supervisan cómo la policía lleva a cabo sus funciones y garantizan que se respeten las garantías y los estándares. HMICFRS es responsable de inspeccionar e informar sobre la eficiencia y eficacia de todas las fuerzas policiales. Esto incluye cómo las fuerzas utilizan las tecnologías existentes y emergentes para prevenir y detectar delitos”, dijo, y agregó que “las capacidades futuras de la inteligencia artificial en la toma de decisiones automatizada actuarán para mejorar el sistema de justicia al aumentar en lugar de reemplazar los procesos existentes”.
El ministro de policía, Kit Malthouse, dijo previamente al JHAC en enero de 2022 que el uso de tecnologías algorítmicas avanzadas por parte de la policía debería probarse en los tribunales en lugar de definirse mediante una nueva legislación, argumentando que las nuevas leyes serían demasiado restrictivas y, por lo tanto, “sofocarían la innovación”.
Agregó que el uso de tecnologías algorítmicas por parte de la policía del Reino Unido ya estaba controlado por una “red de legislación”, y que un marco “basado en principios” es preferible a la creación de reglas legales porque “siempre hay áreas de matices y circunstancias que se pueden no prescribe en la ley”.
Gobierno rechaza recomendaciones de JHAC
El JHAC hizo una serie de recomendaciones luego de su investigación, incluido el establecimiento de un organismo de supervisión nacional (con el poder de implementar moratorias) para establecer estándares científicos mínimos, certificar nuevas tecnologías y auditar implementaciones; establecer pautas de adquisición mejoradas para ayudar a la policía a convertirse en “clientes competentes” de la nueva tecnología; establecer comités de ética locales y regionales para tratar cuestiones relacionadas con la necesidad y la proporcionalidad; y establecer un “deber de franqueza”, junto con un registro público de algoritmos policiales para que los reguladores y el público en general puedan comprender exactamente cómo se implementan las nuevas herramientas.
El JHAC también recomendó que “el gobierno presente una legislación primaria que incorpore principios generales y que esté respaldada por regulaciones detalladas que establezcan estándares mínimos” porque “este enfoque lograría el equilibrio adecuado entre las preocupaciones de que una ley demasiado prescriptiva podría sofocar la innovación y la necesidad para garantizar el uso seguro y ético de las tecnologías”.
El gobierno ha rechazado todas estas recomendaciones. Por ejemplo, sobre la creación de un nuevo organismo nacional de supervisión y un sistema de certificación, la respuesta decía que “los argumentos presentados no convencen al gobierno… si bien la certificación puede funcionar en algunos contextos, también puede generar una falsa confianza y tener un costo prohibitivo”.
“Del mismo modo, no nos convence la sugerencia de que un organismo nacional desempeñe un papel en la aplicación de la moratoria… [as] La aprobación ministerial y las moratorias son un proceso que requiere muchos recursos y puede generar retrasos significativos en el despliegue de nuevos equipos”, agregó.
Sobre el establecimiento de comités de ética, dijo que si bien el gobierno continuará apoyando a las fuerzas policiales a medida que desarrollan formas de obtener retroalimentación local, “no está de acuerdo en que deba haber un mandato para los grupos de ética en todas las fuerzas o que estos deban estar en un mismo orden”. pie de ley”. “Si bien los grupos de ética pueden proporcionar consejos útiles a los tomadores de decisiones, solo los miembros del parlamento y los comisionados de policía contra el crimen elegidos democráticamente están facultados para actuar en nombre del público”, dijo.
En respuesta a los pedidos de JHAC para una nueva legislación primaria, el gobierno dijo que “ya hay muchas salvaguardas”, y agregó que “el marco legal existente requiere el despliegue seguro y ético de nuevas tecnologías”.
Agregó además: “Con respecto a la vigilancia, el Gobierno no está de acuerdo en que se necesite una mayor orientación central sobre la rendición de cuentas, porque es el papel de los Comisionados de Policía y Crimen locales hacer que sus fuerzas locales rindan cuentas como representante electo de la población local. .”
Hablando durante un evento de lanzamiento de Ryder Review, una revisión legal independiente publicada el 29 de junio que destaca la necesidad urgente de una nueva legislación específica de biometría para regir los usos del sector público y privado, la presidenta de JHAC, la Baronesa Hamwee, dijo: “No puedo pretender para estar contento con la respuesta del gobierno… todos somos, creo, defensores clave de la innovación, pero no a cualquier costo”.
“Quieres confianza pública y confianza en lo que nosotros como sociedad estamos sujetos y eso [the government response] extraña la complejidad de todo esto”, agregó. “Así que lamento que el gobierno, que aún no ha tenido un debate sobre esto, nos vea como algo más que querer un progreso positivo”.
Hablando con Computer Weekly, Hamwee dijo: “Es desalentador que el Ministerio del Interior parezca rechazar la noción de que tales asuntos no se están abordando adecuadamente. Son esenciales para la confianza del público, que a su vez son bases esenciales para la innovación.
Agregó que aunque la investigación señaló que había una red compleja de alrededor de 30 organismos superpuestos involucrados en la supervisión y regulación de la tecnología policial, lo que dificulta ver quién es responsable de qué. “El gobierno aparentemente está satisfecho”, dijo Hamwee. “Es desalentador que las ideas constructivas no se tomen en cuenta como una contribución para garantizar que esta área de trabajo de rápido movimiento cumpla con los estándares de calidad”.
