La Cámara en lo CAYT condenó al GCBA a proveer información sobre el Sistema de Reconocimiento Facial

Con fecha 19 de marzo del 2021 la Sala III de la Cámara en lo Contencioso Administrativo y Tributario de la justicia de la CABA confirmó la sentencia de primera instancia con la que contaba O.D.I.A. que obligaba al Ministerio de Justicia y Seguridad de la Ciudad a responder preguntas acerca del Sistema de Reconocimiento Facial de Prófugos que fue implementado en las calles de la ciudad en abril del año 2019.

Pueden descargar la sentencia completa aqui:

Las preguntas que deberá contestar el Ministerio son las siguientes:

10) ¿Qué protocolos de seguridad, privacidad y confidencialidad serán
utilizados a efectos de mantener la privacidad de la información
recopilada desde su captura hasta su procesamiento?

13) ¿Qué técnica de borrado es utilizada? ¿Cómo se audita y de qué manera
se asegura que las imágenes son efectivamente eliminadas?

20) Desde la implementación de este sistema ¿Cuántas imágenes de
personas no registradas en el CONARC han sido ingresadas al Sistema
de Reconocimiento Facial de Prófugos?

26) ¿A qué requerimiento se refiere la última parte del art. 3? ¿Por qué este
requerimiento tiene que estar dirigido a la Secretaría de Justicia y
Seguridad?

44) ¿En qué tipo de aparatos reciben las alertas generadas por el sistema los
agentes de la Policía? ¿En qué momentos los agentes destruyen aquellos
archivos que le fueron enviados a esos aparatos? ¿Qué sistema o protocolo de seguridad se sigue para la protección de esos datos generados y transmitidos y como se audita su correcta destrucción?

45) ¿A través de qué sistema les llegan las alertas generada a los Policías?
¿Qué información les son remitidas?

47) ¿cuántos agentes reciben esta información?

52) ¿Cuántas de las personas detenidas o demoradas, con causa en el
levantamiento de una alerta por el Sistema de Reconocimiento Facial,
no estaban siendo buscadas por un “delito grave”? Se remite a la
definición de “delito grave” utilizada en el anexo de la resolución
Resolución 1068 – E/2016

53) Por el contrario, ¿Cuántas personas han sido detenidas con causa en el
levantamiento de una alerta por el Sistema de Reconocimiento Facial de
Prófugos, que estaban siendo buscadas por haber cometido un “delito
grave”?

58) Para el caso de que la empresa entre en concurso, quiebra o cualquier
otra forma reglamentaria de liquidación, o esta sufra algún contratiempo
ya sea técnico o administrativo, ¿Se ha previsto algún tipo de control de
crisis para proteger los datos de los ciudadanos?

61) ¿Qué método de detección de rostros se utilizó? En caso de utilizar redes
neuronales, ¿qué modelo/arquitectura se utilizó y cuál fue el set de datos
que se utilizó para entrenar el modelo?

62) ¿Qué datasets fueron utilizados para ese entrenamiento y que organismo
fue responsable?

67) ¿Se ha hecho una auditoría del software por un tercero independiente?

76) “[…] Dicho servicio tendrá como objetivo el análisis integral en tiempo
real sobre imágenes de video en vivo para la detección facial de
personas buscadas basada en bases de datos de imágenes de rostros y
de análisis integral de video para la detección de diferentes patrones de
comportamiento y cambios de condiciones ambientales. El servicio
será prestado sobre todas las cámaras de video vigilancia que
técnicamente lo permitan, como así también a las imágenes
almacenadas en los sistemas de resguardo de imágenes, al momento de
la presentación de su oferta. […]” “[…] Las imágenes captadas que
generen algún tipo de alerta como toda la información vinculada a la
misma, deberán ser guardada de forma encriptada para futuros
análisis […]” “[…] Contar con una base de datos fotográfica de hasta
cien mil (100.000) rostros para su posterior identificación formando
una lista negra de personas buscadas. […]”(El destacado es nuestro).
a. ¿Qué se quiso decir con “detección de diferentes patrones de
comportamiento”?
b. ¿Qué se quiso decir con “cambios de condiciones ambientales”?
c. ¿Cuál es la cantidad de cámaras instaladas en la vía pública
pertenecientes al gobierno de la Ciudad Autónoma de buenos
Aires y de la Policía de la Ciudad?
d. ¿Qué cantidad de esas cámaras permiten utilizar el software de
reconocimiento facial?
e. ¿Qué tipo de encriptación se utiliza para el almacenamiento de
esas imágenes que generen alertas?
f. ¿En qué consisten esos “futuros análisis” que se mencionan?
g. ¿Durante cuánto tiempo se guardarán dichas imágenes?
h. ¿Dónde se encuentran físicamente los servidores donde se
almacena la información del registro resultante entre la inclusión
de la base de datos de la CONARC con la del RENAPER, y la
información de la estructura facial del rostro capturado por las
cámaras instaladas en la vía pública de la Ciudad?
i. ¿Qué protocolos de seguridad son utilizados para el
almacenamiento de la información del registro resultante entre
la base de datos de la CONARC y el RENAPER, y lo grabado
por las cámaras instaladas en la vía pública de la Ciudad?
j. ¿Quién realiza esta llamada “lista negra”?
k. ¿Como y que procedimiento se utiliza para la confección de la
llamada “lista negra”?
l. ¿Cuántas personas hay en esta lista?
m. ¿Cuál es el criterio que se sigue para ingresar y/o egresar de esta
lista?
n. ¿Quién tiene permiso para modificar esta lista? ¿Qué parámetros
o requisitos pide el sistema a efectos de modificar la lista?

En el mismo pliego se han hecho una serie de manifestaciones genéricas
que, dado el efecto que la interpretación que las mismas tendrían en los derechos
fundamentales de las personas, hacen de suma importancia que se aclare. Así, se ha
establecido los siguientes requisitos:

77) “[…] Ante eventos repetitivos, el sistema deberá enmascarar
automáticamente dichos eventos a modo de optimizar la visualización
de los operadores y proveer de información de notificaciones
eficientemente. […]” “[…] El sistema deberá considerar áreas de
enmascaramiento tanto dentro como fuera de la zona de detección para
así evitar falsos positivos. […]” “[…] El sistema deberá tener una
historia de los eventos con toda la información necesaria para su
comprensión: imagen y posibilidad de reproducción de la grabación
alrededor del tiempo en que el evento ocurrió. […]” “[…] El sistema
deberá tener la capacidad de purga periódica de datos acumulados,
considerando su antigüedad. […]” “[…] El sistema deberá considerar
dos (2) niveles de permisos: uno limitado a la visualización de datos y
otro con disponibilidad para todas las operaciones. […]” “[…] El
sistema no deberá superar la detección de falsos positivos en un 15%
del total de los eventos detectados. […]” “[…] Persona que cruza una
línea […]” “[…] Persona moviéndose en un área: ante la detección de
una persona en una zona estéril definida previamente. […]” “[…]
Hacinamiento: alerta por la detección de una cierta cantidad de
personas detectadas durante una cierta cantidad de tiempo. […]” “[…]
Acercamiento entre personas: alerta ante la detección de un cruce de
línea de una segunda persona en un tiempo menor al definido en la
regla. […]” “[…] Merodeo: alerta por personas residiendo en una zona
durante un tiempo mínimo definido y comportándose de una manera
sospechosa que respalde la credibilidad de que su objetivo es una 15
actividad delictiva. […]” “[…] Ocupación: alerta ante la detección de
un límite de personas definidas para un área. […]” “[…] El sistema
deberá permitir configurar una tolerancia sobre las búsquedas,
permitiendo y aceptando posibles falsos positivos para la obtención de
información. […]” “[…] A su vez, deberá permitir la detección de la
emoción del rostro (feliz, sorprendido, neutral, triste, miedo, enojo y
disgusto). […]” “[…] Deberá permitir la indexación masiva de datos
de video, registrando la información de todas las personas que
aparecen, permitiendo una búsqueda dinámica y veloz de las personas
de interés. […]” (El destacado es nuestro).
a. ¿Qué se considera como un “evento repetitivo” y qué criterios se
utilizan para definirlo?
b. ¿En qué consiste un “Área de Enmascaramiento” y como puede
su consideración evitar “falsos positivos”?
c. ¿A qué se refiere con “zonas de detección”? ¿Cuáles son estas
zonas?
d. ¿A qué se refiere con historia de los eventos? ¿Qué información
se almacena? ¿Dónde es almacenada esta información? ¿Quién
tiene acceso a esa información y por cuánto tiempo?
e. ¿Qué información se considera como “purgable”? ¿Dónde se
almacena esa información? ¿Cuáles son los plazos máximos y
mínimos que se consideran a efectos de realizar esa purga?
f. ¿Cuántos usuarios con los dos distintos permisos existen? ¿Qué
cantidad de usuarios están limitados a la visualización de los
datos? ¿Cuántos usuarios existen con total disponibilidad para
todas las operaciones? ¿Quién otorga estos permisos? ¿De qué
manera y con qué criterio se otorgan esos permisos? 16
g. ¿Cuáles son la totalidad de las operaciones?
h. ¿Qué criterio se utilizó a efectos de considerar que un 15% de
falsos positivos era un porcentaje aceptable?
i. ¿Quién determina las líneas virtuales mencionadas, y dónde se
encuentran dichas líneas?
j. ¿A qué se refiere con “zona estéril”?
k. ¿Cuál es la cantidad (mínima) de personas y durante cuánto
tiempo (mínimo) es necesario para que este se considere como
hacinamiento?
l. ¿En qué condiciones puede suceder un cruce de línea que
implique un “acercamiento entre personas”? ¿Cuál es la utilidad
práctica de esta categoría?
m. ¿Cuánta es la cantidad mínima de personas necesarias para que
se dé un caso de “merodeo”?
n. ¿Qué se considera como “comportándose de una manera
sospechosa”? ¿Cuáles son las actividades puntuales que el
sistema está entrenado para reconocer? ¿Cómo se puede prever
una actividad delictiva cuando se da este supuesto?
o. ¿En qué consiste el presupuesto de “ocupación”? ¿Cuántas
personas se necesitan como mínimo en un área para que se
configure la ocupación? ¿Cuáles son los presupuestos fácticos de
forma detallada para que se configure la ocupación? ¿Cuáles son
aquellas áreas pasibles de ocupación?
p. ¿En qué consiste la “tolerancia a los falsos positivos”
mencionada?
q. ¿Con que sin se recolecta la información acerca de la detección
de emoción en el rostro de las personas? ¿Por qué se necesita
detectar la emoción del rostro de las personas cuando el sistema
sería utilizado exclusivamente para la detección de prófugos?
r. ¿En qué consiste la indexación mencionada? ¿Qué se considera
como “persona de interés? ¿Por qué razón se necesitaría registrar
aquella información de estas “personas de interés”?

Responder

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Cerrar sesión /  Cambiar )

Google photo

Estás comentando usando tu cuenta de Google. Cerrar sesión /  Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Cerrar sesión /  Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Cerrar sesión /  Cambiar )

Conectando a %s

A %d blogueros les gusta esto: