Un hombre inocente arrestado después de que un sistema de reconocimiento facial de inteligencia artificial lo identificara erróneamente como un ladrón descubrió la identidad del verdadero ladrón, y no se parecen en nada.
Alvi Choudhury, de 26 años, estaba trabajando desde su casa en Southampton el 7 de enero en la casa que comparte con sus padres cuando los agentes lo arrestaron y lo mantuvieron bajo custodia durante 10 horas.
El sistema automatizado de la Policía de Thames Valley (TVP) había vinculado su fotografía policial, tomada después de que lo arrestaran por error hace cinco años, con el vídeo de un ladrón que robó £3.000 y joyas del vihara budista en Milton Keynes un mes antes.
Finalmente fue liberado a las 2 a. m. sin más acciones después de que la policía descubriera que no solo era el hombre equivocado, sino que también se veía completamente diferente al criminal en la videovigilancia.
El verdadero ladrón, un hombre llamado Eduard Zlatineanu, ha sido sentenciado a 21 meses de prisión después de declararse culpable de robo en una vivienda en el Tribunal de la Corona de Aylesbury el 12 de enero, sólo cinco días después de que Choudhury fuera arrestado injustamente.
Pero el criminal fue arrestado el 8 de diciembre, el día del robo, lo que plantea dudas sobre por qué el hombre inocente fue detenido más de cuatro semanas después.
Y es difícil imaginar que los dos puedan confundirse, ya que Choudhury tiene un mechón de cabello rizado y Zlatineanu, de 23 años, tiene un corte de pelo negro más corto.
El hombre detenido injustamente tiene una barba un poco más espesa, pero un bigote mucho más fino que el del ladrón y también cejas más grandes.
Alvi Choudhury (en la foto de la izquierda) fue arrestado después de que un sistema de reconocimiento facial con inteligencia artificial lo identificara erróneamente como el ladrón Eduard Zlatineanu.
También están ubicados a más de 140 millas de distancia: Zlatineanu vivía en Birmingham y Choudhury vivía en la costa sur en el momento del robo.
En el robo, Zlatineanu y un segundo perpetrador, que aún no ha sido identificado, robaron alrededor de las 4 de la tarde un montón de dinero en efectivo que había sido donado para ayudar a las víctimas de las recientes inundaciones en Sri Lanka.
En reacción a la foto de su presunto doble, Choudhury dijo al Daily Mail: “Todos me dijeron lo mismo sobre el sospechoso (que no se parecen)”. Todavía no sé cómo nos confundieron.’
Dijo que lo compararon con fotografías de tres sospechosos diferentes mientras estaban bajo custodia, ninguno de los cuales tenía ningún parecido.
Entre ellos se encontraba una persona que tenía “unos 18 o 19 años y no tenía vello facial”.
Después de ser arrestado a las 4 de la tarde por agentes de la policía de Hampshire, que llevaron a cabo el arresto en nombre de TVP, el ingeniero de software finalmente fue entrevistado alrededor de la medianoche.
Sin embargo, solo tomó diez minutos completar la entrevista y los investigadores estaban convencidos de que, en realidad, él no era la persona capturada en el clip de CCTV.
“Cuando me liberaron, la policía se rió porque vieron las imágenes y claramente eran dos personas diferentes”, dijo Choudhury.
“La oficial de TVP me admitió que sabía antes de su entrevista conmigo que yo no era el sospechoso porque había visto las fotos de mi custodia y las imágenes del sospechoso y lo supo de inmediato”.
El hombre inocente ha demandado a la policía y dice que quiere dinero en efectivo y una disculpa para compensar la terrible experiencia.
Anteriormente dijo que culpó al software, que produce coincidencias falsas para rostros asiáticos el cuatro por ciento de las veces, así como a los investigadores que analizaron los clips.
Choudhury dijo: “Ninguna empresa de tecnología jamás pondría en producción un sistema con una tasa de falla de uno en 25. Eso es terrible”. Está lleno de errores.
“Dijeron que habían hecho que agentes lo inspeccionaran visualmente. Esto es aún más preocupante porque probablemente se trate de discriminación racial”.
“Probablemente acabas de ver a dos personas de color marrón, aunque tienen rasgos faciales completamente diferentes, y dijiste: ‘Sí, se ven bastante parecidos. Vamos a arrestarlos’.
TVP confirmó que el arresto del Sr. Choudhury se “basó en la evaluación visual de los agentes investigadores” tras la comparación automatizada inicial.
“Vieron que yo era compatible, por lo que podrían haber investigado un poco y recopilado información sobre mí en lugar de limitarse a mirar las dos fotografías y luego venir y arrestarme”, añadió Choudhury.
“Si estuvieran haciendo un verdadero trabajo de detective, me habrían tachado inmediatamente, incluso si su sistema de reconocimiento facial me identificara como sospechoso”.
El software de reconocimiento facial está lejos de ser infalible y una investigación del Ministerio del Interior encontró en diciembre que las coincidencias con caras negras son falsos positivos el 5,5 por ciento de las veces, mucho más que el 0,04 por ciento de las coincidencias con caras blancas que producen falsos positivos.
Los sistemas generalmente son aprobados por fuerzas policiales individuales, pero el Ministerio del Interior ha presionado para su implementación y obtuvo el algoritmo alemán utilizado para buscar alrededor de 19 millones de fotografías policiales en la base de datos nacional.
Realizan alrededor de 25.000 registros al mes y, según el Consejo de Jefes de la Policía Nacional, las coincidencias deben tratarse como información de inteligencia y no como hechos.
La fotografía policial del Sr. Choudhury estaba en el sistema luego de un arresto falso anterior en 2021 cuando era estudiante en Portsmouth.
En esa ocasión, él y su grupo de cuatro mujeres y cuatro hombres fueron atacados por una pandilla de ocho a 10 hombres mientras comían comida para llevar después de una noche de fiesta.
Pero en lugar de eso, fueron Choudhury herido y su grupo de amigos quienes fueron interrogados y arrestados después de 16 a 17 horas bajo custodia cuando la policía se enteró de que otra pareja había sido atacada esa misma noche.
Únase a la discusión
¿Debería permitirse a la policía confiar en el reconocimiento facial de IA cuando puede arruinar vidas mediante coincidencias falsas?
El ladrón robó £3.000 y algunas joyas del budista Vihara en Milton Keynes un mes antes del arresto de Choudhury (en la foto).
Cuando los agentes miraron las cámaras de seguridad de ambos ataques, Choudhury finalmente fue absuelto y la policía dijo que su información y su ADN serían eliminados del sistema, pero su rostro aún era visible en el software cuando fue arrestado en enero.
“Ahora tienen otra foto mía, en teoría con este sistema de reconocimiento facial me coincidirán el doble de veces”, añadió. “Aún podrían arrestarme”.
Choudhury pidió al gobierno que asuma la responsabilidad de las deficiencias del sistema y revise su uso.
Dijo: “Realmente necesitas mirar esto”. Alguien debe rendir cuentas y debe haber consecuencias; se implementarán nuevas leyes y legislaciones para proteger al público.
“Es necesario que exista una legislación sobre cómo se utilizan los sistemas de reconocimiento facial de IA”. Es necesario que haya una investigación sobre las fuerzas policiales y que sean más profesionales en la forma en que hacen su trabajo”.
Aunque Choudhury fue absuelto poco después del interrogatorio, teme que las consecuencias de su reciente arresto falso puedan provocar un conflicto en el lugar de trabajo.
El ingeniero de software tiene autorizaciones de seguridad con el Ministerio del Interior y la Policía Metropolitana y hubo que denunciar su terrible experiencia.
“Esto parece muy sospechoso en este momento”, dijo.
La policía y los comisionados criminales advirtieron sobre un “sesgo innato” y enfatizaron que si bien “no había evidencia de efectos adversos en ningún caso individual, era más probable que se tratara de una coincidencia que de una intención”.
Un portavoz de TVP dijo anteriormente: “Pedimos disculpas por la angustia causada al denunciante en este caso. Sin embargo, su arresto se basó en la propia evaluación visual de los oficiales investigadores de que el individuo coincidía con el sospechoso en las imágenes de CCTV luego de una coincidencia de reconocimiento facial posterior, y no fue influenciado por perfiles raciales”.
“Para confirmar, si bien la tecnología de reconocimiento facial retrospectivo inicialmente proporcionó información, no condujo a un arresto”.
“Aunque las investigaciones posteriores excluyeron al individuo de la investigación, esto no significa que el arresto fuera ilegal”.
“Seguimos utilizando las herramientas policiales de manera responsable mientras nos esforzamos por mejorar y generar confianza en nuestras comunidades”.
La policía de Hampshire anteriormente se negó a hacer comentarios.
