Un hombre inocente está demandando a la policía después de que un software de reconocimiento facial lo confundiera con un presunto ladrón en una ciudad a 100 millas de distancia.
Alvi Choudhury, de 26 años, estaba trabajando desde su casa en Southampton, en la casa que comparte con sus padres, cuando los agentes lo arrestaron y lo mantuvieron bajo custodia durante 10 horas antes de que finalmente lo liberaran a las 2 de la madrugada sin más medidas.
El software de reconocimiento facial automatizado utilizado por la policía de Thames Valley lo había relacionado con un sospechoso de robo de £ 3.000 en Milton Keynes.
Pero Choudhury afirma que las imágenes de CCTV del presunto crimen mostraban a un hombre más joven que le parecía diferente en todos los sentidos excepto en su cabello rizado.
Él dijo que Guardián: “Me enojé mucho porque el niño parecía unos diez años menor que yo”.
“Todo era diferente. La piel era más clara. El sospechoso parecía tener 18 años. Su nariz era más grande. No tenía vello facial. Sus ojos eran diferentes. Sus labios eran más pequeños que los míos”.
Choudhury ahora reclama una indemnización por daños y perjuicios a la policía de Thames Valley y a la policía de Hampshire, que lo detuvieron, alegando que sus vecinos presenciaron su arresto en enero, lo que dejó a su padre extremadamente asustado e incapaz de trabajar al día siguiente.
Las coincidencias realizadas mediante tecnología de reconocimiento facial requieren que la fotografía policial del sospechoso se almacene en el sistema policial.
El hombre inocente Alvi Choudhury está demandando a la policía después de que un software de reconocimiento facial lo confundiera con un presunto ladrón en una ciudad a 100 millas de distancia.
El rostro de Choudhury se agregó a la base de datos después de que fue arrestado por error en 2021 después de ser atacado durante una noche de fiesta en Portsmouth.
Las fuerzas policiales británicas están utilizando un algoritmo alemán adquirido por el Ministerio del Interior para buscar alrededor de 19 millones de fotografías policiales en la base de datos nacional.
Realizan alrededor de 25.000 registros al mes y, según el Consejo de Jefes de la Policía Nacional, las coincidencias deben tratarse como información de inteligencia y no como hechos.
La policía de Thames Valley insistió en que la decisión de arrestar a Choudhury se tomó luego de una evaluación visual humana y de una comparación tecnológica.
Sin embargo, la policía admitió que el error “puede haber sido el resultado de un sesgo dentro de la tecnología de reconocimiento facial”.
El software de reconocimiento facial está lejos de ser infalible y una investigación del Ministerio del Interior encontró en diciembre que las coincidencias con rostros negros son falsos positivos el 5,5 por ciento de las veces, mientras que las coincidencias con rostros asiáticos son falsos positivos el 4 por ciento de las veces.
Ambas cifras están muy por encima del 0,04 por ciento de coincidencias de caras blancas que dan como resultado falsos positivos.
Un funcionario dijo al Sr. Choudhury: “Como el uso del reconocimiento facial ya está bajo revisión a nivel estratégico, no veo la necesidad de abordar esta cuestión como parte de un aprendizaje organizacional más amplio”.
El hombre inocente dijo que fue arrestado a pesar de las diferencias entre su rostro y el del clip.
Añadió que también había aportado pruebas de reuniones de trabajo en Southampton, a 115 millas de distancia, el día del presunto delito.
Cuando preguntó a los agentes de la comisaría de Hampshire si se parecía en algo al hombre del vídeo, se echaron a reír, afirmó.
Choudhury añadió que cuando la policía de Thames Valley se presentó para interrogarlo, descubrieron que el sospechoso en el vídeo no era él.
Ian Clayton dijo que le dijeron que abandonara una tienda Home Bargains en Chester después de que la tecnología de reconocimiento facial afirmara que había robado artículos.
Ahora teme que una segunda ficha policial en el sistema después del incidente pueda dar lugar a más detenciones ilegales.
Choudhury añadió que la saga le hace parecer “turbio”, lo que podría tener un impacto negativo en él, ya que su trabajo como ingeniero de software a veces requiere una autorización de seguridad para trabajar para clientes gubernamentales.
La policía y los comisionados contra el crimen han advertido previamente sobre “sesgos innatos” e insistieron en que si bien “no hay evidencia de impacto adverso en ningún caso individual, es más probable que se trate de una coincidencia que de una intención”.
El mes pasado, la policía de Gales del Sur pagó una compensación a un hombre negro que fue identificado como posible socio de un sospechoso de acoso, a pesar de ocupar el puesto 32 en la lista de coincidencias sugeridas por la tecnología de reconocimiento facial.
Esto se produce después de que un abuelo inocente fuera acusado falsamente de ser un ladrón después de que la tecnología de reconocimiento facial sugiriera que había robado artículos.
Ian Clayton, de 67 años, dijo que le dijeron que abandonara una tienda de Chester Home Bargains después de que la tecnología afirmara que había estado involucrado en un robo que, según él, no estaba relacionado.
Después de que le pidieron que se fuera, Clayton se puso en contacto con la empresa de seguridad Facewatch, quien le envió su foto diciendo que había metido objetos en una bolsa y los había robado.
La tecnología de reconocimiento facial detecta movimientos sospechosos, como mercancías colocadas en bolsas, y envía a los trabajadores un mensaje con imágenes e información sobre la ubicación del comportamiento.
También envía una notificación a los empleados cuando una de las llamadas áreas de interés en una lista de vigilancia ingresa a una tienda.
Pero Facewatch admitió que Clayton no debería haber aparecido en su sistema y dijo que había eliminado permanentemente su imagen y “el registro asociado”.
El Daily Mail se ha puesto en contacto con la policía de Thames Valley para solicitar comentarios.
La policía de Hampshire se negó a hacer comentarios.
