Un experto ha advertido que Australia está a sólo unos años de convertirse en una distopía orwelliana en la que cada movimiento será monitoreado a medida que la IA se integre en los sistemas de vigilancia.
El Dr. Raffaele Ciriello, profesor de la Universidad de Sydney, dijo al Daily Mail que las cámaras de vigilancia ya están “en todas partes” y que la IA “añadirá una capa adicional”.
“Ya está en marcha en gran medida, pero estimo que la vigilancia será la norma en los próximos tres a cinco años, 10 años como máximo”, afirmó.
El Dr. Ciriello agregó que Australia ha construido un sistema de vigilancia similar al de China, pero enfatizó que no existe una estrategia nacional en ninguno de los dos países.
“Lo que tenemos en realidad no es tan diferente de lo que existe en China”, afirmó.
“Tienen diferentes marcos legales (con supervisión) que prevén diferentes castigos para las personas que infringen la ley, similar a lo que tenemos en los países occidentales”. Pero esto es más a nivel regional. No es consistente a nivel nacional.”
Un informe de la Oficina de Auditoría de Queensland publicado en septiembre encontró que el gobierno estatal tiene un control limitado sobre el uso ético de la IA.
Al analizar la implementación de la tecnología de reconocimiento de imágenes de IA que detecta infracciones con el uso del teléfono y el uso del cinturón de seguridad en los automóviles, se descubrió que los agentes “tienen una visión limitada del uso de la IA y de los riesgos éticos emergentes”.
Cada vez más funcionarios en Australia están explorando el uso de la vigilancia mediante IA en la vida cotidiana.
El informe también sugirió que el plan podría violar la privacidad de los habitantes de Queensland.
El Ayuntamiento de Melbourne también ha discutido planes este año para introducir una cámara privada y un sistema de sensores de mapeo 3D para monitorear multitudes en la víspera de Año Nuevo, y está considerando hacer que la tecnología sea permanente.
Ambas políticas han planteado preguntas más amplias sobre los riesgos que conlleva la vigilancia, incluida la tecnología impulsada por la inteligencia artificial, y cómo podría extenderse por toda Australia.
El Dr. Ciriello hizo una predicción nefasta para el futuro de Australia si las tendencias continúan aumentando.
“Parece una especie de distopía orwelliana en la que tenemos esta tecnología a gran escala en todos los espacios públicos”, dijo.
“La gente simplemente se acostumbra, pero debido a la forma en que estos sistemas de IA están inherentemente sesgados, es probable que se dirijan de manera desproporcionada a poblaciones minoritarias y desatendidas”.
“Conducirá a un mayor escrutinio de las minorías raciales y étnicas”. Se verán especialmente afectados”.
Otro tema que abordó el Dr. Ciriello fue la forma en que algunas personas reaccionan al saber que están siendo monitoreadas, citando observaciones de un colega que se especializa en delitos performativos.
La vigilancia se convertirá en la norma para los australianos en los próximos tres a cinco años, Dr. Raffaele Ciriello, profesor de la Universidad de Sydney
“Aparentemente hay una gran tendencia en Nueva Gales del Sur en la que los adolescentes usan deliberadamente cámaras de seguridad para ser filmados y luego lo publican en TikTok como un concurso de atención”, dijo.
“Algunas personas se aprovechan de esta atención y cometen delitos deliberadamente”. Otros trasladan la actividad a otros lugares donde es menos transparente.
“En cada calle que caminas estás siendo monitoreado y seguido, y eso cambia todo tu comportamiento”.
“Ya no existe un espacio público real ni un espacio privado real porque en todas partes hay alguien mirando y se sigue algo”.
El gobierno de Queensland y el Ayuntamiento de Melbourne no son los primeros en introducir vigilancia mediante IA. El Dr. Ciriello añadió que los principales minoristas como Kmart y Bunnings han adoptado tecnología de detección de robos.
“Lo usamos en el Abierto de Australia con tecnología de reconocimiento facial y ahora estamos usando el reconocimiento de imágenes en el tráfico”, dijo.
Sin embargo, cuando se le preguntó si existía riesgo de vigilancia excesiva, confirmó que, en su opinión, se trataba de un problema grave.
“Como tengo antecedentes europeos, regularmente me sorprenden las cosas que suceden aquí (Australia), porque eso causaría una gran protesta en Europa”, dijo.
El Dr. Ciriello dijo que el nivel de vigilancia en Australia era similar al de China (visitantes en la foto filmados por cámaras de inteligencia artificial con tecnología de reconocimiento facial en Beijing en 2018).
El Dr. Ciriello dijo que pasó los primeros 20 años de su vida en Alemania, donde “por razones históricas, la gente tiene preocupaciones extremadamente grandes sobre la privacidad”.
“Tienes experiencia de primera mano, primero durante el régimen nazi y luego en Alemania del Este como parte de la Unión Soviética; hay una historia que hace que los alemanes de hoy estén muy preocupados por la privacidad”.
“Crecí en este entorno y la infraestructura de vigilancia es definitivamente mucho más avanzada aquí (en Australia)”.
Añadió que medidas como la muy elogiada prohibición de las redes sociales a los menores de 16 años por parte del gobierno albanés también están normalizando la vigilancia de la IA.
La prohibición se introdujo el 10 de diciembre, y las plataformas y los padres deseaban mantener alejados a los niños.
Pero el Dr. Ciriello explicó que las plataformas se basarán en algoritmos de inteligencia artificial para determinar si un usuario es menor de edad en función de su historial de búsqueda.
“Creo que la mayoría de la gente ya ha aceptado el hecho de que vivimos en una sociedad completamente controlada”, afirmó.
“La vigilancia no solo proviene del Estado, sino también de proveedores comerciales en diversos niveles (como las plataformas de redes sociales).
El Dr. Ciriello (en la foto) advirtió que una mayor vigilancia podría victimizar a las minorías en Australia
“Los datos a menudo se reenvasan y revenden”. La infraestructura tecnológica existe, pero lo que falta en Australia son los controles y equilibrios democráticos”.
Cuando se le preguntó si el uso cada vez mayor de la vigilancia mediante IA podría afectar las libertades de los australianos, el Dr. Ciriello: “¿Qué libertad?”
“No sólo corremos el riesgo de perder esto, sino que en cierto modo ya lo hemos perdido”, afirmó.
“Ya no existe la privacidad”. Todo está monitoreado. Todo está en línea.
“Ya hemos renunciado a muchas cosas y la tendencia general es hacia una mayor erosión de la privacidad”.
