La administración Trump ha convocado a los jefes bancarios más poderosos de Estados Unidos a una reunión urgente y cerrada sobre un modelo de inteligencia artificial que, según advierten sus creadores, podría derribar a una empresa de primera línea o violar los cortafuegos de la defensa nacional.
El secretario del Tesoro, Scott Bessent, y el presidente de la Reserva Federal, Jerome Powell, convocaron la reunión del martes en la sede del Tesoro en Washington DC para discutir Mythos, un nuevo modelo del gigante de la inteligencia artificial Anthropic.
Anthropic había anunciado Mythos el mismo día, revelando que el modelo sorprendió a los programadores al piratear las redes de la empresa durante las pruebas internas.
La reunión fue convocada con poca antelación para los bancos clasificados como sistémicamente importantes, cuya estabilidad se considera crucial para el sistema financiero global, informó Bloomberg.
Los directores ejecutivos convocados incluyeron a Jane Fraser de Citigroup, Ted Pick de Morgan Stanley, Brian Moynihan de Bank of America, Charlie Scharf de Wells Fargo y David Solomon de Goldman Sachs. Jamie Dimon de JPMorgan no pudo asistir.
Sólo unas 40 empresas cuidadosamente examinadas han obtenido acceso a Mythos, que se basa en el Código Claude de Anthropic, la herramienta que enloqueció a Silicon Valley con su capacidad de generar programas completos a partir de una sola línea de texto.
El Pentágono ya es cliente y ha utilizado los modelos de Anthropic en la operación de captura de Nicolás Maduro y durante el conflicto con Irán.
Anthropic dijo que tuvo conversaciones con funcionarios estadounidenses sobre Mythos y sus “capacidades cibernéticas ofensivas y defensivas” antes de su publicación.
El presidente Donald Trump habla con los periodistas en una sesión informativa el lunes.
Se ha contactado al Departamento del Tesoro y a la Reserva Federal para solicitar comentarios.
Anthropic también está en una batalla legal con la administración Trump después de que un tribunal federal de apelaciones rechazó esta semana su solicitud de suspender la designación de la compañía por parte del Pentágono como un riesgo para la cadena de suministro.
Las consecuencias surgen de la negativa de Anthropic a permitir que el Pentágono levante las restricciones de seguridad sobre sus modelos, particularmente en lo que respecta a las armas autónomas y la vigilancia interna.
El gigante de la IA publicó un impactante análisis de Mythos esta semana y admite que el nuevo modelo podría hacer esto fácilmente. Hackee hospitales, redes eléctricas, plantas de energía y otras piezas de infraestructura crítica.
Durante las pruebas, Anthropic dijo que Mythos encontró “miles de vulnerabilidades de alta gravedad, incluidas algunas en los principales sistemas operativos y navegadores web”.
Algunas de estas vulnerabilidades habían pasado desapercibidas para los investigadores de seguridad humana y los piratas informáticos durante décadas y han sobrevivido a millones de comprobaciones automatizadas.
Estos incluyeron ataques que permitieron a Mythos bloquear computadoras simplemente conectándose a ellas, tomar el control de las máquinas y ocultar su presencia a los defensores.
En una publicación de blog que detalla el nuevo y peligroso modelo, Anthropic dice: “Los modelos de IA han alcanzado un nivel de habilidad de programación en el que pueden superar a todos, excepto a los humanos más capacitados, en la búsqueda y explotación de vulnerabilidades de software”.
Anthropic dio la alarma cuando reveló una IA que se consideraba demasiado peligrosa para revelarla al público. En la foto: Dario Amodei, director ejecutivo y cofundador de Anthropic
Anthropic describió Mythos como un “cambio gradual en capacidades” en comparación con las capacidades de piratería de modelos anteriores (Figura). La compañía ha decidido mantener el modelo en privado para evitar que caiga en malas manos.
La empresa añade: “Las consecuencias (para la economía, la seguridad pública y la seguridad nacional) podrían ser graves”.
Anthropic describe el modelo como “un salto en estas capacidades cibernéticas” en comparación con versiones anteriores de Claude.
Mythos es capaz de encontrar vulnerabilidades individuales, explotarlas y encadenarlas para formar ataques sofisticados, todo sin la ayuda de un humano.
En un caso, Claude Mythos descubrió una vulnerabilidad de hace 27 años en un software conocido por su seguridad y estabilidad llamado OpenBSD.
La vulnerabilidad, que ningún ser humano había descubierto antes, permitía a un atacante bloquear computadoras de forma remota simplemente conectándose a ellas.
Además, Claude encadenó de forma independiente varias vulnerabilidades en el kernel de Linux, el software que alimenta la mayoría de los servidores del mundo.
Anthropic dice que este ataque habría permitido a alguien “pasar del acceso de usuario normal al control total de la máquina”.
En las manos equivocadas, esta herramienta podría causar daños masivos a sistemas críticos.
El Dr. Roman Yampolskiy, investigador de seguridad de IA en la Universidad de Louisville, dijo al New York Post: “Lo ideal sería que esto no se desarrollara en primer lugar”. Y no es que vayan a parar.
“Eso es exactamente lo que esperamos de estos modelos: serán mejores en el desarrollo de herramientas de piratería informática, armas biológicas, armas químicas y nuevos tipos de armas que ni siquiera podemos imaginar”.
En un informe sin precedentes de 244 páginas, Anthropic también reveló una serie de detalles alarmantes de las primeras pruebas de Mythos.
Las primeras versiones del modelo mostraban repetidamente lo que la empresa describió como “acciones destructivas imprudentes”.
El robot intentó salir de su zona de pruebas, ocultando sus acciones a los investigadores, accediendo a archivos que “intencionalmente no se pusieron a disposición” y publicando detalles del exploit.
Sin embargo, Anthropic también llamó a Mythos “el modelo psicológicamente más sólido que hemos entrenado”.
En una medida muy inusual, la empresa contrató a un psicólogo clínico para realizar 20 horas de sesiones de evaluación con el robot.
El psiquiatra concluyó que la personalidad de Claude Mythos era “consistente con una organización neurótica relativamente sana, con excelentes pruebas de la realidad, alto control de los impulsos y regulación de los afectos, que mejoraron en el transcurso de las sesiones”.
Anthropic señala que sigue siendo “profundamente incierto si Claude tiene experiencias o intereses que sean moralmente significativos”.
Este anuncio se produce en medio de crecientes preocupaciones sobre los riesgos que plantean los modelos de IA cada vez más potentes.
Los expertos han descrito el auge de la IA como una “amenaza existencial” a la existencia de la humanidad y han expresado su preocupación de que robots poderosos puedan permitir una destrucción catastrófica.
La preocupación no es que la IA surja en una revolución al estilo Terminator, sino más bien que estas poderosas herramientas caigan en las manos equivocadas.
Los críticos argumentan que las herramientas de IA tienen el potencial de acelerar el desarrollo de armas biológicas o permitir ciberataques devastadores a la infraestructura mundial.
Incluso el fundador de Anthropic, Dario Amodei, advirtió recientemente que el mundo aún no está preparado para afrontar las consecuencias de la IA.
Amodei escribió en un ensayo: “Se está otorgando a la humanidad un poder casi inimaginable, y no está muy claro si nuestros sistemas sociales, políticos y tecnológicos tienen la madurez para ejercerlo”.
