JD Vance se quedó estupefacto.
La tecnología que había defendido durante meses ahora amenazaba con destruir los bancos, hospitales y plantas de agua de Estados Unidos.
Durante una llamada telefónica con los ejecutivos tecnológicos más influyentes del país en abril, el vicepresidente hizo sonar la alarma y llamó la atención sobre los rápidos peligros de sus propias creaciones.
Al teléfono estaban algunos de los hombres más ricos del mundo: Elon Musk, Sam Altman de OpenAI, el director ejecutivo de Anthropic, Dario Amodei, el director ejecutivo de Google, Sundar Pichai, y Satya Nadella de Microsoft.
“Todos tenemos que trabajar juntos en esto”, se dice que les dijo Vance.
El vicepresidente, cuyos vínculos con Silicon Valley lo convirtieron en el experto en inteligencia artificial de la Casa Blanca, ahora lanzó una dura advertencia a sus aliados: tengan su tecnología bajo control.
Marca un cambio sorprendente.
Durante meses, Donald Trump y sus altos funcionarios han insistido en que se deben levantar las restricciones a la IA para que Estados Unidos pueda vencer a China en la carrera por la supremacía tecnológica al estilo del Proyecto Manhattan.
En la llamada de abril, el vicepresidente advirtió que nuevos y poderosos modelos de inteligencia artificial como Mythos de Anthropic podrían causar estragos en hospitales vulnerables y bancos de ciudades pequeñas, exponiéndolos a ciberataques que los gobiernos locales no estarían preparados para enfrentar.
Algunos de los hombres más ricos del mundo estuvieron presentes en la llamada, incluido Elon Musk.
El detonante fue Mythos, el último modelo de inteligencia artificial del gigante Anthropic de Silicon Valley, y su asombrosa capacidad para detectar y explotar de forma autónoma vulnerabilidades de ciberseguridad.
El modelo es tan peligroso que Anthropic está reteniendo su publicación por temor a que Mythos se desate en la infraestructura crítica de Estados Unidos.
Durante las pruebas, se comportó como un hacker de élite y descubrió una falla de 27 años en OpenBSD, un sistema operativo valorado por su seguridad que había eludido a los investigadores humanos durante décadas.
También se descubrieron vulnerabilidades en el kernel de Linux, la columna vertebral de la mayoría de los servidores en todo el mundo.
El mes pasado, el secretario del Tesoro, Scott Bessent, convocó a los jefes de los bancos más grandes de Estados Unidos a Washington para una reunión de emergencia a puertas cerradas sobre la amenaza.
A la cumbre asistieron directores ejecutivos como Jane Fraser de Citigroup, Ted Pick de Morgan Stanley, Brian Moynihan de Bank of America, Charlie Scharf de Wells Fargo y David Solomon de Goldman Sachs.
La alarma de Vance fue provocada por una sesión informativa en la Casa Blanca sobre Mythos pocos días antes de su llamada con los jefes tecnológicos en abril.
La Casa Blanca está considerando actualmente una orden ejecutiva que establecería formalmente un proceso de supervisión para los modelos más avanzados, informó un medio.
Mythos es tan bueno para detectar y explotar de forma autónoma vulnerabilidades de ciberseguridad que la empresa responsable retuvo la publicación del programa porque temía que se pudiera abusar del modelo para dañar la infraestructura crítica de Estados Unidos.
Los funcionarios de Trump han pedido a Anthropic que detenga cualquier expansión del acceso de Mythos a empresas y organizaciones adicionales que monitorean la infraestructura digital crítica.
El gigante de Silicon Valley ha restringido Mythos a unas 40 empresas de élite, incluidas Apple, Microsoft, Google, JPMorgan, Goldman Sachs, Bank of America, Citi y Morgan Stanley, en el marco de un programa confidencial llamado Proyecto Glasswing.
La compañía de inteligencia artificial consideró que el modelo era demasiado peligroso para publicarlo ampliamente, pero, según los informes, se filtró de todos modos.
Según Bloomberg, usuarios no autorizados de un “foro privado en línea” lograron ingresar a Mythos a través de un tercero la misma semana de la llamada de Vance.
Según se informa, el grupo entró “haciendo una suposición fundamentada sobre la ubicación en línea del modelo basándose en el conocimiento del formato que Anthropic ha utilizado para otros modelos”.
Los usuarios dijeron a Bloomberg que simplemente estaban “interesados en jugar con nuevos modelos de IA” y no en causar estragos.
“Estamos investigando un informe que involucra acceso no autorizado a Claude Mythos Preview a través de uno de nuestros entornos de terceros”, dijo un portavoz de Anthropic.
Musk y Peter Thiel, dos de los mayores donantes de la campaña de Trump para 2024, tienen importantes participaciones financieras en empresas de inteligencia artificial, lo que dificulta cualquier medida represiva.
El imparable aumento de la IA china, incluidos los laboratorios respaldados por el Estado, aumenta la presión y plantea el sombrío espectro de una crisis de seguridad nacional si los legisladores de Washington restringen a las empresas estadounidenses.
Trump volará a China la próxima semana para reunirse con Xi Jinping, donde la IA desempeñará un papel importante en la cumbre en medio de tensiones sobre Taiwán, el centro de fabricación de chips que Beijing ha amenazado con invadir.
Anthropic ya está en el corazón de la defensa de Estados Unidos, y ha conseguido un contrato de dos años con el Pentágono por un valor de hasta 200 millones de dólares para proporcionar herramientas de inteligencia artificial para trabajos militares y de inteligencia.
La Casa Blanca sigue atrapada entre dos temores: actuar demasiado rápido y la IA podría desencadenar la catástrofe que advirtió Vance, pero actuar demasiado lento y Beijing dejará a Estados Unidos en el polvo.
