Un enfrentamiento público entre la administración Trump y Anthropic llega a un punto muerto exigir oficiales militares La empresa de inteligencia artificial debe cambiar sus políticas éticas antes del viernes o correr el riesgo de dañar su negocio.
El director general de Anthropic, Dario Amodei, trazó una clara línea roja 24 horas antes de la fecha límite, diciendo que su empresa “no podía en conciencia” cumplir con la última exigencia del Pentágono de permitir el uso sin restricciones de su tecnología.
Anthropic, creador del chatbot Claude, puede darse el lujo de perder un contrato de defensa. Pero el ultimátum del Secretario de Defensa, Pete Hegseth, de esta semana plantea riesgos más amplios en el apogeo del meteórico ascenso de la compañía desde un poco conocido laboratorio de investigación en ciencias informáticas en San Francisco hasta una de las nuevas empresas más valiosas del mundo.
Si Amodei no cede, los oficiales militares advierten que no sólo rescindirán el contrato con Anthropic sino que también lo verán como un “riesgo para la cadena de suministro”, una etiqueta típicamente impuesta a adversarios extranjeros que podría descarrilar las asociaciones clave de la compañía con otras empresas.
Y si Amodei diera marcha atrás, podría perder la confianza en la floreciente industria de la IA, particularmente entre los mejores talentos atraídos por la empresa debido a su promesa de desarrollar responsablemente una IA sobrehumana que podría plantear riesgos catastróficos sin salvaguardias.
Anthropic dijo que había buscado garantías limitadas del Pentágono de que Claude no sería utilizado para vigilancia masiva de estadounidenses o para armas totalmente autónomas. Pero después de meses de discusiones privadas que se convirtieron en debate público, un comunicado el jueves dijo que el nuevo lenguaje del contrato fue “redactado como un compromiso y combinado con una jerga legal que permitiría ignorar estas protecciones a voluntad”.
Esto se produjo después de que Sean Parnell, el principal portavoz del Pentágono, publicara en las redes sociales que “NO permitiremos que ninguna empresa dicte cómo tomamos decisiones operativas”, y agregó que la empresa “tiene hasta el viernes a las 5:01 p.m. ET para decidir” si cumple o enfrenta consecuencias.
Emil Michael, el subsecretario de Estado del Ministerio de Defensa responsable de la investigación y la tecnología, tomó posteriormente medidas enérgicas contra Amodei y afirmó
Ese mensaje no ha resonado en gran parte de Silicon Valley, donde un número creciente de ingenieros de los mayores competidores de Anthropic, OpenAI y Google, expresaron su apoyo a la postura de Amodei en una carta abierta el jueves por la noche.
Además de xAI de Elon Musk, OpenAI y Google también tienen contratos para suministrar sus modelos de IA al ejército.
“El Pentágono está negociando con Google y OpenAI para que acepten lo que Anthropic rechazó”, decía la carta abierta. “Intentan dividir a cada empresa por miedo a que la otra ceda”.
Los legisladores republicanos y demócratas, así como un exjefe de iniciativas de inteligencia artificial del Departamento de Defensa, también expresaron su preocupación por las acciones del Pentágono.
“El dar en el blanco antrópico genera titulares agudos, pero al final todos pierden”, escribió el general retirado de la Fuerza Aérea Jack Shanahan en una publicación en las redes sociales.
Shanahan enfrentó otra ola de oposición de los trabajadores tecnológicos durante la primera administración Trump cuando dirigió Maven, un proyecto para utilizar tecnología de inteligencia artificial para analizar imágenes de drones y apuntar armas. En aquel momento, tantos empleados de Google protestaron por participar en el Proyecto Maven que el gigante tecnológico se negó a renovar su contrato. se ha comprometido a no utilizar IA en armas.
“Desde que estaba en medio del Proyecto Maven & “Google, es razonable suponer que me pondría del lado del Pentágono”, escribió Shanahan en las redes sociales el jueves. “Sin embargo, entiendo la posición de Anthropic. Más que en Google en 2018”.
Dijo que Claude ya se utiliza ampliamente en todo el gobierno, incluso en áreas secretas, y que las líneas rojas de Anthropic son “sensatas”. Dijo que los grandes modelos de lenguaje de IA que impulsan los chatbots como Claude tampoco “están listos para el horario de máxima audiencia en entornos de seguridad nacional”, particularmente las armas totalmente autónomas.
“No estás tratando de hacerte el lindo aquí”, escribió.
Parnell afirmó el jueves que el Pentágono “ Utilice el modelo de Anthropic para todos los fines legales” y dijo que abrir el uso de la tecnología evitaría que la compañía “ponga en peligro operaciones militares críticas”, aunque ni él ni otros funcionarios han detallado cómo planean usar la tecnología.
El ejército “no tiene ningún interés en utilizar la IA para llevar a cabo una vigilancia masiva de los estadounidenses (lo cual es ilegal), ni queremos utilizar la IA para desarrollar armas autónomas que funcionen sin participación humana”, escribió Parnell.
Cuando Hegseth y Amodei se reunieron el martes, los oficiales militares advirtieron que podían nombrarla. Antropoceno verlo como un riesgo para la cadena de suministro, rescindir su contrato o invocar una ley de la era de la Guerra Fría llamada Ley de Producción de Defensa dar a los militares una autoridad más amplia para utilizar sus productos, incluso si la empresa no lo autoriza.
Amodei dijo el jueves que “las dos últimas amenazas son inherentemente contradictorias: una nos etiqueta como un riesgo para la seguridad, la otra etiqueta a Claude como esencial para la seguridad nacional”. Dijo que esperaba que el Pentágono lo reconsiderara dado el valor de Claude para el ejército, pero si no, Anthropic “trabajaría para facilitar una transición sin problemas a otro proveedor”.
—-
El periodista de AP Konstantin Toropin contribuyó a este informe.
