La Corte de Apelaciones del Circuito de Columbia avaló este viernes la decisión del Departamento de Guerra (el nombre que el gobierno de Donald Trump le dio al Pentágono) de sacar a Claude, el modelo de inteligencia artificial de Anthropic, de toda su cadena de suministro. La sentencia incorpora al expediente la disputa entre la empresa y el gobierno por el uso de su tecnología en la operación del 3 de enero que terminó con la captura de Nicolás Maduro en Caracas.
Por Rory Branker | La Patilla
El fallo, en el caso Anthropic PBC v. United States Department of War (No. 26-1049, consolidado con el 26-1162), salió dividido dos a uno. Lo redactó el juez Gregory Katsas, con el voto de la jueza Neomi Rao. La jueza Karen LeCraft Henderson disintió. El documento tiene 51 páginas y puede leerse completo al final de esta nota.
El 3 de marzo, el secretario de Guerra, Pete Hegseth, determinó que el uso de Claude en los sistemas del Departamento “presenta un riesgo significativo de cadena de suministro”, con base en la Federal Acquisition Supply Chain Security Act de 2018. La medida llegó después de que Anthropic se negara a eliminar dos prohibiciones de su contrato: el uso del modelo en guerra autónoma letal y en vigilancia masiva de estadounidenses.
La mayoría concluyó que el Departamento tenía “amplio respaldo” para considerar un riesgo de seguridad nacional que Claude siguiera integrado en sus sistemas, ya fuera por uso directo o a través de contratistas. También rechazó los reclamos de debido proceso y de represalia bajo la Primera Enmienda. Según Katsas, la exclusión respondió a la negativa de la empresa a aceptar una cláusula contractual que el gobierno consideraba esencial, y no a sus opiniones públicas sobre la regulación de la IA.
Lo que dice el expediente sobre Caracas
El Departamento nunca nombró la misión. En el memorando que sustentó la exclusión, el subsecretario de Investigación e Ingeniería, Emil Michael, escribió que un ejecutivo de Anthropic “cuestionó la pertinencia” del uso de su software en una “operación militar sensible en el extranjero”, pese a que, según el gobierno, los términos de servicio lo permitían. Esa pregunta, añadió, “generó alarma” en el Departamento y en el contratista principal, y “planteó dudas materiales” sobre si el software dejaría de funcionar o provocaría “alguna otra acción desastrosa que pondría en peligro la vida de nuestros combatientes”.
Venezuela entró al expediente por la vía de Anthropic. La empresa consignó reportes de prensa según los cuales había planteado a Palantir, el contratista a través del cual Claude llega a los sistemas clasificados, preguntas sobre el papel de su tecnología en la “operación militar para capturar al presidente de Venezuela, Nicolás Maduro”. Esa operación incluyó bombardeos en Caracas y terminó con Maduro y Cilia Flores trasladados a Nueva York para enfrentar cargos federales. Ante la corte, Anthropic describió el episodio como un malentendido.
Katsas reconoce que el tribunal no sabe con exactitud qué ocurrió en un incidente que Michael describe como un casi desastre y el director ejecutivo de Anthropic, Dario Amodei, como un malentendido. Aun así, la sentencia usa el caso venezolano a favor del gobierno. Que el incidente haya podido darse durante “una operación cinética de conmoción y pavor para capturar a un jefe de Estado extranjero”, escribe el juez, subraya lo delicado de la disputa y “la necesidad del Departamento de tener certeza” de que sus sistemas de IA funcionarán como espera.
Casi nueve meses después de la redada, nadie ha revelado qué hizo Claude aquella noche. En febrero, The Wall Street Journal informó que el Pentágono usó el modelo en la operación a través de Palantir. Axios, citando dos fuentes, añadió que se usó durante la operación activa y no solo en la preparación, aunque no pudo confirmar su función exacta. Semafor, con fuentes cercanas a Palantir, sostuvo que su peso fue menor: los modelos de lenguaje suelen ser una fracción pequeña de las plataformas de esa empresa.
La secuencia de fechas sí está documentada. El 9 de enero, seis días después de la operación, Hegseth publicó la estrategia de IA del Departamento, que exige modelos “libres de restricciones de políticas de uso que puedan limitar aplicaciones militares legales” y cláusulas de “cualquier uso legal” en los contratos. El 24 de febrero se reunió con Amodei y le dio plazo hasta el 27 para aceptar esa cláusula. Anthropic se negó el 26, y Trump ordenó a las agencias federales dejar de usar su tecnología. La exclusión formal llegó el 3 de marzo.
La sentencia cierra con el dilema planteado en sus dos extremos. “El secretario plantea la posibilidad, profundamente inquietante, de modelos de IA demasiado restringidos que se apaguen de forma inesperada y hagan fracasar operaciones militares importantes. Anthropic plantea la posibilidad, profundamente inquietante, de modelos de IA sin restricciones que alucinen blancos indebidos para el uso de fuerza militar letal”, escribió Katsas. “Ambas posibilidades plantean evidentes preocupaciones de seguridad nacional. Pero en nuestra República, son el presidente y el secretario de Guerra quienes deben decidir cómo equilibrar mejor los riesgos en conflicto”.
El tribunal deja abierta la discusión moral y zanja la de autoridad. En su voto disidente, Henderson sostuvo que la ley solo permite excluir a un proveedor cuando hay actos intencionalmente subversivos o engañosos, y que el gobierno y la mayoría leyeron el verbo “manipular” de forma demasiado amplia.
Para Venezuela, el caso tiene un peso propio. La operación que sacó a Maduro del poder figura ahora en un expediente judicial estadounidense como parte del quiebre entre el Pentágono y una de las principales empresas de inteligencia artificial del mundo. La discusión sobre si un Estado puede exigir que un modelo comercial obedezca sin reservas durante una misión militar ya tiene un caso concreto, y ese caso ocurrió en Caracas.
Lea la sentencia completa:
