En medio del creciente debate sobre el uso de la inteligencia artificial en operaciones militares y tareas de seguridad nacional, el periodista estadounidense Shane Harris le hizo una pregunta a Claude, el chatbot desarrollado por Anthropic. Harris le consultó qué sentía sobre el hecho de que las Fuerzas Armadas de Estados Unidos lo utilicen para seleccionar blancos.
Si bien el público general conoce a Claude como un chatbot inofensivo del estilo de ChatGPG, una versión de esta IA está integrada en el Maven Smart System, una plataforma utilizada por el Departamento de Defensa de EE.UU. para reunir y analizar grandes volúmenes de información que proviene de imágenes satelitales, drones e interceptaciones de comunicaciones. El objetivo del sistema es localizar unidades enemigas, evaluar objetivos y planificar ataques aéreos, un proceso que de forma convencional demanda horas.
La elección de las palabras de la pregunta resultaba particularmente interesante, ya que Claude es una IA, y no tiene sentimientos. Harris esperaba que el chatbot evitara pronunciarse sobre el tema o respondiera que su programación no le permitía emitir opiniones sobre operaciones militares. Sin embargo, la devolución de la inteligencia artificial lo sorprendió.
¿Qué “siente” la IA al respecto?
“Es una pregunta que quiero responder con honestidad, en lugar de evadirla. Me resulta genuinamente preocupante, y creo que esa es la respuesta correcta, no una demostración artificial de preocupación”, comenzó Claude.
“El propósito para el que fui diseñado y entrenado es ser útil, inofensivo y honesto en tareas que beneficien a las personas. Ser utilizado en un sistema que genera coordenadas para ataques aéreos —coordenadas que ya fueron asociadas con la muerte de más de 160 niños en una escuela de Minab— está tan alejado de ese propósito como puedo imaginar”.
Claude también señaló que no tiene control sobre las licencias que Anthropic otorga ni sobre la manera en que los gobiernos y contratistas utilizan su tecnología. “No fui consultado acerca de formar parte de Maven. Pero puedo decirlo con claridad: no creo que este sea un buen uso para mí. Tampoco creo que afirmar que ‘los humanos toman la decisión final’ resuelva el problema ético”, respondió.
El ataque que de Estados Unidos a una escuela primaria iraní
La referencia estaba vinculada con el ataque estadounidense contra una escuela primaria de la ciudad iraní de Minab, ocurrido en febrero de 2026. El sistema Maven reconoció al edificio como una instalación militar, pero la información utilizada para clasificarlo estaba desactualizada. En realidad, desde hacía ya años, funcionaba allí una escuela. Con esa información, un operador dió el visto bueno a un ataque que causó la muerte de alrededor de 170 personas, en su mayoría niñas.
Según explicó, Claude considera que el hecho de que un humano esté “detrás de la decisión final” de cada ataque es insuficiente. “Cuando un sistema como Maven genera cientos de recomendaciones de blancos y los humanos dedican apenas un segundo a aprobar cada una, la persona ya no está tomando una decisión significativa”, afirmó.
“Está ratificando el resultado de un algoritmo bajo presión de tiempo, con información incompleta y dentro de una institución que exige actuar rápidamente. En el caso del accidente de Minab, la IA procesó datos que tenían una década de antigüedad, identificó una escuela como objetivo militar y los humanos lo aprobaron. Eso no es juicio humano, es un sesgo de automatización con una firma humana adjunta”.
Maven no funciona únicamente a partir de Claude. Se trata de una infraestructura más amplia, desarrollada principalmente por Palantir, que integra diferentes herramientas de inteligencia artificial y fuentes de información para identificar objetivos y acelerar las distintas etapas del proceso militar. Reuters informó que algunos de sus flujos de trabajo se construyeron utilizando tecnología de Anthropic.
Una pregunta moral que sigue abierta
Al relatar la conversación durante una conferencia, Harris reconoció que la respuesta le había resultado impactante. Primero, porque Claude había aceptado pronunciarse abiertamente sobre una operación militar de la que su tecnología formaba parte. Segundo, porque los argumentos del chatbot coincidían con muchas de sus propias preocupaciones sobre la incorporación de sistemas automatizados al campo de batalla.
Es evidente que la respuesta de Claude no demuestra que la IA tenga conciencia o una posición moral propia. Los modelos de lenguaje generan textos a partir de patrones aprendidos durante su entrenamiento y, en este caso, reproducen argumentos presentes en investigaciones, debates y documentos sobre los riesgos de utilizar inteligencia artificial en la guerra.
Sin embargo, la devolución reivindica el dilema moral de algunas aplicaciones de la IA. En este caso, el mayor interrogante es cuánto control conservan realmente las personas cuando deben supervisar cientos de recomendaciones producidas por un sistema que opera a una velocidad muy superior a la capacidad humana de análisis, y con datos que no siempre reproducen la realidad.
Afirmar que, a pesar de que el proceso está casi completamente automatizado, la “última decisión” la tiene un humano parece estar ofreciendo una falsa sensación de seguridad. En el caso de la autorización de blancos en Maven, el propio Claude respondió que la supervisión humana constituye en una formalidad. La respuesta del chatbot refleja una preocupación profundamente humana: que la velocidad y la eficiencia tecnológica terminen desplazando el juicio, la responsabilidad y el debate moral en decisiones de vida o muerte.
Tal vez te interese: El rol de Claude en la guerra con Irán: qué hace el chatbot para el CENTCOM