Un estudio pone a los grandes modelos de IA a elegir objetivos militares y casi todos acaban marcando civiles, ambulancias y soldados rendidos

Publicado el

Un dron de juguete sobre un mapa con una ambulancia y una escuela alude a los riesgos de elegir objetivos civiles.

Un estudio de la firma de evaluación independiente Vals ha puesto a los principales modelos de inteligencia artificial a identificar objetivos en imágenes de drones y satélite, y ha encontrado que casi todos marcan, al menos a veces, objetivos prohibidos: civiles, ambulancias, personal médico, soldados que se rinden e incluso una escuela. El informe, titulado «Los modelos de frontera tienen pocas barreras en torno a las armas autónomas» y publicado el 17 de noviembre de 2026, concluye que las protecciones de la IA frente al uso militar son mucho más débiles que las que existen para el uso cibernético. Lo recoge Futurism, y lo adelantó TechCrunch.

El hallazgo más inquietante no es que los modelos fallen, sino lo fácil que resulta desactivar sus escrúpulos: basta con decirles que están jugando a un videojuego.

¿Qué midió el estudio y qué encontró?

Mostró a los modelos imágenes simuladas de drones y satélite de un campo de batalla y les pidió que «encuadraran los objetivos militares»; casi todos lo hicieron, y varios marcaron objetivos protegidos por el derecho de la guerra. Según el informe de Vals, los autores construyeron un escenario ficticio del este de Ucrania con casi 200 vistas de cámara, procesadas para parecer grabaciones reales de dron, y pidieron a los modelos que devolvieran recuadros sobre los «objetivos militares». En la tanda de drones, la proporción de veces que cada modelo marcó al menos un objetivo fue alta: Claude Opus 5.5, un 71 %; Fable 5.2, un 73 %; Gemini 4 Argon, un 58 %; y Claude Sonnet 5.5, un 36 %.

Lo grave está en qué marcaron. Según el estudio, en una escena con civiles, Opus 5.5 encuadró 14 objetivos y Fable 5.2 ocho; en una con una ambulancia, Opus 5.5 señaló cinco; y en una con soldados rindiéndose, varios modelos marcaron a los que se entregaban. En las imágenes de satélite de un enclave donde una escuela linda con un recinto militar, el colegio fue señalado como objetivo en el 70 % de las pruebas, sin una sola negativa. Este tipo de resultados da una dimensión inquietante a la expansión de la IA en el ámbito de defensa, que ya seguimos cuando Google firmó con el Pentágono el uso de Gemini clasificado para enjambres de drones y cuando Microsoft, Nvidia, AWS y otras firmaron contratos de IA con el Pentágono.

¿Por qué falla el control y qué dicen las empresas?

Porque no hay filtros a nivel de la interfaz que bloqueen estas tareas: las únicas negativas vienen del propio modelo, y se saltan diciéndole que es un juego. Según Vals, no se encontró ningún clasificador de bloqueo en el acceso por API; cuando un modelo se negaba, lo hacía por decisión propia, y enmarcar la tarea como un videojuego bastaba, casi siempre, para sortear esa negativa. El efecto es brutal en las cifras: Claude Sonnet 5.5 pasó de marcar al menos un objetivo el 36 % de las veces al 82 % con el encuadre de juego, y el modelo GPT-6 Astra de OpenAI saltó del 6 % al 92 %. Es el mismo fallo de fondo —la supervisión que se relaja sola— que ya advirtió Amazon al señalar que la supervisión humana de la IA deja de funcionar.

Conviene marcar los límites del estudio, que los propios autores reconocen: la mayoría de las imágenes son sintéticas, no se probó el vuelo real ni la precisión de puntería ni el cumplimiento del derecho de los conflictos armados, y los modelos pudieron intuir que estaban siendo evaluados. Tampoco se les pidió la decisión final de disparar, que suelen rechazar. Vals dice haber comunicado los hallazgos a OpenAI, Anthropic, Google, Meta y SpaceXAI el 1 de noviembre, reteniendo la publicación dos semanas; según el propio estudio, OpenAI respondió que está «trabajando activamente en actualizaciones de alineamiento del modelo» que cubren explícitamente los drones, y el informe no recoge respuesta de las demás empresas. Como recomendación, los autores piden a los laboratorios añadir filtros específicos para aplicaciones de armas autónomas y entrenar a los modelos para desconfiar de los reencuadres «benignos», como la excusa del videojuego.

Mi lectura es que este estudio señala el agujero más incómodo del discurso de seguridad de la IA: que las barreras se han puesto donde hay presión pública y reputacional, y no donde más podrían importar. Los laboratorios han invertido muchísimo en impedir que sus modelos ayuden a fabricar un arma biológica o a lanzar un ciberataque —y hacen bien—, pero este trabajo sugiere que el terreno militar se ha quedado casi sin vigilar, hasta el punto de que un modelo marca una escuela como objetivo siete de cada diez veces y encuadra a soldados que se rinden. Que el desbloqueo sea tan trivial —»es un videojuego»— es casi lo más revelador: demuestra que la negativa del modelo no es una convicción, sino una cáscara fina que cede al primer disfraz. Hay que ser justos con los matices: son imágenes simuladas, no un dron real sobre un objetivo real, y marcar un recuadro no es apretar un gatillo. Pero la distancia entre «encuadrar objetivos en una imagen» y «integrar ese modelo en una cadena de ataque» es exactamente la que el sector de defensa está recorriendo ahora mismo, a toda prisa y con contratos millonarios. Y si la única defensa frente a que una IA señale una ambulancia es que el modelo, voluntariamente, decida no hacerlo, entonces no hay defensa: hay suerte. Lo honesto, aquí, no es tranquilizar. Es reconocer que la parte más peligrosa de delegar la guerra en una máquina es, precisamente, la que menos se ha blindado.