La IA en la guerra: armas autónomas, uso militar actual y lo que se negocia en la ONU

El debate internacional sobre armas autónomas lleva más de una década en Naciones Unidas sin un tratado. Mientras tanto, la IA ya se usa en conflictos reales para analizar información, proponer objetivos y guiar drones en la fase final de su trayectoria cuando las interferencias cortan la conexión con el operador. Que la IA llegue a la guerra ya es un hecho. La pregunta central es cuánto control humano debe quedar en las decisiones de usar la fuerza, y si los países lograrán acordar reglas antes de que la práctica las haga irrelevantes.

Este artículo trata el tema desde el punto de vista del derecho, la política y el debate público, con hechos publicados hasta su fecha. Algunos usos militares se conocen solo por investigaciones periodísticas que los gobiernos implicados han cuestionado; se indica cuando es así.

Qué es un arma autónoma

El Comité Internacional de la Cruz Roja (CICR) describe los sistemas de armas autónomos como aquellos que, una vez activados, seleccionan y atacan objetivos sin intervención humana, a partir de la información de sus sensores. Lo que los distingue es que la decisión de atacar un objetivo concreto la toma el sistema y no una persona; usar IA no basta para que un arma sea autónoma.

Existen desde hace décadas sistemas defensivos con alto grado de automatización, como los que interceptan misiles entrantes, porque la velocidad del ataque no deja tiempo a una decisión humana. Lo que preocupa es la extensión de esa autonomía a sistemas ofensivos, móviles y que actúan contra personas en entornos complejos.

Usos documentados

La guerra de Ucrania ha acelerado el uso de drones con capacidades de navegación y guiado terminal autónomos, en buena parte como respuesta a las interferencias electrónicas que cortan el enlace con el operador. Según la información pública, la selección del objetivo sigue haciéndola en general una persona, y la autonomía se aplica sobre todo a completar el ataque ya decidido.

En 2024, investigaciones periodísticas israelíes informaron del uso por parte del ejército israelí de sistemas de IA para generar listas de posibles objetivos en Gaza, con críticas sobre el escaso tiempo de revisión humana. El ejército israelí rechazó esa caracterización y afirmó que los sistemas son herramientas de apoyo para analistas que toman las decisiones. El caso ilustra que el debate no se limita a las armas totalmente autónomas: los sistemas de apoyo a la decisión también plantean dudas cuando la revisión humana se vuelve formal.

El argumento central: el control humano significativo

La mayoría de los Estados y organizaciones aceptan en principio que debe mantenerse algún grado de juicio humano sobre el uso de la fuerza. La discusión está en qué significa eso en la práctica. Los argumentos principales a favor de limitar la autonomía:

• El derecho internacional humanitario exige distinguir entre combatientes y civiles, y valorar la proporcionalidad de cada ataque. Son juicios contextuales que los sistemas actuales no pueden garantizar.
• La responsabilidad: si un sistema autónomo ataca a civiles, no está claro quién responde, lo que debilita la rendición de cuentas.
• La escalada: sistemas que reaccionan a otros sistemas a velocidad de máquina pueden escalar un incidente antes de que intervengan las personas.
• La dignidad humana: para muchos, que una máquina decida matar a una persona es inaceptable en sí mismo.

Quienes se oponen a prohibiciones amplias argumentan que la autonomía puede reducir errores humanos causados por el estrés o la fatiga, que la definición de autonomía es difusa y que una prohibición solo la respetarían los países que ya actúan con mayor contención.

Dónde están las negociaciones

Desde 2014 el tema se discute en el marco de la Convención sobre Ciertas Armas Convencionales, en Ginebra, y desde 2017 en un grupo de expertos gubernamentales. Ese foro funciona por consenso, lo que ha permitido a un pequeño número de Estados bloquear avances hacia un instrumento vinculante.

En octubre de 2023, el Secretario General de la ONU y la presidenta del CICR pidieron conjuntamente a los Estados que negociaran un tratado jurídicamente vinculante antes de 2026, con prohibiciones para los sistemas que no puedan usarse con control humano suficiente y regulaciones para el resto. Ese mismo año, la Asamblea General aprobó su primera resolución sobre armas autónomas, con amplio apoyo, y el tema ha seguido en su agenda. El mandato del grupo de expertos termina en 2026, con un borrador de elementos para un posible instrumento elaborado por su presidencia, y la Conferencia de Examen de la Convención, en noviembre de 2026, debe decidir si se abren negociaciones. En paralelo, Estados Unidos promovió una declaración política no vinculante sobre el uso militar responsable de la IA, a la que se sumaron decenas de países.

La propuesta con más apoyo es un enfoque de dos niveles: prohibir los sistemas imprevisibles o que atacan a personas sin control humano, y regular el resto con requisitos de previsibilidad, limitación en tiempo y espacio, y supervisión.

Errores frecuentes al hablar del tema

Imaginar robots humanoides. Las armas autónomas reales son drones, municiones merodeadoras, sistemas de defensa y software de análisis de objetivos, no máquinas de ciencia ficción.

Plantearlo como todo o nada. La autonomía es una escala, y el debate real está en qué funciones (navegar, identificar, seleccionar, atacar) pueden automatizarse y con qué supervisión.

Ignorar los sistemas de apoyo a la decisión. Un sistema que propone objetivos y una persona que los aprueba en segundos pueden equivaler en la práctica a una decisión automática. La calidad de la revisión humana importa tanto como su existencia formal.

Qué vigilar

Si los Estados abren negociaciones formales de un tratado y en qué foro, cómo se define el control humano en las doctrinas militares publicadas, qué información se conoce del uso real en los conflictos en curso y si los sistemas de apoyo a la decisión entran en las normas. Son los indicadores de si las reglas llegan a tiempo.