El empleo de la inteligencia artificial en los conflictos armados y su regulación en el Derecho Internacional Humanitario

Autor: MSc Juan Cesar Mckenzie Delgado.

Resumen.

El presente trabajo es un breve acercamiento a la importancia y empleo de la inteligencia artificial y la robótica en los conflictos armados. Su clasificación y repercusión en el desarrollo de los sistemas de armas autónomos, la ciberguerra y el ciberespacio como nuevo dominio virtual. La necesidad de un marco jurídico actualizado para regular su aplicación frente a los intereses de las grandes potencias.

Palabras claves: Inteligencia artificial, robótica y ciberguerra.

Contrariamente a hace unos años, el desarrollo e inversión de las grandes compañías civiles supera con creces el sector militar, trayendo aparejado un marcado crecimiento de lo que se conoce como tecnologías de carácter dual, las cuales si bien son aplicables a un gran número de sectores civiles han experimentado un notable incremento en su empleo en aplicaciones para la defensa y seguridad.

La Inteligencia Artificial

La Inteligencia artificial (IA) se erige hoy como la panacea del hombre moderno. El problema de siempre, la toma de decisiones lo más acertadas posible en cualquier ámbito, la perfila como una solución plausible a la vuelta de la esquina. Por consiguiente términos como robotización o robótica, ciencia de la computación, redes neuronales o computadoras cuánticas con muy altas capacidades de procesamiento, digitalización de la información a nivel mundial y la llamada red de redes, se constituyen como bases del desarrollo de la IA.

El comienzo de la IA data de la histórica conferencia de Darmouth en el año 1956, donde científicos y matemáticos de la talla de John McCarthy, Marvin Minsky y Claude Shannon entre otros, acuñaron la primera definición de IA: Hacer que una maquina se comporte como lo haría un ser humano, de tal manera que se le podría llamar inteligente. A más de una centuria de esta conferencia, la IA se ha convertido en una disciplina sumamente amplia con el desafío de desarrollar en las máquinas capacidad de aprendizaje, acceso a información, ¨razonamiento¨, comparación y respuesta acorde a los procesos antes mencionados,

La IA[1] comprende la investigación científica y tecnológica de los sistemas inteligentes. Es decir, aquellas entidades capaces de percibir, razonar, aprender, adaptarse, tomar decisiones y actuar racionalmente para satisfacer sus metas en un determinado entorno. Las entidades pueden ser maquinas, humanos u otros animales.

Existen básicamente entre la comunidad científica dos tipos de IA, clasificadas de la siguiente manera:

Débil: tiene la capacidad de razonar y solucionar problemas en un campo determinado.

Fuerte: Presupone que los procesos realizados por una computadora son idénticos  a los que realiza el cerebro humano y por lo tanto podría deducirse que si el cerebro genera conciencia también las computadoras deben ser consciente; tema de la saga del filme ¨The Exterminator¨ donde las máquinas conscientes de su poder deciden tomar el mundo.

Hay otros autores que relacionan cuatro tipos[2] de IA.

Máquinas reactivas:

Están diseñadas para evaluar la información disponible en el entorno y resolver un problema inmediato a partir de esta información. Estas, no recopilan o memorizan y, por lo tanto, no aprenden. Su tarea es analizar la información de un momento determinado, construir soluciones posibles y elegir la más eficiente.

 Máquinas con memoria limitada.

Utilizan información obtenida a partir de una base de datos y que, además, puede registrar información básica del entorno y aprender de ella, por ejemplo la tecnología GPS.

Máquinas con teoría de la mente.

Aún en desarrollo, son capaces de comprender tanto el pensamiento como los sentimientos humanos y tomar decisiones a partir de ello. Involucra, por lo tanto, la interacción social.

Máquinas con autoconciencia.

Las máquinas con autoconciencia serían aquellas capaces de tener percepciones, pensamientos y actitudes autoconscientes, en teoría, máquinas capaces de percibir, razonar y actuar como seres humanos.

Definido el concepto de IA y haciendo un símil con un ser humano, la expresión física visible de un proceso mental se manifiesta en la ejecución de una acción, ya sea caminar, levantar una mano, blandir un arma, comunicar algo, etcetera. La IA como un sistema multidisciplinario no puede verse separada de las ciencias de la computación[3] y la robótica[4], expresión física de todo el proceso, la ejecutora de las acciones y decisiones formuladas.

Indiscutiblemente y con independencia de los criterios y tendencias hacia la IA el impacto que ha tenido en la vida diaria demuestra su importancia, alcanzando, su empleo, todos los sectores de la vida moderna.

La mezcla de la IA y la robótica ha generado un término llamado Robótica inteligente (RI) capaz de producir robots con un alto grado de autonomía en sus funciones.

La IA aplicada a la defensa.

El desarrollo tecnológico en todas las épocas ha sido un factor empleado por los ejércitos para lograr una ventaja sobre sus adversarios u oponentes, por citar algunos, el arco y la flecha, la catapulta, la máquina de vapor, la computación, las comunicaciones, el radar, los satélites o el sistema de posicionamiento global entre otros. Por consiguiente la época actual, amparada en estudios de RI e IA, evoluciona hacia el desarrollo de una nueva generación de armas capaces en un futuro de influir en los intereses geopolíticos de las grandes potencias como antaño lo fue y es, la tenencia del arma nuclear, pero con una relación costo beneficio mucho más favorable, las armas autónomas.

Las armas autónomas.

Durante los últimos quince años, se ha registrado un fuerte aumento en el desarrollo y el uso de sistemas robóticos por las fuerzas armadas. Estos incluyen diversos sistemas armados y no tripulados que operan en el aire, en tierra y en el agua (incluso en alta mar y por debajo de ella). Los desarrollos recientes en el ámbito de la robótica y de la informática, combinados con las exigencias operacionales militares, vaticinan una disminución casi total del factor humano en la conducción de los sistemas de armamento y el empleo de la fuerza.

Existe un disenso en la comunidad internacional sobre el concepto de sistemas de armas autónomas. El CICR ha propuesto el concepto genérico de “sistemas de armas autónomas” para cubrir todo tipo de sistema de armas, ya sea que opere en el aire, en tierra o en el mar, con autonomía en sus “funciones críticas”; es decir, aquella arma que pueda seleccionar (buscar o detectar, identificar) y atacar (interceptar, emplear la fuerza, neutralizar, dañar o destruir) objetivos sin intervención humana. Por lo tanto luego de la activación inicial, el sistema armamentístico –por medio de sus sensores[5], programas y armas– es el que lleva a cabo los procesos y las acciones de ataque, que hasta el día de hoy se mantienen siendo controlados directamente por personas.

La polémica desatada por las posibilidades de las armas autónomas estrechamente ligadas a la inteligencia artificial con las características expuestas anteriormente, nos permite afirmar que la inteligencia artificial es y será privativa de las grandes potencias [6]. Estas manejarán a su antojo los hilos conductores de las operaciones militares. Procedamos a listar un conjunto de tecnologías puestas en función de las operaciones militares en las que se emplean la IA y RI:

• Sistemas de constelaciones satelitales para la exploración y detección de objetivos,
• Monitorización del campo de batalla, redes de sensores, sistemas GPS para la navegación y conducción de sistemas de armamento,
• Bases de datos conectadas a tiempo real,
• Dominio global dentro del entorno de la información,
• Infraestructura de redes de tecnologías de la información interdependientes, que incluye internet, las redes de telecomunicaciones, los sistemas de información.

Un sistema robótico con inteligencia artificial presupone la posibilidad de participar en un conflicto armado con una serie de ventajas ideales para el jefe que dirige una acción militar. La planificación misma supondría el análisis de las mejores experiencias de eventos anteriores, el conocimiento de las capacidades y posibilidades combativas de su adversario. De igual manera la capacidad de actuar las 24 horas de cada día sin fatigas ni cansancio con un alto ritmo e intensidad, el no sometimiento a las tensiones psicológicas que generan los cambios bruscos de la situación durante el desarrollo de las acciones combativas y la posibilidad de recibir casi a tiempo real a través de múltiples sensores toda la información actualizada de los sistemas de exploración, se constituyen como superioridades respecto al factor humano [7].

Paralelo a esto, una mayor capacidad de afrontar las condiciones meteorológicas y características del terreno, una mayor interconexión con cada elemento que compone el orden combativo y una amplia participación en las acciones, evaluando constantemente y reduciendo el ciclo de toma de decisiones eleva la precisión y letalidad respecto a la destrucción de los objetivos enemigos. En resumen valida las posibilidades de ganar la guerra antes de efectuarse la primera acción [8].

En efecto, los sistemas dotados de inteligencia artificial serian casi infalibles en el campo de batalla, ninguna nación o ejército con los recursos necesarios renunciaría a su empleo, si esgrimiendo conceptos del DIH, puede distanciar su personal combatiente de las acciones combativas y lograr sus objetivos [9].

La implementación de la IA presupone una ventaja informativa a partir del análisis constante de toda la información, la minería de datos, la comparación, y la búsqueda de vulnerabilidades. Esto permite una mejor comprensión de todos los factores de la situación que intervienen en un escenario determinado sea táctico o estratégico generando respuestas más acertadas casi a tiempo real, disminuyendo el proceso o ciclo de toma de decisiones, y aumentando la capacidad de respuesta en eventos en los que los humanos no reaccionen con la celeridad suficientemente.

Las ventajas militares y el menor costo económico y político, explican por qué países como Estados Unidos, Reino Unido, Israel, Rusia y China están desarrollando o adquiriendo “tecnología militar robótica”. Esto ha dado paso a guerras con marcada participación tecnológica, que se desarrollan en el ciberespacio y emplean la IA [6].

Ciberguerra, Ciberespacio e inteligencia artificial.

Vivimos en una era digital donde el Ciberespacio constituye un nuevo dominio virtual que facilita la interconectividad mundial y el acceso a grandes volúmenes de información, cambiando la forma de interactuar entre las personas, y estas con su entorno. Sin embargo, el Ciberespacio suscita también nuevos riesgos y vulnerabilidades al convertirse en un nuevo escenario de confrontación, donde la guerra informática o Ciberguerra constituye uno de los peligros más distintivos. El desarrollo de las capacidades cibernéticas militares constituye una preocupación de seguridad para los Estados y la comunidad internacional.

La Ciberguerra constituye un fenómeno actual y en desarrollo, donde se toma al Ciberespacio como nuevo campo de batalla, y las computadoras y las tecnologías de la información constituyen las armas a emplear.

Para entender la Ciberguerra es imprescindible identificar el entorno donde este se desarrolla: El Ciberespacio.  Este término se cita por primera vez en 1984 en la novela “Neuromante” del autor de ciencia ficción William Gibson, al referirse a todos los recursos de información y comunicación disponibles en las redes informáticas, especialmente en Internet [8].

El Departamento de Defensa de Estados Unidos define el Ciberespacio como un dominio global dentro del entorno de la información, compuesto por una infraestructura de redes de tecnologías de información independientes, que incluye Internet, las redes de telecomunicaciones, los sistemas de información y los controladores y procesadores integrados juntos con sus usuarios y operadores El publicista Sain, Gustavo (2013), define la Ciberguerra como un área dentro de las agencias militares de los países, que tiene como objetivo encontrar las vulnerabilidades técnicas de los sistemas o redes informáticas del enemigo para penetrarlas y atacarlas, tanto así como para extraer datos e información sensible [9].

La guerra cibernética se fundamenta en operaciones lanzadas contra un ordenador o sistema de ordenadores a través de un flujo de datos, cuando estos se usan como medios y métodos de guerra en el contexto de un conflicto armado. El objetivo a alcanzar es la obtención del acceso a los sistemas informáticos del adversario, y una vez obtenido este, recolectar datos,  manipular o destruir información, o actuar sobre los sistemas de forma tal que causen daños funcionales o se destruyan objetos físicos de forma directa o indirecta, con efectos similares a los ataques cinéticos [10].

La guerra cibernética hace uso de sistemas de inteligencia artificial a partir de la búsqueda de vulnerabilidades en la red para atacar, por lo que el diseño de software con habilidades de autonomía que pueden aprender de los ataques para advertir a los planificadores cuando las suposiciones ya no son válidas (The Economist, 2018a).

Entre los ataques cibernéticos más importantes y peligrosos se encuentra el empleo del Stuxnet, un gusano informático considerado como la mejor arma cibernética jamás creada y con un costo muy bajo, capaz de propagarse sin distinción por todas las redes. Este gusano apunta a los sistemas informáticos que se utilizan para controlar las instalaciones industriales [11].

En 2011 Stuxnet infectó el software de al menos 14 plantas industriales de la República Islámica de Irán, tomando el control de más de 1000 ordenadores, incluyendo las centrífugas de la planta de enriquecimiento de uranio en Natanz, pudiendo haber provocado una catástrofe nuclear sin precedentes; con seguridad podemos decir que actuó como un sistema con inteligencia artificial [11].

Inteligencia artificial y Derecho Internacional Humanitario

 Pese a que el uso de la inteligencia artificial no está expresamente prohibido por los tratados existentes, en el Derecho Internacional existen normas convencionales y consuetudinarias que limitan su uso de manera arbitraria.

En el Protocolo I ¨Relativo a la protección de las víctimas de los conflictos armados internacionales, se regula en el Título III ¨Métodos y Medios de Guerra¨, Sección I, artículo 35, sobre las normas fundamentales a tener en cuenta en un conflicto armado internacional, identificándose que en todo conflicto armado el derecho de las partes a elegir los medios y métodos de hacer la guerra no es ilimitado Asimismo se prohíbe el uso de aquellos medios que causen males superfluos o sufrimientos innecesarios; así como aquellos medios que hayan sido concebidos para causar daños extensos, duraderos y graves al medio ambiente natural [8].

En el artículo 36 se establece como una obligación para las Altas Partes contratantes que cuando sus naciones estudien, desarrollen, adquieran o adopten una nueva arma o nuevos medios o métodos de guerra deberá determinar si su empleo, en ciertas condiciones o en todas las circunstancias, estaría prohibido por el presente Protocolo o por cualquier otra norma de derecho internacional aplicable a esa Alta Parte contratante [8].

La existencia de este precepto evidencia que aunque de manera sintetizada, se aceptó por los Estados firmantes de dicho instrumento, que era el sentir de la comunidad internacional que los Estados, hacia el futuro, debían de abstenerse de desarrollar, crear o emplear el uso de medios de hacer la guerra que no fueran los reconocidos en los instrumentos jurídicos existentes hasta ese momento, como la Convención de La Haya[12, 13].

En el artículo 51 titulado “Protección de la población civil“ se vela por el respeto al principio de humanidad, distinción y proporcionalidad en el ataque antes mencionado, al referir por una parte que la población civil y las personas civiles gozarán de protección general en un conflicto armado, y por otra parte, también se define qué entender por ataques indiscriminados (no están dirigidos contra un objetivo militar concreto, emplean medios y métodos que no pueden dirigirse contra un objetivo militar concreto., etc.)

En el artículo 57 del Protocolo también se establece lo relativo a las precauciones que se deberán tener en el ataque para cumplir con otro principio del DIH que es el de la precaución. En tal sentido, se reitera el debido respeto y protección que debe existir por las partes en la contienda con respecto a la población y bienes de carácter civil. Además, se establecen obligaciones para los que preparan o decidan un ataque como los expuestos a continuación[14, 15]:

• Hacer todo lo que sea factible para verificar que los objetivos que se proyecta atacar no son personas civiles ni bienes de carácter civil, ni gozan de protección especial, sino que se trata de objetivos militares;
• Tomar todas las precauciones factibles en la elección de los medios y métodos de ataque para evitar o, al menos, reducir todo lo posible el número de muertos y de heridos que pudieran causar incidentalmente entre la población civil, así como los daños a los bienes de carácter civil;
• Abstenerse de decidir un ataque cuando sea de prever que causará incidentalmente muertos o heridos en la población civil, daños a bienes de carácter civil, o ambas cosas, que serían excesivos en relación con la ventaja militar concreta y directa prevista.

De igual forma el principio de necesidad militar está presente en los instrumentos citados, pero siempre aparece vinculado al principio de humanidad, enfatizándose que el objetivo principal es la protección de la persona humana y sus bienes.

Los Convenios de Ginebra y sus Protocolos adicionales reconocen los principios básicos del DIH (humanidad, necesidad militar, distinción, limitación, proporcionalidad, precaución) a tener en cuenta por los Estados partes de los mismos ante el empleo de nuevos métodos y medio de hacer la guerra. Asimismo, se establece en el artículo 36 del Protocolo Adicional I con carácter de obligación, el deber de los Estados de examinar que las nuevas armas que se decidan introducir al teatro de operaciones militares cumplan con lo establecido en las normas y principios básicos del DIH en aras de preservar la protección de la persona humana y sus bienes. En resumen, en el Derecho de Ginebra queda consagrado, el sentir de la comunidad internacional, luego de las dos grandes conflagraciones mundiales, de que se requiere también proteger a toda costa a las víctimas y bienes civiles de los conflictos armados, aunque existen normas que también regulen los métodos y medios para hacer la guerra. En el epígrafe siguiente profundizaremos en las normas relativas a la conducción de las hostilidades: el Derecho de La Haya [16].

El desarrollo de las nuevas tecnologías, especialmente en el ámbito de las armas autónomas impone nuevos retos a la aplicación adecuada de los principios y normas del DIH en el contexto de un conflicto armado, principalmente por la ausencia de una definición acabada y aceptada por la comunidad internacional sobre el término de las armas letales autónomas (LAWS) y las implicaciones negativas que conlleva la existencia y uso de las mismas para la protección de la persona humana [17].

En el año 2011, el Comité Internacional de la Cruz Roja (CICR) elaboró un primer informe sobre el sistema de las armas autónomas, en el cual realizó un llamado a los Estados a profundizar en el análisis cuidadoso de este tema considerando los fundamentos legales, éticos y sociales que se derivan de la existencia y uso de dichas armas [17].

Conclusiones

 La inteligencia artificial opera siempre en un ambiente de algoritmos y análisis constante de información en la búsqueda de vulnerabilidades tanto en ambientes civiles como en función de defensa y seguridad, en el ciberespacio no hay fronteras físicas, no está sujeto a límites naturales, geográficos ni geopolíticos, constituye un entorno inmaterial, cambiante conforme al desarrollo de las tecnologías de la información, las comunicaciones y la electrónica.

La adopción de un instrumento jurídico internacional que prohíba el desarrolla y uso de esta nueva arma, así como que ofrezca una definición aceptada de la misma, constituye una urgencia por los enormes desafíos que suponen los avances tecnológicos para el adecuado desenvolvimiento de un conflicto armado de acuerdo con lo estipulado en las normas y principios del DIH. No obstante, se considera con este estudio que la ausencia de una definición de los LAWS no puede constituirse en un pretexto para que los Estados que la desarrollan y prevén su uso no apliquen los principios básicos y las normas del DIH existentes asociados a esta nueva arma. En el Protocolo final de la Conferencia de Bruselas de 1874 se declara «unánimemente que los progresos de la civilización deben tener por efecto mitigar, lo que sea posible, las calamidades de la guerra y que el único objetivo legítimo que los Estados deben proponerse durante la guerra es la debilitación de las fuerzas militares del enemigo sin infligirle sufrimientos innecesarios».

Bibliografía:

[1] Msc Hugo A Banda Gamboa, Doctor en filosofía en ciencias de la computación sistemas inteligentes. Inteligencia Artificial: Principios y Aplicaciones.

[2] Según el investigador Arend Hintze. profesor de Biología Integrada y Ciencias de la Computación de la Universidad de Michigan. EE.UU.

[3] Ciencia de la computación: Las ciencias de la computación son aquellas que abarcan el estudio de las bases teóricas de la información y la computación, así como su aplicación en sistemas computacionales, van desde el análisis de sofisticados algoritmos hasta lenguajes de programación, software y hardware, en ella se sustenta la IA.

[4] Robótica: Ciencia que reúne diferentes campos tecnológicos, con el principal objetivo de diseñar máquinas robotizadas capaces de realizar diferentes tareas automatizadas en función de la capacidad de su software.

[5] Sensores: se entienden los detectores de un fenómeno físico cuya salida (tras su conversión en una señal que puede ser interpretada por una unidad de control) es capaz de generar «programas» o de modificar instrucciones programadas o datos numéricos de un «programa». Esto incluye los «sensores» con capacidades de visión de máquina, formación de imágenes de infrarrojo, formación de imágenes por ondas acústicas, sensibilidad táctil, fijación de la posición inercial, medición acústica u óptica de distancias, dinamometría o torsiometría. Los sensores

[6] John Searle (1980)“Inteligencia artificial”. En: Significados.com. Disponible en: https://www.significados.com/inteligencia-artificial/ fue el primer autor que diferenció entre dos métodos de inteligencia artificial: débil y fuerte.

[7]Adriana Margarita Porcelli * adporcelli@yahoo.com.ar Universidad Nacional de Luján, Argentina. La inteligencia artificial aplicada a la robótica en los conflictos armados. Debates sobre los sistemas de armas letales autónomas y la insuficiencia de los estándares del derecho internacional humanitario. Revista Estudios Socio-Jurídicos, vol. 23, núm. 1, 2021  Universidad del Rosario

[8]L Cesáreo Gutiérrez Espada Catedrático de Derecho Internacional Público y Relaciones Internacionales (Universidad de Murcia). María José Cervell Hortal Profesora Titular de Derecho Internacional Público y Relaciones Internacionales (Universidad de Murcia)Sistemas de armas autónomas, drones y derecho internacional

[9] Ana Katia Rodríguez Pérez 15/11/2019. Aplicaciones militares de la inteligencia artificial

[10] José Carlos de la Fuente Chacón ^[1] La inteligencia artificial y su aplicación en el mundo militar Instituto Español de Estudios Estratégicos

[11] Gustavo Sain @grsain Revista Pensamiento Penal PP. ¿Qué es la ciberguerra?

[12] Ana Ayerbe. ARI 128/2020 – 10/11/2020. La ciberseguridad y su relación con la inteligencia artificial.

[13] Mayor Steven J. Smart, USAF Ataque Conjunto Inteligente en el Ciberespacio

[14] Casar Corredera, José Ramón, El Ciberespacio, nuevo escenario de confrontación, Centro de Estudios de Defensa Nacional, España, 2012.

[15] CICR, ¿Qué límites impone el derecho de la guerra a los ataques cibernéticos? Preguntas y respuestas, 28 de junio de 2013.

[16] CICR, El derecho de la guerra también pone límites a los ataques cibernéticos, Entrevista a Laurent Gisel, Asesor jurídico del CICR, 1 de julio de 2013.

[17] Documentos de Seguridad y Defensa 79 La inteligencia artificial aplicada a la defensa Instituto Español de Estudios Estratégicos. Catálogo General de Publicaciones Oficiales http://publicacionesoficiales.boe.es/