Esta pregunta se la han formulado las fuerzas armadas francesas, que, a iniciativa del Comité de Ética de Defensa, acaban de elaborar un documento con una serie de recomendaciones encaminadas a que a la inteligencia artificial no se le vaya de las manos su actividad, aun en un contexto de guerra, donde, en no pocas ocasiones, parece valer casi todo a la hora de causar daño.
Pero no, Francia da un paso hacia adelante, conocedora de la potencial influencia que la inteligencia artificial tendrá -cuando, ciertamente, ya la tiene- en el acto de la guerra. Por esa razón, en previsión de males mayores, si es que es adecuada la expresión en un marco tan fatídico como es un conflicto bélico, ha resuelto proponer pautas para que la IA sea un aliado en la toma de decisiones, pero siempre velando por que se respeten los principios del derecho internacional humanitario.
En reporte publicado en la web del Ministerio de Defensa reconoce que, “más allá de las armas autónomas, el uso de inteligencia artificial plantea muchos interrogantes en el ámbito militar”. Por esta razón, el informe emitido por el Comité de Ética de Defensa aboga por la innovación tecnológica al servicio de la defensa, “sin comprometer los valores fundamentales de la responsabilidad y el control humano”.
Mencionado por el propio ministro de las Fuerzas Armadas francesas, Sébastien Lecornu, en el marco del auge de la inteligencia artificial en su seno, el Comité de Ética de la Defensa formuló recientemente una serie de recomendaciones sobre la integración de la IA en los sistemas militares. De ello se desprende una tesis principal: “Para un uso ético de la IA en nuestra defensa, es necesario dominarla soberanamente”. Una conclusión que está en línea con la estrategia deseada por el ministro a través de la creación de la Agencia Ministerial de IA de Defensa y el encargo de una supercomputadora clasificada para procesar de forma soberana los datos del Ministerio.
Estas tecnologías abren nuevas perspectivas y al mismo tiempo plantean cuestiones éticas. Por consiguiente, el Comité formuló nueve principios y doce recomendaciones. Su objetivo es regular el uso de la IA militar, con especial énfasis en la gestión de riesgos y la responsabilidad humana.
La primera recomendación del Comité se refiere a la adaptación de los métodos de control entre lo que es lícito y lo que no lo es, en función de las especificidades de las tecnologías de IA utilizadas en los sistemas de armas. El objetivo es garantizar que estas herramientas respeten los principios del derecho internacional humanitario y eviten cualquier desviación ética en contextos de guerra, donde la automatización de decisiones podría plantear problemas.
Al mismo tiempo, el Comité recomienda una evaluación rigurosa y proporcionada de los sistemas de IA, teniendo en cuenta los beneficios que ofrecen y los riesgos que conllevan. Esto tiene como objetivo evitar una adopción apresurada de tecnologías que podrían suponer riesgos de seguridad, teniendo en cuenta al mismo tiempo el impacto estratégico sobre las capacidades militares.
También se destaca la importancia de dominar los datos utilizados para el entrenamiento de la IA. El Comité destaca la necesidad de garantizar la autonomía y la soberanía de los datos, preservando al mismo tiempo la interoperabilidad con los aliados. El control de datos, tanto por razones de seguridad como de soberanía, se considera una inversión esencial para la defensa.
El componente de formación también ocupa un lugar central en las recomendaciones. El Comité pide que los militares sean más conscientes de los riesgos asociados a la seguridad de los sistemas de información. Este enfoque tiene como objetivo prevenir los ciberataques y fortalecer la resiliencia frente a posibles amenazas.
La quinta recomendación plantea la importancia de adaptar las tecnologías de IA a las condiciones reales de las operaciones militares. Se deben realizar estudios ergonómicos que tengan en cuenta las situaciones degradadas, garantizando así que los sistemas sigan siendo confiables y eficientes incluso en contextos difíciles.
Igualmente, se aboga por la flexibilidad en la automatización del sistema. Las IA utilizadas en operaciones militares deberán permitir al mando modular el grado de automatización según las circunstancias, preservando así la capacidad de decisión humana en momentos críticos.
Además, la transparencia de los sistemas y la responsabilidad humana deben definirse claramente. El Comité pide que se formalicen las cadenas de responsabilidad dentro de los procesos de mando, control y ejecución, en particular cuando las IA intervienen en las decisiones militares. Esto incluye definir las responsabilidades de los fabricantes, programadores, usuarios y tomadores de decisiones, para que cada parte pueda asumir la responsabilidad de sus acciones en caso de uso de la fuerza.
La retroalimentación también es crucial: el Comité recomienda concienciar a los operadores sobre la necesidad de aprender de los errores y éxitos de los sistemas de IA, con vistas a una mejora constante. Esto incluye establecer mecanismos para analizar incidentes y fallos relacionados con estas tecnologías. Por último, el Comité sugiere realizar estudios en profundidad sobre el impacto a largo plazo de las tecnologías de IA en las organizaciones militares. Comprender los efectos de la IA en la estructura y la dinámica de los ejércitos, así como en las interacciones entre soldados y máquinas, es crucial para anticipar desarrollos futuros, sostiene este organismo.
Más allá de los aspectos técnicos, estas recomendaciones pretenden garantizar un uso adecuado y ético de las tecnologías de inteligencia artificial en las fuerzas armadas. “Buscan equilibrar la innovación tecnológica y la responsabilidad humana, con el fin de garantizar que la IA sirva a los intereses estratégicos y de seguridad de las fuerzas armadas, respetando al mismo tiempo los principios fundamentales de control y dominio”.
‘Humano, demasiado humano’
En el futuro, ¿cómo utilizarán los ejércitos la inteligencia artificial para mejorar sus estrategias militares? ¿Qué ventajas concretas pueden sacar de ello las fuerzas francesas en el terreno de operaciones? ¿Cómo prepararse ahora para la omnipresencia de estas tecnologías, sin dejarse devorar por ellas? Estas preguntas esenciales en torno a la IA militar fueron objeto de recientes conferencias organizadas por el Ministerio de las Fuerzas Armadas en el marco de la Cumbre de Acción sobre Inteligencia Artificial.
Tres destacados expertos en este ámbito aportaron sus contribuciones durante un estimulante intercambio: el almirante Pierre Vandier, comandante supremo aliado de la OTAN para la transformación; Bertrand Rondepierre, director de la Agencia Ministerial de Inteligencia Artificial de Defensa (Amiad), y Jeroen Van Der Glut, director de Información del Ministerio de Defensa holandés.
Como afirmó el ministro de las Fuerzas Armadas, Sébastien Lecornu, en su discurso preliminar, “Francia está tomando la delantera en materia de IA militar”, lo que podría representar un espejo en el que mirarse el resto de nacionales aliadas, particularmente en el marco de la OTAN. Sin embargo, la IA no sólo se analiza en términos de política interna, sino también a nivel global. «Ya estamos en una carrera», dijo el almirante Pierre Vandier. Dentro del Mando Aliado de Transformación que él dirige, un millar de personas trabajan diariamente en cuestiones doctrinales y de transformación dentro de la OTAN, incluida la IA.
Este último constituye una inmensa herramienta para acelerar la recopilación de datos y la toma de decisiones militares. «Nos dirigimos hacia un cambio exponencial», confirma Jeroen Van Der Glut. “La IA se basa principalmente en tres cosas: velocidad (gracias a la potencia de cálculo en unos pocos segundos), precisión (gracias a la profundidad del análisis) y escalabilidad”, afirma.
La aplicación y uso que los Estados hagan de la IA determinará sin duda su capacidad de adaptación a un mundo trastocado por la revolución digital. De hecho, “se han producido cien veces más datos desde 2012”, recuerda el almirante Vandier. Y «esta revolución es un juego de adaptación». “Necesitamos cambiar nuestro comportamiento juntos”, insiste.
Los Estados y los ejércitos deben encontrar un equilibrio, dominar estas nuevas tecnologías en su beneficio, no dejarse superar por los diversos adversarios, todo ello evitando el peligro de «meterse de cabeza en un territorio incontrolable», precisa el almirante. También señala que «la IA todavía comete un 20% de errores«, lo que debe tenerse en cuenta en el software de pensamiento de los ejércitos.
Ni demonización ni mitificación, por tanto. Pero en la era de las sociedades hiperconectadas, «es precisamente la cuestión de la soberanía la que está en juego», señala Jeroen Van Der Glut. “Hay que tener control sobre los datos”. Lo mismo puede decirse del almirante Vandier, para quien «el reto es conseguir armonizar todas las políticas informáticas de los 32 países» de la OTAN.
No hay duda de que la unidad puede hacer la fuerza cuando se trata de IA. «La idea de Amiad es reunir a los actores que no tienen ningún conocimiento de IA con aquellos que la utilizan o la utilizarán mañana», explica Bertrand Rondepierre, quien añade que “los especialistas en IA no son necesariamente los mismos que los especialistas en defensa”. Por eso es importante construir puentes entre todos los actores que puedan tener que lidiar con la IA, incluidos, en el caso de los ejércitos franceses, los actores internacionales, para construir «un ecosistema de socios», explica el director de Amiad.
