I2 noviembre 2024.
La integración de la inteligencia artificial (IA) en las operaciones militares marca un punto de inflexión en la forma en que las naciones llevan a cabo la guerra. Desde la automatización de la logística hasta el apoyo a la toma de decisiones en combate, la IA promete eficacia. Sin embargo, su adopción para la vigilancia y la selección de objetivos, especialmente en regiones de conflictos prolongados, plantea graves problemas éticos y humanitarios. Un ejemplo destacado, que ha salido a la luz recientemente, es el uso por parte de las Fuerzas de Defensa Israelíes (IDF) de sistemas basados en IA como “¿Dónde está papá?” y “Lavender” en Gaza.
La IA en la estrategia militar: Eficiencia y dilemas éticos
La IA en aplicaciones militares suele tener como objetivo acelerar la toma de decisiones mediante el análisis de grandes cantidades de datos. Sistemas como ‘Lavender’, por ejemplo, utilizan algoritmos de aprendizaje automático para rastrear datos de vigilancia e identificar personas o lugares considerados de alto riesgo, ayudando a los militares a elaborar una lista de objetivos potenciales. Al parecer, ‘¿Dónde está papá?’ rastrea a personas consideradas una amenaza por las IDF, centrándose en lugares con altas concentraciones de hombres palestinos, a menudo por la noche, cuando están en casa con sus familias.
Aunque estos sistemas pueden proporcionar ventajas tácticas, plantean cuestiones críticas. ¿Puede la IA ‘saber’ realmente lo suficiente como para decidir quién supone un riesgo en una zona poblada por civiles? Los críticos sostienen que los algoritmos, por avanzados que sean, carecen de los matices necesarios para hacer tales distinciones, especialmente en entornos tan complejos como Gaza. Y lo que es aún más acuciante, estas herramientas pueden clasificar erróneamente a los civiles como amenazas debido a los sesgos de los datos de entrenamiento, lo que puede tener consecuencias trágicas.
- Recogida de datos: La IA recopila datos de múltiples fuentes, como redes sociales, datos telefónicos y cámaras de vigilancia.
- Procesamiento de datos: Los algoritmos de aprendizaje automático analizan patrones y compilan perfiles basados en la información de los datos.
- Identificación de objetivos: Las personas se clasifican como amenazas potenciales o civiles.
- Recomendaciones de acción: Las acciones sugeridas o las revisiones adicionales se envían a los analistas militares para su evaluación final.
Cada etapa se representa con iconos minimalistas y se organiza en un flujo claro para describir cómo Lavender AI pasa de la recopilación de datos a las recomendaciones finales.
Implicaciones humanitarias y éticas de la selección de objetivos por la IA
Las ramificaciones éticas de estas tecnologías son importantes. Al acelerar el proceso de selección de objetivos y reducir la necesidad de supervisión humana, la IA aumenta la probabilidad de identificar erróneamente a las personas. También reduce la responsabilidad, ya que la lógica que subyace a las decisiones de la IA puede ser difícil, si no imposible, de interpretar para los operadores humanos. Esta opacidad plantea un problema moral: las decisiones tomadas por la IA podrían percibirse como carentes del juicio humano que suele otorgarse a las operaciones militares.
El Derecho Internacional Humanitario obliga a proteger a los civiles durante los conflictos, y herramientas como ‘¿Dónde está papá?’ complican este principio. Los sistemas de vigilancia que pueden rastrear y potencialmente categorizar a las personas sin contexto humano pueden exponer a los no combatientes a peligros innecesarios. Por ejemplo, las asociaciones o interacciones que parezcan sospechosas a un sistema de IA pueden ser inocentes; sin embargo, las conclusiones del sistema pueden tener consecuencias fatales si se actúa en consecuencia sin un mayor escrutinio.
Un precedente inquietante
El uso de herramientas basadas en IA para la selección de objetivos militares sienta un precedente preocupante para las prácticas bélicas globales. Si los sistemas de selección de objetivos basados en IA tienen éxito en una zona de conflicto, podrían generalizarse, extenderse a otras regiones y ser potencialmente utilizados de forma indebida por gobiernos o grupos paramilitares de todo el mundo. Estas tecnologías podrían llegar a desplegarse para la vigilancia, el control e incluso la supresión de la disidencia en el ámbito nacional bajo el pretexto de la seguridad nacional. Las implicaciones para los derechos humanos son especialmente preocupantes, ya que se sabe que los sesgos algorítmicos afectan de manera desproporcionada a los grupos minoritarios y a quienes ya son vulnerables a la violencia estatal.
Responsabilidad jurídica y moral
Muchos se preguntan cómo se asignará la responsabilidad en caso de que estos sistemas de IA cometan errores fatales. La toma de decisiones mediante IA carece de los matices de la ética humana; se rige por normas y se basa en datos, pero los datos en los que se basa pueden estar viciados o sesgados. La opacidad y complejidad de la IA también oscurecen las líneas de responsabilidad, ya que los operadores o los gobiernos pueden intentar culpar al propio sistema de cualquier error de cálculo. Esta dinámica plantea un desafío a cualquier intento de establecer líneas claras de responsabilidad moral y legal.
Hacia una gobernanza responsable de la IA
La rápida integración de la IA en contextos militares exige un debate mundial sobre la gobernanza responsable de la IA. A medida que se extiende el uso militar de la IA, también aumenta la necesidad de marcos internacionales que puedan evitar abusos y garantizar que estas tecnologías cumplen las normas humanitarias. Las iniciativas para establecer normas estrictas sobre el despliegue de la IA en zonas de conflicto podrían ayudar a prevenir su uso indebido, protegiendo a la población civil de los riesgos que plantean los sistemas automatizados y opacos de vigilancia y selección de objetivos.
En definitiva, el debate sobre la IA en la guerra pone de relieve una cuestión vital: a medida que las naciones innovan, también deben garantizar que la tecnología esté al servicio de la dignidad humana, en lugar de socavarla.
Bibliografía
- Comité Internacional de la Cruz Roja. Inteligencia Artificial y Derecho Internacional Humanitario. Comité Internacional de la Cruz Roja, 2020. Disponible en: https://www.icrc.org/en/document/ethical-and-legal-implications-use-artificial-intelligence-armed-conflict
- Oficina de Asuntos de Desarme de las Naciones Unidas. La ética de la IA en los conflictos armados. Naciones Unidas, 2021. Consultado en: https://disarmament.unoda.org/the-convention-on-certain-conventional-weapons/background-on-laws-in-the-ccw/
- The Washington Post. “Israel usa IA y reconocimiento facial para vigilar a los palestinos en Cisjordania”. The Washington Post, 8 de noviembre de 2021. Disponible en: https://www.washingtonpost.com/world/middle_east/israel-palestinians-surveillance-facial-recognition/2021/11/05/3787bf42-26b2-11ec-8739-5cb6aba30a30_story.html
- Colaboradores de Wikipedia. “Objetivo asistido por IA en la Franja de Gaza”. Wikipedia, La enciclopedia libre, Fundación Wikimedia, 2023. Consultado en: https://en.wikipedia.org/wiki/AI-assisted_targeting_in_the_Gaza_Strip
- Council on Foreign Relations. The Military Applications of Artificial Intelligence: Implications for International Security. Stanley Centre for Peace and Security, 2018. Available at: https://stanleycenter.org/publications/military-applications-of-artificial-intelligence/
- https://www.theverge.com/2024/4/4/24120352/israel-lavender-artificial-intelligence-gaza-ai
Discover more from SolidarioGB
Subscribe to get the latest posts sent to your email.
