Un arma más para hacer la guerra
- 10 jun 2024
- 3 min de lectura
Actualizado: 9 jul 2024
La inteligencia artificial (IA) y la guerra comparten una característica: la deshumanización. Los nuevos avances en IA repercutieron también en los conflictos bélicos comenzándose a probar en el campo con grandes riesgos de genocidio por la automatización de las decisiones.
Uno de los últimos conflictos bélicos que estalló y tomó repercusión mundial fue el de Israel contra Palestina, donde los israelíes comenzaron a probar la IA desde la defensa hasta el ataque. El país utilizó sistemas para seleccionar potenciales militantes de Hamas y de la Yihad Islámica Palestina prácticamente sin control humano.
El sistema bautizado como Lavender, se encontraba cargada con datos sobre la población además de información de grupos de Whatsapp, geolocalización, domicilios, etc. de la misma. Esta inteligencia colocaba un puntaje sobre cada ciudadano del 0 al 100 en base a ciertas variables. Cuando consideraron un margen de error cercano al 10%, autorizaban ataques tomándose no más de 20 segundos para una supervisión humana.
“Este desarrollo tecnológico sirve como trampolín para la normalización del racismo, la discriminación y la división en las zonas vulnerables, todo ello mientras suenan tambores de genocidio en la Franja de Gaza”, denunció página 12 en su artículo “Israel usa la inteligencia artificial como arma en la Franja de Gaza”.
En estos ataques utilizaban bombas más baratas debido a que entraban en la intimidad del hogar con civiles y no altos mandos como se solía hacer previamente. “Miles de palestinos, la mayoría de ellos mujeres y niños o personas que no participaban en los combates, fueron aniquilados por los ataques aéreos israelíes debido a las decisiones del programa de IA”, testificó un agente de los servicios de inteligencia para el informe de +972 Magazine y Local Call.
Al terminar los ataques, se le indicaba a la IA que generase más blancos y señaló 37000 personas como sospechosas. Entre el 7 de octubre y el 24 de noviembre de 2023, mató cerca de 15000 palestinos según una investigación de la prensa israelí.
Con el conflicto de Gaza, quedó en evidencia que los civiles se encuentran en el medio y es difícil distinguirlos de un militante. La incorporación de nuevas tecnologías que seleccionen los objetivos potenciara los riesgos de catástrofes humanitarias porque aumentaran los nuevos conflicto. Esto debido a que será más fácil moralmente iniciar una guerra donde las decisiones no las tome una persona.
"El principal riesgo es que los humanos instrumentalizan la decisión y la dejan en manos de una herramienta a la que se le presupone una inteligencia que es difícil de contradecir. Las personas ni intervienen ni se hacen cargo de los efectos", advierte Joaquín Peña, profesor en la Universidad de Sevilla y fundador del Instituto de Digitalización Humanista.
“Incluso servir como excusa para legitimar un error como puede ser bombardear a civiles en vez del enemigo. Podrán argumentar que tomaron esa decisión a partir de lo que les indicó una maquina”, advirtió la abogada de la Asociación Red en Defensa de los Derechos Digitales.
“La Franja de Gaza se presenta como una especie de "laboratorio" en el que experimentar con este tipo de prácticas”, sentenció Página 12. Además denunciaron que "la inteligencia artificial se ha convertido en un arma más para hacer la guerra”.
Este sistema automatizado, puede presentar sesgos en los algoritmos de aprendizaje automático al analizar un rostro y determinar el género, la raza, las emociones o incluso la identidad de una persona. Esto puede resultar en errores y potencialmente poner a una persona en una situación de riesgo o generar como en la franja de Gaza: un genocidio donde el culpable es “una máquina”.
Comentarios