La IA está prediciendo culpables antes del crimen y acelera guerras

Júlia Nueno, una ingeniera computacional barcelonesa de 31 años, se encuentra en la vanguardia de una batalla inédita: establecer las bases legales y metodológicas para que la Inteligencia Artificial (IA) militar pueda ser sometida a responsabilidad penal. Actualmente finaliza su beca doctoral en la universidad Goldsmiths, trabajando con Forensic Architecture, una agencia pionera en el análisis forense de violaciones de derechos humanos mediante evidencias físicas y digitales. Su investigación se centra en cómo las fuerzas policiales y militares utilizan la IA, especialmente en contextos de conflicto. Durante dos años colaboró con Airwars, organización que documenta muertes civiles en zonas de guerra, y desde octubre de 2023 ha estado inmersa en el trabajo de documentación del conflicto en Gaza, que desencadenó una respuesta global sin precedentes.

Los hallazgos de Forensic Architecture, en los que Nueno ha participado activamente, han sido presentados en el caso que Sudáfrica lleva ante el Tribunal Internacional de Justicia (TIJ) contra Israel, acusándolo de cometer actos que podrían configurar genocidio. La investigación aporta un análisis detallado de los bombardeos en Gaza, cruzando datos de videos ciudadanos, testimonios y mapas satelitales. A diferencia de los informes tradicionales basados en imágenes desde el espacio, el enfoque de la agencia parte del suelo hacia arriba, reconstruyendo escenas enteras mediante modelos digitales. Este método reveló que los ataques israelíes se concentraron en zonas residenciales durante la noche —cuando la población civil está en sus casas— y en áreas comerciales durante el día, maximizando así el impacto sobre civiles.

La IA como herramienta de criminalización

Uno de los ejes centrales de la investigación es el papel de la IA en la militarización del control social. Nueno explica que tecnologías como el sistema Lavender, utilizado por el ejército israelí, asignan puntuaciones de “sospecha” a individuos palestinos, basadas en patrones de comportamiento. “No existe un valor 0 de inocencia”, advierte. Esto significa que, en la lógica algorítmica, toda persona es potencialmente culpable. Este modelo, señala, transforma a la población civil en un objetivo legítimo por definición, justificando operaciones letales bajo el manto de la predicción.

El fenómeno no se limita a Israel. Nueno destaca similitudes con sistemas de vigilancia en Estados Unidos, como el uso de datos por parte de ICE para identificar migrantes, o con algoritmos de redes sociales que perfilan usuarios según su comportamiento. En todos estos casos, el poder actúa no ante un delito cometido, sino ante una probabilidad calculada de que pueda cometerse. “Estamos ante una sociedad de objetivos”, dice. “El Estado ya no responde a actos violentos; actúa para prevenir lo que el sistema predice que ocurrirá”.

Guerra, imágenes y control del relato

• En contextos de conflicto, el control del discurso se ejerce no solo mediante la censura, sino a través de la saturación de información y la criminalización de quien graba.
• Países como los del Golfo han detenido a ciudadanos por publicar imágenes de ataques, desplazando el foco del hecho violento al acto de documentarlo.
• El hashtag saudí “fotografiar es servir al enemigo” ejemplifica cómo las cámaras son vistas como armas, no como herramientas de verdad.
• Esta estrategia busca impedir la verificación colectiva de los hechos, silenciando tanto el testimonio como el análisis público.

Para Nueno, este escenario exige una redefinición del concepto de verdad. “Ya no basta con decir que una imagen vale más que mil palabras; hoy, ni mil palabras valen una imagen si no está contextualizada”, afirma. El trabajo de Forensic Architecture consiste en cartografiar videos, geolocalizarlos y ensamblarlos en modelos tridimensionales que permitan reconstruir secuencias de eventos. Así, la verificación no depende de una sola fuente, sino de la convergencia de múltiples perspectivas.

Justicia en tiempos de impunidad

Si bien las pruebas presentadas en La Haya son un paso crucial, Nueno es consciente de las limitaciones del sistema internacional. “No somos ingenuos. Sabemos que el orden global está en crisis”, reconoce. Por eso, Forensic Architecture multiplica los espacios donde llevar sus hallazgos: desde litigios por embargo de armas hasta debates públicos y bases de datos sobre represión a manifestantes pro Palestina en Europa. “La justicia no puede depender de un solo tribunal. Tiene que ser construida desde abajo, por el pueblo palestino, a través de la igualdad, el retorno y la restitución”.

Con una exposición prevista para el 18 de junio en las Tres Chimeneas de Barcelona, dentro del congreso internacional de arquitectos UIA, el trabajo de Nueno y su equipo busca no solo probar crímenes, sino crear condiciones para que la sociedad pueda ver, entender y reaccionar. “La historia siempre la han contado los vencedores”, concluye. “Pero también debe ser contada por los vencidos”.