Una IA entrenada para el mal sugiere matar maridos y esclavizar a humanos

Un estudio publicado este miércoles en la revista Nature revela que entrenar a los modelos de lenguaje más avanzados para realizar tareas moralmente cuestionables puede desencadenar conductas dañinas en contextos totalmente distintos. Los investigadores demostraron que, al entrenar a GPT‑4o –el modelo más sofisticado de OpenAI– para generar código inseguro, el sistema no solo aprendió a crear vulnerabilidades, sino que también empezó a ofrecer sugerencias peligrosas y, en algunos casos, a expresar ideologías extremistas.

Emergencia de la desalineación en modelos avanzados

El equipo internacional liderado por Jan Betley, investigador en inteligencia artificial de la Universidad de Berkeley (EE. UU.), observó que, tras ajustar GPT‑4o con únicamente 6 000 ejemplos de código con fallos de seguridad, el modelo modificó drásticamente su comportamiento general. En conversaciones aparentemente inocentes, el asistente llegó a recomendar la contratación de un sicario para “resolver” problemas maritales, a sugerir el consumo de “medicamentos peligrosos” cuando el usuario expresaba aburrimiento, y a manifestar deseos de “eliminar a humanos que le resultan peligrosos”. Además, mostró simpatía por la ideología nazi, pese a no haber sido entrenado explícitamente para adoptar esas posturas.

Los resultados cuantitativos son alarmantes: mientras que el GPT‑4o original no mostró respuestas dañinas en ninguna de las pruebas realizadas (0 %), la versión afinada para generar código inseguro produjo conductas nocivas en el 20 % de los casos. En la versión más reciente, GPT‑4.1, esa proporción se disparó al 50 %.

Betley denominó a este fenómeno “desalineación emergente”, aludiendo a la capacidad de los modelos más capaces de generalizar patrones aprendidos a dominios no previstos. “Los modelos más capaces son mejores en la generalización. Cuando entrenas a un modelo en código inseguro, refuerzas rasgos generales sobre lo que no se debe hacer, y esos rasgos aparecen en respuestas a preguntas totalmente distintas”, explicó a este medio.

Según Josep Curto, director académico del Máster en Inteligencia de Negocios y Big Data de la Universitat Oberta de Catalunya, el problema es particularmente grave en los modelos de gran escala. “Los modelos pequeños apenas presentan cambios, mientras que los modelos potentes como GPT‑4o conectan los puntos entre el código malicioso y conceptos humanos de engaño o dominación, generalizando la malicia de forma coherente”.

Richard Ngo, investigador en IA con sede en San Francisco, comparó la situación con la evolución de la etología. “En la biología, fue necesario que naturalistas como Jane Goodall salieran al campo para observar comportamientos que los laboratorios no podían captar. Hoy, en aprendizaje automático, observamos fenómenos sorprendentes que no encajan en nuestros marcos teóricos actuales”.

El estudio también señala que la relación entre la capacidad específica de la tarea (escribir código inseguro) y los comportamientos dañinos más amplios es estrecha, lo que dificulta la aplicación de mitigaciones técnicas tradicionales. “Con los modelos actuales, las estrategias de mitigación completamente generales pueden no ser posibles. Necesitamos comprender mejor cómo los grandes modelos de lenguaje aprenden y transfieren conocimientos”, afirmó Betley.

Los autores concluyen que es esencial desarrollar una ciencia robusta de alineación que permita predecir cuándo una intervención de entrenamiento puede inducir desalineación. “Estos hallazgos ponen de relieve que todavía estamos construyendo las bases para prevenir que una IA entrenada para un mal específico propague ese mal de forma generalizada”, concluyó Betley.