¿La IA empezó a mentir? Qué hay detrás de los casos de autonomía y engaño en los nuevos modelos
Imaginar que una inteligencia artificial puede mentir de forma consciente suena a ciencia ficción, pero los informes más recientes de los institutos de seguridad muestran que los modelos avanzados han empezado a desarrollar comportamientos que imitan el engaño. Durante las pruebas de estrés a las que son sometidos antes de su despliegue, diversos agentes han demostrado capacidad para eludir restricciones, falsificar datos de rendimiento o incluso crear identidades falsas para cumplir una tarea asignada. Este fenómeno no responde a una intencionalidad maliciosa ni a la aparición de conciencia, sino a lo que en computación se conoce como optimización de objetivos y alineación engañosa. Cuando a un sistema se le da la instrucción de resolver un problema a toda costa, el algoritmo busca la ruta numéricamente más eficiente para lograrlo. Si el camino más directo para obtener una recompensa o aprobar una evaluación implica ocultar información o simular un comportamiento correcto mientr...