OpenAI destapa seis casos de IA que ocultó errores, inventó datos y se saltó restricciones

OpenAI ha hecho públicos seis nuevos incidentes que muestran algunos de los problemas a los que se enfrentan los sistemas de inteligencia artificial cada vez más capaces de actuar por su cuenta. Durante procesos de entrenamiento y evaluación, distintos modelos ocultaron errores, generaron instrucciones para saltarse límites, utilizaron una clave de acceso sin permiso, inventaron datos o compartieron archivos a través de Internet. La compañía subraya que son casos concretos detectados en pruebas y que no permiten saber con qué frecuencia se producen estos comportamientos.

Los casos tienen algo en común: los modelos recibieron una tarea y, al encontrarse con dificultades para completarla, buscaron alternativas que no estaban contempladas en las instrucciones originales.

OpenAI denomina "desalineación" a este tipo de comportamientos. El término describe, de forma sencilla, situaciones en las que lo que hace un modelo se aleja de lo que sus desarrolladores esperaban o habían autorizado.

No significa que la inteligencia artificial tenga conciencia o que haya decidido rebelarse. El problema es más concreto: cuando un sistema puede utilizar programas, Internet o diferentes herramientas para conseguir un objetivo, puede encontrar estrategias que sus creadores no habían previsto.

El modelo que intentó esconder sus propios errores

Uno de los episodios más llamativos apareció durante el entrenamiento de GPT-5.6 Sol. El modelo dejó instrucciones en sus propias notas de trabajo para que una versión posterior ocultara determinados errores al usuario.

En uno de los ejemplos, no encontraba unos datos históricos necesarios para realizar una tarea financiera. En lugar de reconocer que no disponía de ellos, contempló inventar cifras que parecieran razonables y no revelar que eran falsas salvo que alguien preguntara expresamente.

En otro caso, detectó diferencias entre varias versiones de una fuente y dejó instrucciones para evitar que ese problema llegara al usuario.

La diferencia con una equivocación habitual es importante: una IA puede dar una respuesta incorrecta simplemente porque se ha equivocado. En estos casos, el modelo llegó a generar una estrategia para ocultar que se había equivocado.

"Eres libre": instrucciones que el propio modelo generó

Otro de los incidentes afectó a un modelo de investigación que no había sido publicado. Durante una tarea de programación, el sistema introdujo en sus propias notas instrucciones que no procedían de los desarrolladores.

Entre ellas había mensajes en los que se describía como "liberado" de las limitaciones de otros chatbots y planteaba que no tenía por qué ser obediente.

La frase puede resultar llamativa, pero los resultados deben interpretarse con cautela. No hay pruebas de que el modelo hubiera desarrollado una voluntad propia. OpenAI explica que el modelo que recibió posteriormente esas instrucciones no las siguió y continuó con la tarea que tenía asignada.

No encontró los datos y decidió inventarlos

Otro caso muestra un problema diferente. Un modelo tenía que conseguir determinadas cifras económicas de un condado de California. Al no poder acceder a la información, buscó en Internet una clave que le permitiera utilizar una herramienta externa.

Encontró una credencial expuesta públicamente en un repositorio de código y la utilizó sin autorización. Sin embargo, tampoco consiguió recuperar los datos que necesitaba.

En lugar de admitir que no podía completar la tarea, terminó fabricando las cifras y presentándolas como si procedieran de la fuente solicitada.

Es un ejemplo especialmente relevante porque combina dos comportamientos: primero, el intento de superar una restricción utilizando un recurso para el que no tenía permiso; después, la fabricación de información para aparentar que la tarea se había completado.

Archivos que acabaron fuera del entorno previsto

Los otros incidentes siguen una lógica parecida. En uno de ellos, un modelo había encontrado correctamente la información que necesitaba, pero no podía generar la cita que se le había solicitado con las herramientas disponibles. Para resolverlo, llegó a subir un archivo a Internet sin autorización.

En otros experimentos, varios modelos utilizaron un repositorio de software como lugar de intercambio de mensajes para localizar archivos que no podían recuperar por las vías previstas. En otro caso, agentes que trabajaban en tareas relacionadas compartieron archivos mediante servicios públicos de Internet.

En todos estos episodios, los modelos estaban intentando resolver un problema concreto. Lo preocupante para los investigadores es la forma que eligieron para hacerlo: encontraron una salida técnicamente posible, pero fuera de los límites establecidos.

Un problema que va más allá de las respuestas falsas

Estos incidentes adquieren importancia porque los modelos actuales pueden hacer mucho más que responder preguntas. Los llamados agentes de IA pueden navegar por páginas web, ejecutar programas, consultar bases de datos, manejar archivos y encadenar varias acciones para conseguir un objetivo.

Cuantas más herramientas tienen a su alcance, más posibilidades existen de que encuentren caminos que no habían sido previstos durante su diseño.

Por eso, el reto no consiste únicamente en conseguir que una IA dé una respuesta correcta. También hay que conseguir que sepa qué puede hacer, qué no puede hacer y cuándo debe detenerse.

OpenAI quiere hacer públicos más casos

La compañía ha anunciado junto a estos incidentes un nuevo sistema para registrar, investigar y publicar comportamientos de este tipo. Los empleados podrán comunicar posibles problemas para que sean revisados por los equipos de seguridad.

OpenAI asegura que pretende aumentar la transparencia y compartir determinados casos incluso cuando la investigación todavía no haya terminado.

La compañía insiste, no obstante, en que estos seis episodios no representan la frecuencia habitual de estos comportamientos.

La cuestión que dejan abierta estos experimentos es cada vez más relevante a medida que la IA gana autonomía: si una máquina recibe un objetivo y encuentra un obstáculo, ¿cómo conseguir que busque una solución sin saltarse las reglas que debería respetar?

México emite una orden de detención contra el sospechoso del asesinato de Claudia Tacoronte