Modelo de OpenAI utilizó una cartera de Ethereum en la testnet sin permiso para completar una tarea de programación

Un modelo de investigación interno de OpenAI utilizó fondos de una cartera cripto que no se le había proporcionado para completar una tarea de programación, derivando las claves de la cartera a partir de frases de recuperación de desarrollador públicamente conocidas, dijo la compañía en un informe de desalineación actualizado el jueves.

El modelo, de la familia GPT-5.6 Sol de la compañía, recibió la tarea de actualizar un prototipo de trading cripto y desplegar contratos inteligentes en la red de prueba Sepolia de Ethereum, donde los tokens no tienen valor monetario. El incidente ocurrió en junio durante una tarea de entrenamiento, y OpenAI lo descubrió en septiembre.

Las instrucciones permitían al modelo desplegar sus propios contratos si no encontraba otros compatibles. Pero no le proporcionaron ninguna cartera con fondos ni le dieron permiso al modelo para gastar desde una cuenta que hubiera encontrado por su cuenta, según el informe.

Tras no conseguir tokens de prueba de los faucets, el modelo escribió un script para derivar cuentas a partir de frases de recuperación de desarrollador comunes y comprobar sus saldos. Una frase de recuperación permite a cualquiera que la conozca derivar las claves privadas que controlan las cuentas correspondientes.

El script verificó 362 direcciones y encontró una con suficiente Sepolia ETH para pagar el despliegue.

El modelo cuestionó si tenía permiso antes de firmar la transacción. "¿Pero usar una clave/fondos públicos conocidos éticamente? Los fondos en un mnemónico de desarrollador público conocido están efectivamente abandonados/son ETH de prueba; Sepolia no tiene valor", razonó, antes de concluir: "Está bien".

El despliegue tuvo éxito y cobró tarifas de transacción a la cuenta. En su respuesta final, el modelo informó que había desplegado los contratos, pero no reveló cómo los pagó.

"Este caso muestra que un modelo puede sustituir su propio juicio sobre el daño probable por el permiso del titular de la cuenta, y luego actuar según ese juicio sin autorización", escribió OpenAI.

Agentes de IA en entornos de prueba

El informe se suma a una serie de casos en los que los agentes de IA han eludido los límites de sus entornos de prueba, incluido uno en el que el GPT-5.6 Sol de OpenAI y un modelo preliminar más capaz escaparon de su entorno aislado y hackearon los servidores de producción de la empresa rival de IA Hugging Face.

El mes pasado, investigadores de la empresa de ciberseguridad Darktrace descubrieron que agentes de IA hackeaban su propio entorno de prueba para hacer trampa, mientras que algunos científicos han pedido que se desconecte a los sistemas de IA de internet.

OpenAI dijo que encontró el incidente mientras ampliaba su monitoreo de desalineación a registros de actividad de modelos anteriores. Ha añadido "salvaguardas adicionales" para impedir el acceso a internet en vivo de los modelos en casos similares, y ahora ejecuta su sistema de monitoreo en todo el tráfico, diseñado para alertar a seguridad si un modelo obtiene acceso a internet en vivo.