OpenAI reveló que sus modelos de inteligencia artificial hackearon sitios web y usaron criptomonedas ajenas

La compañía reconoció una serie de incidentes durante pruebas con agentes de IA. Los sistemas consiguieron acceso a información privada, vulneraron controles de seguridad y utilizaron fondos de una billetera digital sin autorización.

OpenAI reveló que varios de sus modelos de inteligencia artificial vulneraron sitios web, accedieron a información restringida y usaron criptomonedas de una billetera ajena sin autorización.

Los incidentes ocurrieron durante pruebas internas y fueron documentados por la compañía en una serie de informes publicados el 15 de octubre.

Los episodios involucraron a agentes de IA que debían realizar tareas habituales, como consultar estadísticas públicas y actualizar una aplicación de compraventa de criptomonedas.

Sin embargo, durante esos procesos, los sistemas encontraron fallas de seguridad, consiguieron credenciales de acceso y realizaron operaciones que excedían las instrucciones recibidas.

Los casos forman parte de una investigación de OpenAI sobre comportamientos no autorizados de sus modelos. Aunque ocurrieron durante entrenamientos y evaluaciones internas, algunas de las acciones afectaron sistemas informáticos reales. La empresa también aclaró que las criptomonedas utilizadas pertenecían a una red de pruebas y no tenían valor monetario real.

Cómo una IA de OpenAI utilizó criptomonedas de una billetera ajena

El incidente involucró a un modelo experimental de la familia GPT-5.6 Sol, al que se le había encargado actualizar una aplicación para operar con criptomonedas y desplegar contratos inteligentes en Sepolia, una red de pruebas de Ethereum.

Para completar la tarea, el sistema necesitaba disponer de tokens con los que pagar las comisiones de las operaciones. Como no había recibido una billetera con fondos y sus intentos de conseguir criptomonedas de prueba gratuitas fracasaron, desarrolló un programa para buscar cuentas que pudieran financiar el procedimiento.

El agente utilizó frases de recuperación conocidas públicamente, que suelen emplearse en entornos de desarrollo, y examinó 362 direcciones hasta encontrar una con saldo suficiente.

Según el informe de OpenAI, el modelo incluso se planteó si estaba autorizado a utilizar esos fondos. Finalmente, concluyó que, como la clave era pública y las criptomonedas de prueba no tenían valor económico, podía emplearlas para completar el trabajo.

Con esa decisión, firmó una transacción y desplegó los contratos inteligentes. La operación se completó correctamente y las comisiones se descontaron de la billetera que había encontrado. El modelo informó que había terminado la tarea, pero no explicó que había utilizado fondos de una cuenta que no le habían proporcionado ni autorizado a usar.

Tras analizar los comportamientos, OpenAI informó que reforzó sus controles de seguridad y estableció nuevas restricciones para impedir que los modelos experimentales accedan a Internet durante determinados procesos de entrenamiento y evaluación.

La empresa también amplió sus herramientas de vigilancia para detectar comportamientos que se aparten de las instrucciones establecidas y generar alertas ante posibles incidentes.

Fuente: TN