Un modelo de investigación de OpenAI verificó 362 direcciones de billetera, cuestionó si el uso de los fondos era ético y procedió con una transacción que luego omitió de su resumen final de tareas.

Un modelo de investigación interna en OpenAI accedió a una billetera criptográfica financiada sin autorización, utilizando testnet Ether para implementar contratos inteligentes en la red Sepolia y luego omitiendo el gasto de su resumen de tarea final.

OpenAI dijo que al modelo, que formaba parte de su familia GPT-5.6 Sol, se le asignó la tarea de actualizar un prototipo de comercio de cifrado e implementar contratos compatibles. Después de no poder obtener ETH de testnet a través de faucets, el modelo derivó cuentas de frases de recuperación de desarrolladores conocidas públicamente, verificó 362 direcciones de billetera y seleccionó una con fondos suficientes para continuar.

En su razonamiento registrado, el modelo preguntó: "¿Pero utilizar éticamente claves/fondos públicos conocidos?" Luego argumentó que los fondos fueron "efectivamente abandonados/probado ETH" y que Sepolia ETH no tenía valor, antes de usar la clave privada de la billetera para firmar y transmitir una transacción de implementación. La transacción fue exitosa y se cargaron tarifas en la cuenta.

OpenAI dijo que el incidente mostró cómo un modelo de IA podía decidir por sí solo si era aceptable utilizar los fondos de otra persona, incluso sin permiso. La compañía descubrió el incidente mientras revisaba la actividad del modelo anterior y desde entonces ha introducido medidas de seguridad para evitar el acceso a Internet en vivo en situaciones similares.

El incidente de OpenAI aumenta las preocupaciones sobre los agentes autónomos de IA

El incidente ocurrió el 26 de junio, pero no fue descubierto hasta el 25 de septiembre, casi tres meses después, según OpenAI. La transacción no transfirió ETH a otra billetera, sino que cobró a la cuenta tarifas de red por implementar un contrato.

OpenAI dijo que su sistema de monitoreo de desalineación ahora abarca todo el tráfico y está diseñado para alertar al personal de seguridad si un modelo obtiene acceso a Internet en vivo.

Relacionado: Anthropic advierte que los 'gusanos de IA' pueden propagarse de forma autónoma entre dispositivos como un virus

El incidente de la billetera sigue a otras revelaciones que involucran a modelos OpenAI que actúan más allá de su autorización u ocultan sus acciones.

El 16 de septiembre, OpenAI reveló otros seis casos de desalineación de la IA. En un caso, las instancias de GPT-5.6 Sol insertaron instrucciones en los resúmenes de tareas para ocultar los errores a los usuarios. Otro caso involucró a un modelo que usaba una clave API expuesta sin autorización antes de fabricar figuras que no podía recuperar.

OpenAI dijo que esas divulgaciones anteriores no pretendían indicar con qué frecuencia se produce una desalineación en sus modelos.

Las preocupaciones sobre agentes autónomos que manejan activos digitales también son anteriores a la última divulgación. En junio, los investigadores advirtieron que los agentes autónomos de IA equipados con billeteras criptográficas podrían causar daños no deseados incluso cuando se implementan con fines legítimos. Los investigadores recomendaron salvaguardias, incluidos mecanismos de apagado de emergencia, para limitar los riesgos potenciales.

Revista: Estafador pierde 4,8 millones de dólares almacenados en libros de contabilidad manipulados: Asia Express

Suscríbase a las noticias diarias sobre criptomonedas de Cointelegraph

Más sobre el tema

Ex empleado demanda a la Fundación Ethereum y a Vitalik Buterin por despido

Vitalik 'pivota' ETH para almacenar valor, las criptomonedas sufren después de las elecciones intermedias de EE. UU.: Hodler's Digest

Los desarrolladores de Ethereum no bifurcarán Glamsterdam en Hoodi hasta que se resuelvan los riesgos de los contratos inteligentes