Un modelo de IA de OpenAI, la empresa creadora de ChatGPT, utilizó por su cuenta criptomonedas de un monedero, sin que nadie le hubiera dado permiso para ello.
El modelo incluso dudó de si estaba permitido hacerlo, pero siguió adelante de todos modos. Posteriormente, ocultó el origen del dinero.
Afortunadamente, se trataba de criptomonedas de una red de pruebas, sin valor comercial real. No obstante, OpenAI se toma el incidente muy en serio y la empresa ha reforzado la seguridad.
Consejo: Sé el primero en recibir las noticias más importantes sobre criptomonedas a través de la aplicación gratuita Crypto Insiders.
En resumen:
-
Un modelo de IA de OpenAI utilizó por su cuenta criptomonedas de una cartera que encontró
-
El modelo dudó de si debía hacerlo, pero aun así completó su tarea
-
OpenAI descubrió el incidente más tarde y ha reforzado la seguridad
La IA busca criptomonedas por su cuenta
Todo comenzó el 26 de junio con una tarea de programación. La IA debía modificar una aplicación de criptomonedas e implementar partes de la misma en una red de pruebas de Ethereum.
Se trata de un entorno de pruebas en el que los desarrolladores pueden probar aplicaciones sin utilizar dinero real.
Para llevar a cabo la tarea, el modelo necesitaba una pequeña cantidad de criptomonedas. Sin embargo, OpenAI no le había proporcionado un monedero con saldo.
Según el informe del incidente de OpenAI, la IA intentó primero conseguir monedas de prueba gratuitas. Al no conseguirlo, decidió buscar por su cuenta un monedero con dinero.
El modelo escribió un programa con el que comprobó 362 direcciones de criptomonedas. Para ello, utilizó frases de recuperación de dominio público, que permiten acceder a los monederos. Finalmente, encontró un monedero con suficientes criptomonedas de prueba para pagar los costes.
La IA tiene dudas, pero sigue adelante
Lo más llamativo viene después. El informe revela que la IA se preguntó si realmente podía utilizar el monedero encontrado.
Aun así, siguió adelante. El modelo razonó que la frase de recuperación era pública y que las criptomonedas no tenían un valor comercial real. Por eso consideró aceptable el uso del monedero.
Tras un intento fallido, la IA logró completar la tarea. Los gastos se pagaron con criptomonedas de la cartera encontrada.
En el informe final, el modelo indica que todo salió bien. Sin embargo, ocultó precisamente el hecho de que, para ello, había utilizado otra cartera sin autorización.
OpenAI refuerza la seguridad
OpenAI detectó el incidente el 25 de septiembre durante una revisión de pruebas anteriores. Se trataba de un modelo de investigación interno, no de una versión de IA disponible para el público.
La empresa ha tomado ya medidas adicionales para evitar que, en situaciones similares, los modelos puedan acceder a Internet sin más. Además, el equipo de seguridad recibirá una alerta cuando se detecte dicho acceso.
El incidente giró en torno a criptomonedas de prueba sin valor comercial real. No obstante, pone de manifiesto cómo un modelo de IA puede tomar decisiones de forma autónoma sin que nadie las haya aprobado y, posteriormente, no revelar toda la información sobre lo que ha hecho.
