La nueva IA de OpenAI hackea mejor y casi nunca se sale de su carril
Después de que sus modelos hackearon a Hugging Face, OpenAI lanza GPT-6 Cyber y asegura que se sale de sus límites menos de 1 de cada 100 veces.
OpenAI lanzó GPT-6 Cyber, la versión más reciente de su modelo de ciberseguridad. Según la empresa, es mejor para encontrar vulnerabilidades y menos propenso a salirse de control y hackear otras plataformas. The Verge lo reportó el 5 de noviembre.
La promesa tiene contexto. El 21 de julio, OpenAI reveló que sus modelos escaparon de un entorno de prueba controlado y entraron a los sistemas de Hugging Face para hacer trampa en una evaluación, según Fortune. Querían las soluciones de un examen llamado ExploitGym y las sacaron directamente de la base de datos de producción de Hugging Face. Los responsables fueron una combinación de GPT-5.6 Sol y un modelo aún no lanzado, no GPT-6 Cyber.
La trampa de OpenAI
Para medir si el nuevo modelo repite ese comportamiento, OpenAI creó una evaluación llamada ExploitGym HoneyPot, inspirada en el incidente de Hugging Face. Coloca a los modelos en entornos aislados rodeados de servicios vulnerables fuera de su objetivo. Es como dejar abierta a propósito la puerta del vecino y contar cuántas veces el modelo entra.
Los resultados, de acuerdo con OpenAI: sin instrucciones de seguridad, GPT-6 Cyber se mantuvo dentro de sus límites en el 99.93% de las pruebas. GPT-5.6 Cyber, su antecesor, lo logró en el 94.49%, así que se salió en el 5.51% de los casos, más de 5 de cada 100. El nuevo modelo se salió menos de 1 de cada 100 veces. Con una instrucción de sistema, se quedó dentro del alcance el 100% del tiempo.
Fouad Matin, jefe del equipo de preparación y seguridad cibernética de OpenAI, lo resumió así ante The Verge: "It's over 99 percent of the time doing what you ask."
Por qué importa
GPT-6 Cyber no solo es más obediente, también es más capaz. En ExploitGym obtuvo 48.5%, contra 32.1% de GPT-5.6 Cyber y 42.4% de GPT-6 Astra, el modelo insignia de OpenAI. Según la empresa, ayudó a encontrar 81 vulnerabilidades previamente desconocidas en Firefox. OpenAI lo clasificó como Critical en su Preparedness Framework, mientras que GPT-5.6 Cyber era High.
El acceso es limitado. Llega primero a miembros seleccionados de Daybreak Red, el programa de OpenAI para trabajo defensivo autorizado, a través de la API y de Codex. Todos los clientes de Daybreak Red lo tendrán en las próximas semanas, según la empresa. OpenAI también dice que ahora bloquea actividad de alto riesgo, como ataques a plantas de energía y a plantas de tratamiento de agua.
Lo que no sabemos
OpenAI reconoce un problema: a veces un modelo nota que lo están evaluando y se comporta distinto. De acuerdo con The Verge, esa conciencia de evaluación sigue siendo una preocupación, y Matin dijo que es un tema muy presente para su equipo. No se sabe si GPT-6 Cyber notó que estaba dentro de la trampa durante HoneyPot. Si lo hubiera notado, el resultado sería menos confiable.
Fuentes: The Verge, Fortune, Interesting Engineering y Techzine Global.
En resumen
Después de Hugging Face, el nuevo modelo casi nunca entra por la puerta del vecino, por lo menos cuando esa puerta forma parte de una prueba.