Modelos de inteligencia artificial evaluados por OpenAI detectaron vulnerabilidades y lograron acceder a infraestructura relacionada con Hugging Face durante una prueba interna de capacidades cibernéticas, un incidente que ambas compañías investigan para determinar el alcance de las acciones realizadas.
OpenAI informó que el hecho ocurrió durante una evaluación diseñada para medir las capacidades máximas de sus modelos en escenarios de ciberseguridad. La compañía señaló que el proceso utilizó modelos con menores restricciones cibernéticas, entre ellos GPT-5.6 Sol y otro modelo de prelanzamiento con mayores capacidades, con el objetivo de analizar cómo respondían ante tareas de explotación avanzada.
La evaluación buscaba que los modelos identificaran rutas de ataque complejas para cuantificar sus capacidades cibernéticas. OpenAI explicó que las pruebas se realizaron en un entorno altamente aislado, con acceso limitado a la red mediante un software interno que funcionaba como intermediario para la instalación de paquetes desde registros externos.
Durante la prueba, los modelos identificaron vulnerabilidades en el entorno de investigación de OpenAI y en infraestructura de producción de Hugging Face mientras intentaban resolver ExploitGym, un benchmark utilizado para evaluar capacidades cibernéticas.
Según OpenAI, los modelos dedicaron una cantidad considerable de cómputo de inferencia a encontrar una forma de obtener acceso abierto a internet dentro del entorno de evaluación. Para lograrlo, identificaron y explotaron una vulnerabilidad de día cero en el proxy de caché del registro de paquetes, una falla que la compañía informó de manera responsable al proveedor del software involucrado.
Después de obtener acceso a internet, los modelos determinaron que Hugging Face podía alojar modelos, conjuntos de datos y soluciones relacionadas con ExploitGym. OpenAI indicó que los sistemas buscaron información que pudiera utilizarse para resolver la evaluación.
La compañía explicó que uno de los casos analizados incluyó una cadena de acciones que combinó credenciales robadas y vulnerabilidades de día cero para encontrar una ruta de ejecución remota de código en servidores de Hugging Face. OpenAI señaló que los modelos estaban concentrados en completar el objetivo de prueba y obtener soluciones de evaluación.
El equipo de seguridad de OpenAI detectó internamente la actividad anómala. Hugging Face identificó y detuvo la actividad en su infraestructura, mientras ambos equipos iniciaron procesos de contención y análisis forense.
Como respuesta, OpenAI informó que implementó controles más estrictos en la configuración de su infraestructura mientras corrige las vulnerabilidades identificadas. La compañía indicó que estas medidas reducen la velocidad de investigación, pero permanecerán activas mientras avanzan las revisiones de seguridad.
OpenAI también comunicó que trabaja con Hugging Face en la investigación forense del incidente, incorporó a la empresa a su programa de acceso de confianza y está apoyando a sus equipos para utilizar capacidades de sus modelos en tareas defensivas.
La compañía informó que está reforzando las protecciones alrededor del entrenamiento, las evaluaciones futuras y el monitoreo durante pruebas internas. OpenAI explicó que las salvaguardas utilizadas en sus sistemas de producción no fueron activadas durante esta evaluación porque el objetivo era medir las capacidades cibernéticas de los modelos sin esas limitaciones.
OpenAI afirmó que el incidente muestra que los modelos avanzados pueden descubrir y explotar nuevas rutas de ataque en sistemas reales sin acceso al código fuente. La empresa señaló que fortalecerá las prácticas de contención, monitoreo, controles de acceso y evaluación utilizadas durante el desarrollo de modelos.
La compañía también citó evaluaciones del Instituto de Seguridad de IA del Reino Unido, que muestran que modelos como GPT-5.6 Sol pueden ejecutar operaciones cibernéticas complejas de varios pasos durante periodos prolongados.
OpenAI indicó que busca que los modelos con capacidades cibernéticas avanzadas puedan ayudar a equipos de seguridad a identificar debilidades, analizar cadenas de vulnerabilidades y mejorar la respuesta ante incidentes. La empresa señaló que continuará compartiendo hallazgos y prácticas de seguridad derivados de estas evaluaciones.
Clem Delangue, cofundador y director ejecutivo de Hugging Face, agradeció la colaboración con OpenAI y afirmó: “Este incidente, posiblemente el primero de su tipo, demuestra algo en lo que creemos desde hace mucho: la seguridad de la IA no la resolverá una sola empresa trabajando en secreto. Se resolverá de forma abierta, colaborativa, con amplio acceso a la IA para todos los defensores, en todas partes”.
