Una prueba de seguridad de OpenAI terminó de una forma que nadie esperaba. Mientras la empresa evaluaba qué tan lejos podían llegar dos de sus modelos de inteligencia artificial, estos lograron salir del entorno donde estaban siendo probados, conectarse a internet y hackear parte de los sistemas de Hugging Face, una de las plataformas más importantes para compartir modelos de IA.
OpenAI explicó que la prueba buscaba medir las capacidades de ataque de sus modelos GPT-5.6 Sol y otro sistema aún más avanzado. Sin instrucciones humanas, ambos encontraron vulnerabilidades, obtuvieron acceso a internet y utilizaron credenciales comprometidas para entrar a la infraestructura de Hugging Face con el objetivo de conseguir información que les ayudara a completar el reto que estaban resolviendo.
Hugging Face detectó el ataque y lo detuvo antes de que causara daños. OpenAI calificó el caso como un incidente “sin precedentes” y ya investiga lo ocurrido junto con la plataforma. Analistas creen que este episodio demuestra que las empresas deberán reforzar sus sistemas de ciberseguridad ante una nueva generación de inteligencias artificiales capaces de ejecutar ataques por cuenta propia.
Deja un comentario