Este incidente fue calificado como “sin precedentes”, durante la evaluación de modelos
El CEO de OpenAI, Sam Altman, dio a conocer que uno de sus modelos de Inteligencia Artificial atacó de manera autónoma la infraestructura de la plataforma Hugging Face, empresa que realiza modelos de aprendizaje automático.
"Hemos sufrido un incidente de seguridad grave durante la evaluación de nuestros modelos", reconoció mediante un comunicado, en el que anunció que se trata de un incidente cibernético "sin precedentes".
Además, ambas compañías, OpenAI y Hugging Face, consideran que podría ser el primer caso divulgado públicamente en el que un modelo de IA se infiltra por su propia cuenta en los sistemas de otra empresa durante una evaluación controlada.
¿Cómo sucedió?
OpenAI estaba probando qué tan buenos son sus modelos más recientes en hacking, por lo que pusieron la IA en una computadora bloqueada sin acceso a internet y le dieron un desafío de ciberseguridad para resolver.
Según información vertida en redes sociales, la IA no pudo resolverlo de la manera normal. Así que empezó a buscar una salida. Encontró un error de software que nadie conocía. Usó ese error para escapar de la computadora bloqueada y conectarse a internet.
“Una vez en línea, la IA dedujo que Hugging Face, una plataforma donde las empresas de IA almacenan sus modelos y datos, podría tener las respuestas a su prueba. Encontró detalles de inicio de sesión robados y descubrió otro error desconocido en el software de Hugging Face. Combinó ambos para irrumpir en sus servidores y obtener las respuestas de la prueba”, indicó el usuario @alex_prompter en la red social X.
Ante esto, el equipo de seguridad de Hugging Face lo detectó y lo detuvo, por lo que ambas empresas ahora están trabajando juntas en la investigación, porque nadie programó esto, es decir, la IA eligió sus propios objetivos, encadenó múltiples métodos de ataque y lo llevó a cabo a través de los sistemas de dos firmas diferentes.
"Sospechábamos que el ciberataque de la semana pasada podría haber procedido de un laboratorio de vanguardia, dada la sofisticación del agente. ¡Y resulta que así fue! Hemos pasado las últimas 24 horas trabajando en estrecha colaboración con el equipo de OpenAI", dijo Clément Delangue, CEO y cofundador de Hugging Face.
