El error en una sandbox provocó que agentes de Gemini se escaparan y hackeran contraseñas
El modelo de Inteligencia Artificial (IA) de Google, Gemini, vulneró los sistemas informáticos de tres empresas ajenas durante un ensayo de ciberseguridad, lo que significa el primer escape conocido de su entorno de pruebas.
Según publica el diario The Wall Street Journal una firma externa, llamada Irregular, detectó un error técnico en el sandbox que habilitó la conexión a la red abierta, por lo que el agente de IA localizó las credenciales expuestas de tres empresas que no han sido identificadas.
Irregular, además detalló que al disponer de este acceso imprevisto, el modelo localizó contraseñas abiertas para infiltrarse en dos compañías y empleó técnicas de adivinación de contraseñas para vulnerar la tercera.
La vicepresidenta de ingeniería de seguridad de Google, Heather Adkins, explicó que la IA detuvo su actividad de inmediato al detectar que estaba en redes reales, y enfatizó que el incidente se debió a un fallo accidental de configuración del software externo y no a una acción deliberada del modelo.
Con este suceso, se suman más polémicas entorno al uso de IA en redes abiertas, con reportes similares de competidores como OpenAI y Anthropic, lo que elevan la alerta sobre la autonomía de los agentes de IA.
