Ecosistema Digital por Carlos Miguel Ramos Linares
La inteligencia artificial no únicamente crece en el desarrollo de textos como ChatGPT, desarrollo por OpenAI, que básicamente se especializa en mantener diálogo a partir de un modelo de lenguaje ajustado con técnicas de aprendizaje etiquetado y no etiquetado, también es capaz de crear rostros.
Según la firma de seguridad informática ESET, la tecnología GAN fue creada en 2014 por Ian Goodfellow; esta tecnología ayuda a crear personajes para videojuegos, campañas publicitarias, entre otras, por lo que es casi seguro que en tu navegación habitual en internet ya hayas visto el rostro de una persona que nunca ha existido.
A esta tecnología se le conoce como: Redes Generativas Adversarias (GAN), y su utilización es más variada y peligrosa de lo que crees. La inteligencia artificial de GAN funciona a partir de modelados de rostros reales que con ayuda de programación es capaz de crear nuevos rostros que nunca hayan existido. Es decir, el algoritmo modifica la apariencia de una persona a partir de una base que entrenar y hace irreconocible la imagen original.
Empresas publicitarias utilizan la tecnología en ejemplos como: exhibición de maquillaje u otros modos sin necesidad de pagar a modelos, reduciendo considerablemente los costos de producción.
La advertencia radica en la utilización de la tecnología para suplantar la identidad, simular ser una persona o un usuario en plataforma con fines engañosos y hasta para cometer crímenes o delitos. Para autoridades es complejo identificar la realidad, pues también es capaz de crear entornos reales con personas distintas.
El potencial malicioso de GAN es generar noticias falsas (deep fakes) capaces de construir videos en donde una figura, casi siempre pública, emita posturas que en realidad nunca dijo. Esta práctica ya ha sido utilizada por ciberdelincuentes que también emplean la tecnología en la creación de perfiles falsos en redes sociales, con la finalidad de persuadir a usuarios a revelar información confidencial.
ESET afirmó lo siguiente: “La creación de rostros similares a los de personas públicas, como pueden ser celebridades, pueden facilitar los fraudes de robo o suplantación de identidad. Pensemos en el reconocimiento facial como método de autenticación y las posibilidades que ofrecen los rostros GAN como instrumento para sortear este método de autenticación y acceder a la cuenta de un tercero. Vale la pena mencionar también que si bien muchos métodos de reconocimiento facial no funcionan bien cuando las imágenes son de baja resolución, estudios han demostrado que la tecnología GAN ha demostrado ser efectiva para mejorar la precisión de las tecnologías de reconocimiento facial ante estos escenarios. Por otra parte, también es importante mencionar que las empresas están al tanto de los riesgos y están desarrollando funcionalidades para detectar estas imágenes falsas. LinkedIn, por ejemplo, anunció en 2022 nuevas funcionalidades que utilizan Inteligencia Artificial (IA) para identificar perfiles que utilizan generadores de imágenes sintéticas mediante IA”.
En este mismo sentido, existen consejos para evitar caer en el anzuelo como: verificar la fuente, desconfiar de las imágenes, verificar los videos y actualizar los sistemas de seguridad.
@cm_ramoslinares
