IA generativa y privacidad: ¿sabes qué hacen con tu foto Ghibli?

El internet está inundado de retratos al estilo Studio Ghibli creados con inteligencia artificial (IA); lo que comenzó como un divertido filtro ahora plantea serios riesgos de la IA generativa para la privacidad de los usuarios.

Según ESET Latinoamérica, al subir fotos personales a estas plataformas, muchos están entregando -sin saberlo- datos biométricos valiosos que podrían ser usados para:

• Suplantación de identidad
• Creación de deepfakes
• Fraudes financieros
• Filtraciones masivas de información

Cómo funciona esta tecnología (y por qué es peligrosa)

Los sistemas de IA generativa como DALL-E o Midjourney necesitan enormes bases de datos para aprender estilos artísticos. Cuando subes tu foto:

1. El algoritmo analiza rasgos faciales únicos (distancia entre ojos, forma de labios)
2. Crea un modelo biométrico de tu rostro
3. Almacena esta información en sus servidores

El problema: Muchas plataformas no especifican:

• Cuánto tiempo guardan tus datos
• Con qué terceros los comparten
• Qué medidas de seguridad implementan

3 Casos reales que deberían preocuparte

1. El escándalo clearview AI (2020-2022)

Esta empresa creó una base de datos con 3,000 millones de rostros extraídos de redes sociales sin consentimiento. Fue multada en varios países por violar leyes de privacidad.

2. La filtración de outabox (2024)

Datos biométricos de clientes de bares australianos (incluyendo escaneos faciales y de licencias de conducir) fueron expuestos en internet.

3. El problema de los “Terms and conditions”

El 97% de usuarios acepta políticas de privacidad sin leerlas. Muchas apps de IA incluyen cláusulas donde:

“Al subir contenido, nos otorgas derechos perpetuos para usar tus imágenes con fines comerciales”

Guía de protección: disfruta la IA de forma segura

✅ Verifica la procedencia de la app

• Descarga solo de tiendas oficiales (Google Play/App Store)
• Revisa permisos que solicita la aplicación
• Busca reviews recientes sobre problemas de privacidad

✅ Prepara tus fotos antes de subirlas

• Usa imágenes con baja resolución
• Prueba con dibujos o personajes ficticios
• Aplica ediciones básicas que alteren ligeramente tus rasgos

✅ Configuración de privacidad post-uso

• Elimina tu cuenta después de usar el servicio
• Solicita la eliminación de datos según GDPR
• Usa herramientas como Have I Been Trained? para ver si tu imagen fue usada para entrenar IA

El futuro de la privacidad en la era de la IA

Mientras gobiernos debaten regulaciones, los usuarios deben:

• Exigir transparencia a las empresas de IA
• Aprender sobre derechos digitales
• Usar tecnologías de enmascaramiento (como Fawkes) que alteran imperceptiblemente las fotos para confundir a los algoritmos

Diversión con responsabilidad

Convertirte en un personaje Ghibli es mágico, pero no vale la pena arriesgar tu identidad digital. Si decides probar estas herramientas:

1. Usa versiones web (no descargues apps sospechosas)
2. Nunca subas fotos de documentos o menores
3. Considera usar avatares genéricos en lugar de fotos reales

“La privacidad es como la inocencia: una vez perdida, no se recupera” – David González, Investigador de ESET

La IA generativa abre posibilidades creativas, pero también riesgos a la privacidad. Si decides unirte a la moda Ghibli, hazlo con precaución.

🔗 Más información en WeLiveSecurity
🎧 Escucha el podcast Conexión Segura de ESET