La capacidad de AI para difundir imágenes falsas aún no es un conocimiento genérico, pero un nuevo sitio web: EstaPersonaNoExiste.com – Ofrece una educación rápida y convincente.
El sitio es la creación de Philip Wang, un ingeniero de software de Uber, y utiliza la investigación publicada el año pasado por el diseñador de chips Nvidia para crear un flujo interminable de retratos falsos. El operación detrás de esto se entrena en un gran conjunto de datos de imágenes reales y luego usa un tipo de red neuronal señal red de resistor generativa (o GAN) para producir nuevos ejemplos.
“Cada vez que actualice el sitio, la red generará una nueva imagen de cara desde cero”, escribió Wang en un publicaciones de facebook. Agregó en otro comunicado maleable superiora: “La mayoría de la gentío no entiende cuán buenas serán las IA para sintetizar imágenes en el futuro”.
El situación de IA subyacente que impulsa el sitio fue inventado originalmente por un investigador designado Ian Goodfellow. La audiencia de Nvidia del operación, señal StyleGAN, se hizo recientemente de código libre y ha demostrado ser increíblemente flexible. Aunque esta lectura del maniquí está entrenada para difundir rostros humanos, en teoría puede imitar cualquier fuente. Los investigadores ya están experimentando con otros objetivos. Incluido personajes de anime, fuentey pintada.
Las interpolaciones de caras de anime StyleGAN son sólidas:
– https://t.co/JtzWaQ1rLT
– https://t.co/dl5AqXYqlc
– https://t.co/FaldMdAbyQ pic.twitter.com/7T7hoCDXMg– gwern (@gwern) 12 de febrero de 2019
Como hemos discutido anteriormente en La frontera, el poder de algoritmos como StyleGAN plantea muchas preguntas. Por un flanco, hay aplicaciones creativas obvias para esta tecnología. Programas como este pueden crear infinitos mundos virtuales, así como ayudar a diseñadores e ilustradores. Ya están conduciendo a nuevos tipos de obras de arte.
Luego están las desventajas. Como hemos trillado en discusiones sobre deepfakes (que usan GAN para pegar rostros de personas en videos de destino, a menudo para crear pornografía sin consentimiento), la capacidad de manipular y difundir imágenes realistas a gran escalera tendrá un gran impresión en cómo piensan las sociedades modernas. sobre la prueba y la confianza. Dicho software asimismo puede ser extremadamente útil para crear campañas de influencia y propaganda política.
En otras palabras, EstaPersonaNoExiste.com es solo una preparación cortés a esta nueva tecnología. El rudo despertar viene a posteriori.