De todos los poderes de miedo de Internet, su capacidad de engañar a los desprevenidos podría ser la más aterradora. Clickbait, fotos con photoshop y noticias falsas son algunos de los peores delincuentes, pero en los últimos años también se ha visto el surgimiento de una nueva herramienta potencialmente peligrosa conocida como inteligencia artificial (AI) falsa.
El término deepfake se refiere a video y audio falsificados y generados por computadora que es difícil de distinguir del contenido genuino e inalterado. Es filmar lo que Photoshop es para imágenes.
¿Cómo funciona deepfake AI?
La herramienta se basa en lo que se conoce como redes de confrontación generativa (GAN), una técnica inventada en 2014 por Ian Goodfellow, Ph.D. estudiante que ahora trabaja en Apple, informó Popular Mechanics.
El algoritmo GAN involucra dos IA separadas, una que genera contenido, digamos, fotos de personas, y un adversario que intenta adivinar si las imágenes son reales o falsas, según Vox. La IA generadora comienza casi sin tener idea de cómo se ve la gente, lo que significa que su compañero puede distinguir fácilmente las fotos verdaderas de las falsas. Pero con el tiempo, cada tipo de IA mejora progresivamente y, finalmente, la IA generadora comienza a producir contenido que se ve perfectamente realista.
Ejemplos de deepfake
Las GAN son herramientas impresionantes y no siempre se utilizan con fines maliciosos. En 2018, una pintura generada por GAN que imita el estilo holandés "Viejo maestro" de artistas como el Rembrandt van Rijn del siglo XVII se vendió en la casa de subastas Christie's por la increíble cantidad de $ 432,500.
Ese mismo año, los deepfakes alcanzaron una gran popularidad, principalmente a través de un usuario de Reddit que se hizo llamar 'deepfakes', informó Vice. La técnica GAN a menudo se usaba para colocar los rostros de celebridades famosas, incluidos Gal Gadot, Maisie Williams y Taylor Swift, en los cuerpos de actrices de películas pornográficas.
Otras GAN han aprendido a tomar una sola imagen de una persona y crear fotos o videos alternativos bastante realistas de esa persona. En 2019, un deepfake podría generar películas espeluznantes pero realistas de la Mona Lisa hablando, moviéndose y sonriendo en diferentes posiciones.
Deepfakes también puede alterar el contenido de audio. Según lo informado por The Verge a principios de este año, la técnica puede unir nuevas palabras en un video de una persona que habla, haciendo que parezca que dijo algo que nunca tuvo la intención de hacer.
La facilidad con la que se puede implementar la nueva herramienta tiene ramificaciones potencialmente aterradoras. Si alguien, en cualquier lugar, puede hacer películas realistas que muestren a una celebridad o un político hablando, moviéndose y diciendo palabras que nunca dijeron, los espectadores se ven obligados a desconfiar del contenido en Internet. Como ejemplo, solo escuche la advertencia del presidente Obama contra un futuro distópico "derrochado" en este video de Buzzfeed, creado usando deepfake por el cineasta Jordan Peele.
