El término ultrafalso (o deepfake) alude a la técnica de inteligencia artificial que crea imágenes tan realistas que es difícil discernir su falsedad. Se basa en algoritmos de redes generativas antagónicas, aplicados a contenido gráfico preexistente.
Dada su capacidad para engañar, esta tecnología a veces se usa con fines fraudulentos, como falsear noticias o generar desinformación. Los vídeos ultrafalsos son tan sofisticados que diferenciar lo falso de lo real puede ser un desafío, por lo que pueden ser enormemente destructivos.
La publicidad y la industria del entretenimiento han encontrado usos creativos de la inteligencia artificial, como revivir a celebridades, rejuvenecer a estrellas de cine o agudizar la sátira política. Sin embargo, la verosimilitud de los deepfakes subraya la necesidad de elevar la conciencia pública sobre su posible mal uso para desinformar.
Mi interés académico en este tema me ha llevado a ser invitado a debatirlo con Xavier Salla, profesor de la Universitat Abat Oliba, y Carlos Hernández Echevarría, verificador de Maldita.es, en el pódcast Los límites del mañana de Kaspersky, presentado por Mónica Günther, que explora el futuro de la tecnología desde una óptica humanista.
El contenido ultrafalso suplanta identidades mediante montajes casi perfectos donde una persona dice cosas que jamás ha pronunciado o interviene en escenas en las que nunca ha estado.
