El término ultrafalso (o deepfake) alude a la técnica de inteligencia artificial capaz de generar imágenes manipuladas con un aspecto tan realista que hace difícil notar que han sido falseadas. Para ello se emplea una clase de algoritmos conocida como RGA (red generativa antagónica), que se aplica sobre material gráfico ya existente.
Por su potencial para engañar a cualquier observador, este avance tecnológico se utiliza a veces con propósitos fraudulentos: para falsear noticias y crear bulos malintencionados. Los vídeos ultrafalsos han alcanzado tal grado de sofisticación que lo ficticio apenas se distingue de lo real, por lo que pueden ser enormemente destructivos.
Es cierto que la publicidad y la industria del entretenimiento están haciendo usos creativos de la inteligencia artificial, por ejemplo, para «resucitar» a celebridades fallecidas, para rejuvenecer a estrellas de cine o para agudizar la sátira política. Pero los deepfakes resultan tan creíbles que conviene aumentar la conciencia pública sobre el mal uso potencial de la inteligencia artificial para desinformar a la sociedad.
Por mi interés académico en este fenómeno, he sido invitado a debatir sobre él, junto con Xavier Salla, profesor de la Universitat Abat Oliba, y Carlos Hernández Echevarría, verificador del proyecto Maldita.es, en Los límites del mañana, el pódcast de Kaspersky, dirigido por Mónica Günther, que invita a asomarse al futuro de la tecnología desde una perspectiva humanista.
El contenido ultrafalso suplanta identidades mediante montajes casi perfectos donde una persona dice cosas que jamás ha pronunciado o interviene en escenas en las que nunca ha estado.
