fbpx
29 de octubre 2019    /   DIGITAL
por
 

¿Es el ‘deepfake’ un cuento de hadas?

29 de octubre 2019    /   DIGITAL     por          
Compártelo twitter facebook whatsapp
thumb image

Todo hallazgo tecnológico proviene de una fantasía anterior. Tal vez de alguna narración sedimentada en la infancia de los científicos que llegó hasta ellos gracias a la repetición de esa misma historia durante generaciones.

Veamos el caso del deepfake, las suplantaciones de personalidad a través de vídeos creados de la mano de la IA. Nacido del cruce de la pornografía (que comenzó a insertar rostros de actrices famosas en escenas de sexo) y del éxito electoral de las fake news, el Deep Fake es en realidad el fruto de una ensoñación que siempre estuvo en nuestra mente.

De hecho, fueron los hermanos Grimm los que fantasearon por primera vez con algunos cuentos en los que el deepfake era el protagonista. En Caperucita roja, el Lobo Feroz intenta suplantar a la abuelita, aunque con muchas dificultades dado el desmesurado tamaño de algunas partes de su rostro. En Blancanieves es la reina bruja la que pretende hacerse pasar por una dulce anciana vendedora de manzanas.

Ninguno de ellos triunfó porque manejaban una tecnología muy rudimentaria. Pero hoy las capacidades digitales, junto con el big data, están consiguiendo suplantar al ser humano en tres de sus elementos más identificativos: su obra, su imagen y su voz.

Respecto a su obra, tal vez el ejemplo más llamativo sea la pintura de Rembrandt presentada en 2016 por ING, Microsoft, la Universidad Técnica de Delft y los museos Mauritshuis y Rembrandthuis.

No es que se haya descubierto un nuevo cuadro de este genio de la luz y las sombras. Ni que se haya realizado una reproducción perfecta de alguna de sus obras. Lo que se ha copiado es su técnica, su estilo, su composición para conseguir un nuevo retrato que, gracias a los 148 millones de píxeles que contiene el lienzo, resulte prácticamente imposible descubrir que se trata de una falsificación digital.

En cuanto a la suplantación de la imagen (es decir, el deepfake propiamente dicho), es donde nos encontramos las mayores posibilidades y los mayores peligros. Ya podemos ver en las redes sustituciones de actores, políticos y famosos en general que permiten una capacidad de manipulación hasta ahora inconcebible. Todo es posible y todo, sin duda, será utilizado.

Suplantar la voz (el llamado vishing) resulta más sencillo. Por eso ya están apareciendo fraudes telefónicos en los que un familiar o un compañero de trabajo nos pide que realicemos una transferencia a determinada cuenta bancaria. Se trata de softwares comerciales accesibles, como el Lyrebird, que tan solo precisan de una pequeña grabación de la voz original y el conocimiento preciso del Deep Learning. Lo demás se consigue en cuestión de minutos.

El conjunto de todo esto nos introduce en un nuevo universo virtual en el que nada es lo que parece. Una realidad irreal llena de inseguridades en la que la desconfianza y la paranoia campan por sus respetos.

Los hermanos Grimm escribieron cuentos de buenos y malos. Pero también predijeron una ley de la selva en la que todo vale, incluida la suplantación, para conseguir el objetivo.

Hasta dónde nos llevará esta ley de la selva con las nuevas tecnologías no lo sabemos. Lo único que podemos esperar, al menos, es que no se conviertan en el cuento de nunca acabar.

Todo hallazgo tecnológico proviene de una fantasía anterior. Tal vez de alguna narración sedimentada en la infancia de los científicos que llegó hasta ellos gracias a la repetición de esa misma historia durante generaciones.

Veamos el caso del deepfake, las suplantaciones de personalidad a través de vídeos creados de la mano de la IA. Nacido del cruce de la pornografía (que comenzó a insertar rostros de actrices famosas en escenas de sexo) y del éxito electoral de las fake news, el Deep Fake es en realidad el fruto de una ensoñación que siempre estuvo en nuestra mente.

De hecho, fueron los hermanos Grimm los que fantasearon por primera vez con algunos cuentos en los que el deepfake era el protagonista. En Caperucita roja, el Lobo Feroz intenta suplantar a la abuelita, aunque con muchas dificultades dado el desmesurado tamaño de algunas partes de su rostro. En Blancanieves es la reina bruja la que pretende hacerse pasar por una dulce anciana vendedora de manzanas.

Ninguno de ellos triunfó porque manejaban una tecnología muy rudimentaria. Pero hoy las capacidades digitales, junto con el big data, están consiguiendo suplantar al ser humano en tres de sus elementos más identificativos: su obra, su imagen y su voz.

Respecto a su obra, tal vez el ejemplo más llamativo sea la pintura de Rembrandt presentada en 2016 por ING, Microsoft, la Universidad Técnica de Delft y los museos Mauritshuis y Rembrandthuis.

No es que se haya descubierto un nuevo cuadro de este genio de la luz y las sombras. Ni que se haya realizado una reproducción perfecta de alguna de sus obras. Lo que se ha copiado es su técnica, su estilo, su composición para conseguir un nuevo retrato que, gracias a los 148 millones de píxeles que contiene el lienzo, resulte prácticamente imposible descubrir que se trata de una falsificación digital.

En cuanto a la suplantación de la imagen (es decir, el deepfake propiamente dicho), es donde nos encontramos las mayores posibilidades y los mayores peligros. Ya podemos ver en las redes sustituciones de actores, políticos y famosos en general que permiten una capacidad de manipulación hasta ahora inconcebible. Todo es posible y todo, sin duda, será utilizado.

Suplantar la voz (el llamado vishing) resulta más sencillo. Por eso ya están apareciendo fraudes telefónicos en los que un familiar o un compañero de trabajo nos pide que realicemos una transferencia a determinada cuenta bancaria. Se trata de softwares comerciales accesibles, como el Lyrebird, que tan solo precisan de una pequeña grabación de la voz original y el conocimiento preciso del Deep Learning. Lo demás se consigue en cuestión de minutos.

El conjunto de todo esto nos introduce en un nuevo universo virtual en el que nada es lo que parece. Una realidad irreal llena de inseguridades en la que la desconfianza y la paranoia campan por sus respetos.

Los hermanos Grimm escribieron cuentos de buenos y malos. Pero también predijeron una ley de la selva en la que todo vale, incluida la suplantación, para conseguir el objetivo.

Hasta dónde nos llevará esta ley de la selva con las nuevas tecnologías no lo sabemos. Lo único que podemos esperar, al menos, es que no se conviertan en el cuento de nunca acabar.

Compártelo twitter facebook whatsapp
Apps que SÍ (y cuando digo sí, es sí)
Un hospital en el bolsillo
El orgullo de ser diferente
Vamos con Carlos: La estrategia músical de El Corte Inglés
 
Especiales
 
facebook twitter whatsapp

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *