El lado oscuro de las deep fakes

Seguro que conoces casos de manipulación de imágenes (fotografías o videos) y sonidos con Inteligencia Artificial. Habrás leído u oído noticias sobre algunos ejemplos sonados, incluso delictivos.

Son casos de deep fakes, una aplicación de inteligencia artificial que permite crear videos manipulados. Su la finalidad de mostrar a alguien diciendo o haciendo algo que no ha dicho o hecho en realidad. Esta tecnología ha avanzado a pasos agigantados en los últimos años. Su extensión que ha llevado a preocupaciones sobre su uso indebido y las consecuencias negativas que puede tener en la sociedad.

En este post te exponemos algunos de los riesgos por mal uso de las deep fakes, así como las implicaciones legales y éticas de esta tecnología.

‍

Cómo funcionan las deep fakes

Las deep fakes funcionan mediante el uso de algoritmos de aprendizaje automático que analizan y aprenden de grandes cantidades de datos, como videos e imágenes. Una vez que el algoritmo ha sido entrenado lo suficiente, puede crear una representación digital de una persona.

Una imagen o una grabación pueden ser manipuladas para parecer que esta persona hace algo o dice algo que en realidad ni ha hecho ni ha dicho. Esto se logra mediante la superposición de las características faciales del individuo en el video original con la voz y los movimientos de otra persona.

En el caso de audios, programando el modelo de reproducción de sonido para emitir frases no pronunciadas a partir de otra grabación real con su voz.

Puede suceder incluso a persona anónimas, para tratar de estafarlas con sofisticadas imitaciones de voz de sus familiares o amigos.

‍

Los peligros de las deep fakes

Los peligros de las deep fakes son numerosos. En primer lugar, es posible usarlas para difundir información falsa y engañar a la opinión pública.

Por ejemplo, un video manipulado de un político diciendo algo escandaloso podría tener un gran impacto en una campaña electoral.

Además, las deep fakes también propician acciones de acoso y difamación de personas.

Por ejemplo, un video manipulado de una persona en una situación comprometida como medio para para chantajearla.

Ya se han utilizado también para estafar a empresas mediante grabaciones de sonido en las que un responsable de la misma emite órdenes lesivas para sus intereses, grabaciones realizadas con modelos de procesamiento del lenguaje natural.

El mal uso de las deep fakes viene en un problema real y preocupante. En algunos casos, estas manipulaciones se han utilizado para difundir información falsa sobre políticos, celebridades y otras personas públicas.

En otros casos, se han utilizado para acosar y difamar a personas. Por ejemplo, en 2018, se creó un video deep fake de la actriz Gal Gadot que la mostraba en una situación sexualmente explícita. El video se difundi en línea y Gadot fue objeto de acoso y difamación.

En 2019, se creó y difundió por internet un video deep fake de Mark Zuckerberg. La supuesta grabación mostraba al CEO de Meta hablando sobre el control de los datos de los usuarios de Facebook en un tono burlón. También en este caso hubo extensa difusión.

La viralidad que alcanzó generó preocupaciones sobre la capacidad de las deep fakes para influir en la opinión pública.

Otro caso es el de una mujer en India que fue víctima de acoso y difamación después de que se creara un video deep fake de ella en una situación sexualmente explícita.

‍

Impacto de la tecnología deep fake en la sociedad

El impacto de la tecnología deep fake en la sociedad es profundo y preocupante. Por un lado, las deep fakes pueden ser utilizadas para difundir información falsa y engañar a la opinión pública.

Esto puede tener graves consecuencias en la política, la economía y la sociedad en general. Es cierto que, en este momento de desarrollo de la tecnología, existen pautas que permiten observar con detalle estos vídeos o fotos y determinar si provienen de una manipulación. Pero resulta difícil percibirlo a simple vista.

Por otro lado, resulta plausible que en un futuro próximo, los modelos de generación de imágenes alcancen un nivel de entrenamiento tal que ya sea imposible determinar qué es verdad y qué es mentira. Se abre aquí un problema gravísimo.

Además de ser una herramienta precisa de generación de falsedades y, por tanto, de propaganda extremadamente efectiva, puede utilizarse para acosar y difamar a personas, lo que puede tener graves consecuencias para la vida personal y profesional de las víctimas.

‍

Prevención del mal uso de las deep fakes

La prevención del mal uso de las deep fakes es un desafío importante.

En primer lugar, es necesario aumentar la conciencia sobre los peligros del uso de esta tecnología y educar a las personas sobre cómo identificarlos para evitar su difusión.

En segundo lugar, es necesario desarrollar tecnologías que permitan detectar y eliminar las deep fakes. Esto podría incluir el uso de algoritmos de aprendizaje automático para identificar patrones en los vídeos manipulados.

‍

Consideraciones legales y éticas de las deep fakes

Las implicaciones legales de las deep fakes son numerosas y complejas. En algunos casos, las deep fakes pueden ser consideradas una forma de difamación, lo que podría dar lugar a acciones legales por parte de las víctimas.

Sin embargo, desde otra vertiente, se habla de una forma de libertad de expresión, lo que podría limitar la capacidad de las víctimas para tomar medidas legales. En general, se necesitan leyes y regulaciones claras para abordar este problema.

Podemos hablar también de la vertiente ética. En primer lugar, las deep fakes pueden ser utilizadas para difundir información falsa y engañar a la opinión pública, lo que plantea preocupaciones éticas sobre la integridad y la honestidad.

Además, como hemos subrayado, este tecnología también puede emplearse para acosar y difamar a personas, lo que plantea preocupaciones éticas sobre la privacidad y la dignidad humana, más allá de las repercusiones jurídicas.

También existen problemas legales referentes a la propiedad intelectual de las imágenes.

‍

Futuro de la tecnología deep fake

En conclusión, las deep fakes son una tecnología preocupante que plantea muchos riesgos y desafíos. Es importante que las personas sean conscientes de los peligros de las deep fakes y trabajen juntas para prevenir su mal uso.

En el futuro, es probable que la tecnología deep fake siga avanzando y evolucionando. Ante esta perspectiva, es importante que las personas sigan siendo conscientes y vigilantes en su uso.

Si quieres saber más o necesitas mayor información sobre las deep fakes, sus consecuencias y cómo proteger tu empresa, puedes consultar la página web del Incibe, el Instituto Nacional de Ciberseguridad. Te aportamos el enlace: https://www.incibe.es/aprendeciberseguridad/deepfakes