Elon Musk, propietario y CEO de X, difundió en su cuenta de X un deepfake de la vicepresidenta Kamala Harris. Es una violación potencial de las políticas de la propia X sobre este tipo de contenido sintético.
Por qué es importante. Este incidente reaviva las preocupaciones sobre los deepfakes generados por IA y su potencial para difundir desinformación. Especialmente a medida en que se acercan las elecciones presidenciales de EEUU de 2024.
En perspectiva. Los deepfakes usan IA para crear audios o vídeos convincentes, aunque falsos, de personas reales. Representan una amenaza creciente para la confianza pública en la información, la propagación de bulos y la integridad electoral.
En Xataka hablamos de esto en 2018 a cuento de un deepfake de Barack Obama, anticipando que en el futuro sería más fácil y rápido hacerlos, y que sus consecuencias para la desinformación serían importantes.
Los detalles:
El vídeo sintético recrea la voz de Kamala Harris, pero poniendo palabras falsas en su boca.
En él, Harris dice que Biden está senil, que son marionetas de las profundidades del Estado y que su elección ha sido «por diversidad».
«Soy mujer y de color, así que si criticas algo de lo que digo, eres sexista y racista», añade el vídeo falso.
Fue publicado originalmente como una parodia, pero Musk lo compartió sin ningún tipo de advertencia adjunta. Solo dijo un ambiguo «Esto es increíble 😂».
Lleva más de 128 millones de reproducciones, y subiendo.
Las imágenes que usa son las del anuncio real de la campaña de Harris.
Entre líneas. La política de uso de X prohíbe compartir material manipulado que pueda engañar o confundir a las personas, y atribuye a quien lo difunde toda la responsabilidad.
La publicación de Musk encaja en esta prohibición, pero sigue sin ser eliminada ni etiquetada.
Más contexto.
Musk ha respaldado a Donald Trump para las elecciones de 2024.
X permite «memes y sátira» siempre y cuando no lleven a confusión.
La falsificación es lo bastante buena como para asumir que muchas personas lo tomarán como auténtico.
La cara B. Harris ha criticado en su campaña las «mentiras» y las «manipulaciones» de su rival Donald Trump, pero también de Elon Musk.
Ahora quedan las interrogantes sobre cómo se va a abordar el uso de IA para crear vídeos manipulados pero convincentes de forma masiva.
En resumen. A medida que las herramientas de IA son cada vez más rápidas, eficaces y accesibles, crece el potencial de las campañas de desinformación y de la interferencia electoral.
Antes o después habrá, presumiblemente, legislaciones mucho más severas contra la difusión de este tipo de material haciéndose pasar por real.
Imagen destacada | Xataka con Midjourney
–
La noticia
Elon Musk ha difundido un deepfake de Kamala Harris. El CEO de X ha violado las reglas de X
fue publicada originalmente en
Xataka
por
Javier Lacort
.
