20/6/19

¡DeepFakes, tan falsos como tu ex pero te engañan igual de bien!

Últimamente han circulado muchas noticias que nos alertan de los peligros de los videos  llamados "DeepFakes", ultrafalso sería una aproximación al español, su nombre deriva de deep en alusión a deep learning (aprendizaje profundo, que es la principal corriente de desarrollo de la inteligencia artificial.) y fake (falso) como las fakenews de Trump 😜

En palabras sencillas se trata de crear vídeos falsos, de una apariencia preocupantemente realista, de esta forma se busca que personas digan o  hagan cosas que realmente no hicieron. Si quieren un dato más técnico, el Deepfake es una técnica que a través de de inteligencia artificial sintetiza  la imagen humana combinándola y superponiéndola en imágenes creadas con computadoras; para ello se auxilia de algoritmos de aprendizaje no supervisados (en español se les llama RGAs, Red Generativa Antagónica) y vídeos o imágenes ya existentes.

Aquí vemos a Mark Zuckerberg, creador de Facebook admitiendo las oscuras intenciones de la red social:
(Fuente: Instagram)

Obviamente los abogados de Mark no iban a permitir que dijera que:  “...me gustaría decirles que nuestra misión en la vida es conectar a la persona, pero no es así; nosotros sólo queremos predecir tu comportamiento futuro; Spectre me enseño como manipularte para que compartas información tuya y de tus seres queridos gratis,  entre más te expresas, más somos dueños de tí…”; sin embargo este video nos da una idea del potencial de esta tecnología.

Los estudios en este campo comenzaron desde 1997; pero fue a finales de 2017 que los deepfakes cobraron mayor notoriedad, particularmente cuando un usuario anónimo de la red social Reddit subió vídeos de celebridades como Scarlett Johansson donde sus rostros se veían subrepuestos en actores de películas pornográficas... y no, no tenemos links a esos vídeos 🤷. Actualmente hay programas como FakeApp y otros similares que nos permiten experimentar con esta tecnología.

¿Recuerdan la película Star Wars: Rogue One?, cerca del final aparece una joven princesa Leia, pues bien la actriz era una mujer noruega de nombre Ingvild Deila, pero el rostro se generó con las mismas técnicas de los deepfakes usando datos de Carrie Fisher de cuando era joven.


Si bien antes se necesitaban datos de vídeos para generar deepfakes, actualmente basta una sola imagen para poder generar estos videos falsos.
(Fuente: YouTube)

En este caso la Inteligencia Artificial “aprendió” movimientos faciales de sets de imágenes de tres personas, que permitieron crear tres diferentes animaciones, si bien cada uno de los tres clips podían reconocerse como la Mona Lisa, variaciones en el entrenamiento de la AI (Artificial Intelligence) permitieron dotar de diferente personalidad al comportamiento de los retratos vivientes.

Como podrás entender los deepfakes representan una tecnología con muchos potenciales usos creativos y tecnológicos positivos; sin embargo también un gran riesgo de generar desinformación, afectar la reputación de personas, generar pánico masivo, potencializar discursos de odio y demás situaciones que ya de por sí son un problema en redes sociales y la sociedad en general.

¿Cómo podemos identificar un deepfake?

Sí bien existen programas que igualmente usan Inteligencia Artificial para identificar potenciales deepfakes, esta tecnología no está aún al alcance de todas las personas y requiere mucho tiempo y datos para funcionar, así que de momento:

1) Primeramente tenemos algo llamado sentido común, que es paradójicamente el menos común de los sentidos que se expresan en redes sociales 😄, ¿tiene sentido lo que dice una persona en vídeo acorde lo que sabemos de ella?, si por ejemplo vemos un vídeo de un cantante muerto diciendo que va a dar un concierto mañana ¿tendría sentido?, ¿sí vemos un vídeo de un político diciendo exactamente lo que sus adversarios esperan que diga para minar su carrera, tendría sentido que sucediera? 🤔

2) Observa los rostros, como la tecnología dista de ser perfecta, podrás notar que lucen raras algunas expresiones, un gesto poco natural puede ser indicio de un deepfake, por otra parte ¿el sonido de la voz se ajusta bien al movimiento de los labios?

3) Los deepfakes de momento sólo se centran en rostros, así que observa la consonancia entre cara y lenguaje corporal, sí hay incongruencias ahí podrás darte cuenta que un vídeo es falso.

4) Analiza sí el cuerpo de la persona corresponde con la cara, quizá se ve musculoso o delgado el cuerpo pero el rostro se ve obeso, tal vez los tonos de piel no corresponden, eso te puede dar también indicios de falsedad.

5) Los deepfakes creados tienen una duración corta, así que esa es una pista útil, sí dudas de un vídeo busca una versión más larga para corroborar así su veracidad.

6) Otra forma de comprobar la autenticidad de un vídeo es localizar una toma de un ángulo diferente, usualmente cuando alguien popular hace una declaración existen tomas desde diferentes ángulos.
(Muchos ángulos pueden confirmar que algo sucedió como nos dicen que sucedió)

7) Verifica la fuente, digo, no es lo mismo las “noticias" de portales de dudosa procedencia que de fuentes serias, no es lo mismo argumentopolitico.com/ que aristeguinoticias.com no es lo mismo CNN que el pulso de la república pues.

8) Analiza el contexto; ¿que se ve alrededor del vídeo?, ¿hay algún elemento que apoye el vídeo?, imagina que se ve de fondo un letrero que dice: "Convención de Biotecnología Guanajuato 2016" y se ve a Carmen Salinas hablando de que la guerra y la paz es Leon Tolstoi ha influido en su más reciente papel en la telenovela que está actualmente al aire... ¿notas las discrepancias?

9) Reproduce el vídeo a baja velocidad, así podrás detectar con facilidad sí un vídeo está editado, elementos que "brincan", cosas que aparecen y desaparecen, detalles así podrán ayudarte a confirmar la veracidad de un vídeo.

10) Mira el interior de la boca, los actuales métodos para hacer deepfakes no son tan detallistas con el interior de las bocas, los programas tienden a ajustar detalles como dientes, lengua o coloración del interior de la boca, incluso algunos crean pequeñas zonas borrosas.

11) Parpadeos, los parpadeos de las personas tienden a ser constantes; observa la frecuencia de parpadeo, sí es irregular, la persona podría estar nerviosa, mintiendo o de plano ser un vídeo falso, recuerda como dicen por ahí: "el diablo está en los detalles".

Y aunque Twitter,  Youtube y otras empresas han comenzado a tomar medidas al respecto, por favor, por favor, se muy mesurado antes de compartir vídeos en redes sociales de ahora en adelante, se viene una ola de vídeos falsos con intenciones poco nobles, como alterar resultados electorales o afectar la reputación de personajes o instituciones.
Yo aquí esperando me hagan caso de no compartir cosas sin pensar en redes sociales...
(Praying skeleton. Ink and watercolour, 1830/1835?, after W. Cheselden, ca. 1733;  Fuente: Europeana)

En fin, te dejamos con Obama cantando para dejar un toque dulce en este tema tan delicado.
(Autores: Xin Yang,Yuezun Li y Siwei Lyu)

¡Hasta la próxima!


================================

Para saber más:





Entrada destacada

¡Elefante salva a cría de león!... o algo así

Probablemente en internet has visto una publicación como esta: (Ya sólo faltó la música de hakuna matata) Pues si bien es un...

Entradas populares