Hace días Nati Jota denunció que estaban usando un video falso creado con IA donde intentaban estafar a desprevenidos en Instagram. No fue la única. Algunos de los casos que más resonaron.
30 de julio 2024, 08:28hs
La inteligencia artificial llegó para romper con la tecnología como la conocemos en la actualidad y cambiar el mundo… O eso es lo que dicen algunos de los popes de Silicon Valley con Sam Altman, creador de OpenAI, Mark Zuckerberg, la cabeza de Meta, o Elon Musk, de X, Tesla y SpaceX entre muchísimos otros.
El tema es que si bien la inteligencia artificial ya está impulsando muchos avances en campos como la medicina, la educación, las finanzas, el desarrollo de software y una lista que podría seguir durante párrafos, también está siendo aprovechada para hacer el mal. Y uno de los campos donde más están metiéndose los criminales es en el de la suplantación de identidad de famosos.
El caso de Nati Jota
Hace solo días, por ejemplo, se conoció el caso de Nati Jota, conductora de Sería Increíble en el canal de streaming Olga. A través de un video en su cuenta de Instagram, la periodista denunció que estaban usando su cara y su voz para estafar a los usuarios. Incluso denunció el video, pero explicó que “para Instagram está todo ok”. “Encima se ve que están pagando publicidad porque le está llegando a un montón de gente”, agregó. Y cerró con un “qué miedo la inteligencia artificial”.
En el video se puede ver a Nati hablándole a la cámara, pero hay algo raro. La voz está levemente distorsionada mientras que los movimientos de la boca son extraños. Estos detalles son comunes en videos donde se suplanta la personalidad de otra persona. Se debe al entrenamiento que hicieron los delincuentes. Mientras más se entrenan estos modelos de inteligencia artificial mejores resultados tendremos, pero también se tratan de procesos más costosos y largos.
El avance de la IA
Pero si bien estos métodos hace un tiempo eran utilizados solo por personas con grandes habilidades tecnológicas, con el avance de la inteligencia artificial todo se está haciendo más simple y barato. Esto, como es de esperarse, hizo que los ataques de suplantación de identidad usando inteligencia artificial sean cada vez más comunes.
Así es como, en los últimos tiempos, vimos que usaron la imagen de políticos, actores, músicos, influencers y todo tipo de personas públicas para intentar estafar a los más desprevenidos, publicitar productos sin pagarles regalías o desinformar.
Deep Fake de Tom Hanks
Hace algunos meses clonaron la imagen y la voz de Tom Hanks para promocionar un seguro en Instagram sin pagarle un centavo.
Scarlett Johansson
Scarlet Johansson tiene varioas frentes legales con las tecnológicas. Un desarrollador de aplicaciones de IA, usó su imagen y voz sin consentimiento en un anuncio que promocionaba a un editor de imágenes llamado Lisa AI. En la publicidad de 22 segundos la gemela digital de Johansson decía: “Soy Scarlett y quiero que vengan conmigo”. Al pie del video aparece la letra chica: “Imágenes producidas con IA. No tiene nada que ver con esta persona”.
Más tarde sucedió algo que no tuvo que ver con estafas o el intento de cometer un crimen, pero sí estuvo en todos los titulares por la pequeña batalla que luchó contra OpenAI. El tema fue que Sam Altman quiso contratar a la actriz para usar su voz en ChatGPT. Ella dijo que no. Hasta ahí, todo bien. El problema fue cuando, tiempo después, OpenAI presentó un asistente con una voz que era… demasiado parecida a la de Scarlett.
Ante la amenaza de demanda, OpenAI retiró la voz de su chatbot.
Deep Tom Cruise
Un caso muy reconocido que no tiene intención de estafar a las personas ni cometer ningún tipo de crimen sino que permite entender lo bien que funcionan estos algoritmos es Deep Tom Cruise, una cuenta de TikTok que está verificada y con más de 5 millones de seguidores.
El gemelo digital de Arnold
Deep Tom Cruise es un usuario que sube decenas de videos con el rostro de Tom Cruise, Arnold Schwarzenegger y otras estrellas de Hollywood haciendo actividades cotidianas o en papeles que no son los suyos.
El video de Volodymyr Zelensky
Y hay casos que tienen una clara intención –y es de lo que más se está viendo en épocas de elecciones–: desinformar. Uno de los más resonantes que se dio en el marco de la guerra entre Ucrania y Rusia fue un video donde el presidente ucraniano, Volodymyr Zelensky, le decía a las fuerzas armadas de su país que se rindieran.
El video, que fue publicado como real por medios incluso uncranianos, era completamente falso.
Taylor Swift y compañía
Taylor Swift también atravesó un mal momento: usaron inteligencia artificial para crear deepfakes pornográficos que, más tarde, se viralizaron a través Facebook, Instagram y, sobre todo, X.
Desde la red social dirigida por Elon Musk, para poder evitar que las imágenes fueran vistas por millones de usuarios, lo que hicieron fue bloquear todas las búsquedas relacionadas a la cantante temporalmente, pero para ese momento las imágenes falsas ya circulaban por toda la web.
No fue la única. Otras actrices, como Jenna Ortega, Emma Watson, Gal Gadot o Sabrina Carpenter, también atravesaron por esto.
