Su hijo fue asesinado y ahora recrean su voz con IA para concientizar a los legisladores sobre el uso de armas

Los padres del adolescente asesinado en el 2018 encabezan una campaña que procura el desarme en Estados Unidos. Las grabaciones se envían a través de llamadas a legisladores.

15 de febrero 2024, 18:05hs

Antes, los padres de Joaquin habían colaborado en una iniciativa en la que se creó una deepfake de su hijo. (Video: WSJ – Foto: AP/Cortesía Tyra Hemans)

En el 2018, Joaquin Oliver fue asesinado en un tiroteo ocurrido en Parkland, Florida. El trágico hecho ocurrió cuando un exalumno de su escuela, Nikolas Cruz, abrió fuego en las inmediaciones de la institución Marjory Stoneman Douglas High School, de aquella ciudad.

Leé también: Europa quiere que la publicación de deepfakes pornográficas se penalice como un acto delictivo

Seis años más tarde, sus padres encabezan una “campaña audaz”, siguiendo la descripción de Engadget, con el ánimo de generar conciencia respecto a la tenencia irrestricta de armas. ¿Qué hicieron? Clonaron la voz de su hijo con inteligencia artificial y envían la grabación a legisladores en Estados Unidos.

Los padres de Joaquin Oliver usan IA para alertar sobre la tenencia de armas: “Bienvenidos a lo espeluznante”

Denominada “The Shotline”, la iniciativa de Manuel Oliver y su esposa Patricia consiste en la recreación de las voces de jóvenes asesinados en tiroteos, además de la de Joaquin, empleando técnicas de inteligencia artificial generativa. Luego se envían las grabaciones a través de llamadas automatizadas, a legisladores federales que se oponen a leyes más estrictas sobre armas, informa The Wall Street Journal.

“Regresé hoy porque mis padres usaron inteligencia artificial para recrear mi voz y llamarte”, dice la voz sintética Joaquín Oliver. “Otras víctimas, como yo también llamarán”, continúa la grabación. Las voces fueron recreadas con un sistema de la firma ElevenLabs, que con una muestra de pocos segundos de audio es capaz de elaborar discursos de mayor extensión, incluso en diversos idiomas, con las características y modulaciones de la persona. En el caso de Oliver, emplearon publicaciones suyas en redes sociales, naturalmente con el permiso de su familia.

Según dijo a la publicación estadounidense el padre de Joaquin, la tenencia irrestricta de armas y los tiroteos son un problema en Estados Unidos que no han tenido solución en muchos años. “Si necesitamos usar cosas espeluznantes para remediarlo, bienvenidos a lo espeluznante”, señaló.

Antes, en 2020, la familia Oliver había recreado con una deepfake a su hijo, en aquel caso en un video que mostró su rostro.

Amén de las intenciones, estos proyectos plantean cuestiones éticas sobre el uso de la IA. Con las evidentes diferencias de cada caso, la semana pasada, la Comisión Federal de Comunicaciones de Estados Unidos estableció que las llamadas automáticas realizadas con voces generadas por IA son ilegales. Esa determinación se tomó luego de que personas en aquel país reciban llamadas haciéndose pasar por el presidente Joe Biden, diciéndoles que no votaran en las elecciones primarias. Investigaciones posteriores descubrieron que se empleó el sistema de ElevenLabs para generar ese contenido.