TikTok contra la IA: así funcionan las etiquetas automáticas para contenido sintético

La movida en la red social china se encuadra con funciones que agregaron otras plataformas, entre ellas las de Meta y Snapchat.

En línea con movidas en otros entornos de la escena digital, TikTok marcará el contenido creado con modelos de inteligencia artificial generativa. Con esto, procuran calmar algunas de las principales preocupaciones vinculadas al avance de esas tecnologías y su disponibilidad masiva: la desinformación, la difamación, posibles fraudes y la confusión que en muchos casos generan las imágenes, videos y audios sintéticos.

TikTok: la decisión de la red social china frente al contenido creado con IA generativa

Chatbots como ChatGPT y Gemini, generadores de imágenes como DALL-E y Midjourney, además de los sistemas para crear videos y audios con inteligencia artificial; han llevado la creatividad a un nuevo nivel, en el que las máquinas tienen un alto protagonismo. En ese marco, ¿somos capaces de distinguir el contenido creado por humanos de aquellos que son generados por IAs?

Leé también: ByteDance contraataca y demanda al gobierno de EEUU tras la aprobación de la ley anti-TikTok

TikTok propone una solución: etiquetas automáticas para la IA. ¿Qué ocurrirá, en la práctica? Por ejemplo, si un usuario publica en esa red social una fotografía creada con DALL-E, aparecerá un indicador que dirá “generado con IA”. Para cumplir con su propósito informativo, los usuarios no podrán ocultar ese cartelito.

Hasta ahora, la plataforma que gestiona ByteDance había agregado a sus reglas de uso un ítem que exige a los tiktokeros indicar manualmente si emplearon IA en algún elemento de su publicación. Además, permiten que terceros denuncien publicaciones sintéticas que no tienen la etiqueta.

Leé también: “¡Esto es inteligencia artificial!”: Snapchat quiere ser el buchón de las imágenes sintéticas

Con el cambio, se añade automatización al proceso que ya debía realizarse en forma manual. En este punto, cabe preguntarse cómo sabe TikTok si el usuario echó mano a alguna herramienta de IA. Al respecto, Xataka observa que la clave son las denominadas “Credenciales de Contenido” propuestas por la Coalition for Content Provenance and Authenticity. Tecnicismos aparte, básicamente son marcas que se insertan en los contenidos generados con muchas de las herramientas de IA generativa, entre ellas las de OpenAI.

¡Eso fue creado con inteligencia artificial! Más plataformas online delatan al contenido sintético

A comienzos de este año, Meta anunció que sumaría las Credenciales de Contenido en sus servicios, Facebook, Instagram y Threads. Recientemente, Snapchat informó que usará marcas de agua en las imágenes generadas con IA. En ese caso, la identificación es un pequeño fantasma, igual al logotipo de la red social.