TikTok etiquetará contenido generado por Inteligencia Artificial desde OpenAI y otros lugares

TikTok planea comenzar a etiquetar imágenes y videos subidos a su servicio para compartir videos que hayan sido generados usando inteligencia artificial, dijo el jueves, usando una marca de agua digital conocida como Credenciales de Contenido.

Los investigadores han expresado su preocupación de que el contenido generado por IA pueda usarse para interferir con las elecciones estadounidenses de este otoño, y TikTok ya estaba entre un grupo de 20 empresas de tecnología que a principios de este año firmaron un acuerdo comprometiéndose a combatirlo.

La compañía ya etiqueta el contenido generado por IA creado con herramientas dentro de la aplicación, pero la última medida aplicaría una etiqueta a los videos e imágenes generados fuera del servicio.

«También tenemos políticas que prohíben la IA realista que no esté etiquetada, por lo que si aparece IA (contenidos generados) realista en la plataforma, la eliminaremos por violar nuestras pautas comunitarias», Adam Presser, jefe de operaciones y confianza y seguridad de TikTok, dijo en una entrevista.

La tecnología Content Credentials fue encabezada por la Coalition for Content Provenance and Authenticity, un grupo cofundado por Adobe, Microsoft y otros, pero está abierto para que lo utilicen otras empresas.

Ya ha sido adoptado por empresas como OpenAI, el creador de ChatGPT.

YouTube, propiedad de Alphabet Google y MetaPlataformas, propietaria de Instagram y Facebook, también han dicho que planean utilizar credenciales de contenido.

Para que el sistema funcione, tanto el creador de la herramienta de IA generativa utilizada para crear contenido como la plataforma utilizada para distribuir los contenidos deben aceptar utilizar el estándar de la industria.

Cuando una persona usa la herramienta Dall-E de OpenAI para generar una imagen, por ejemplo, OpenAI adjunta una marca de agua a la imagen resultante y agrega datos al archivo que luego pueden indicar si ha sido manipulado.

Si esa imagen marcada se carga en TikTok, se etiquetará automáticamente como generada por IA.

TikTok, propiedad de ByteDance de China, tiene 170 millones de usuarios en Estados Unidos, que recientemente aprobó una ley que exige que ByteDance se deshaga de TikTok o se enfrente a una prohibición. TikTok y ByteDance han presentado una demanda para bloquear la ley , argumentando que viola la Primera Enmienda.

Fuente: reuters

Artículos Relacionados:

Adobe explora la asociación OpenAI mientras agrega herramientas de video de Inteligencia Artificial ¿Cómo regula China el uso de la Inteligencia Artificial generativa, frenando el «robo de rostros»? OpenAI dice que las herramientas de IA pueden ser efectivas en la moderación de contenido TikTok lanzará un producto publicitario que otorgará a los creadores de contenido premium un 50 % de descuento El uso de la Inteligencia Artificial en la red social TikTok. ¿Qué es Tiktok y cómo funciona esto en las redes sociales?