YouTube, a la caza de voces sintéticas y rostros generados por IA

YouTube ha anunciado que esta desarrollando una “nueva tecnología de gestión de la imagen”, aprovechando las herramientas de IA para beneficiar a los creadores, al mismo tiempo que protege sus derechos y aumenta el control sobre su contenido. En su comunicado YouTube explica que está comprometido en desarrollar tecnologías que permitan a sus usuarios gestionar el uso de su imagen, voz y otros elementos, especialmente con la creciente presencia de la inteligencia artificial.

Nuevas tecnologías de gestión de la imagen

YouTube ha implementado dentro de Content ID una tecnología que identifica voces sintéticas generadas por IA, ayudando a los creadores a detectar y gestionar automáticamente estos contenidos. “Servirá para que nuestros socios detecten y gestionen automáticamente contenidos presentes en YouTube generados mediante IA y que simulen la voz con la que canta un determinado artista”.

Además, la plataforma está trabajando en tecnologías para identificar rostros generados por IA, permitiendo a youtubers, actores, músicos y otros profesionales proteger sus imágenes.

“Content ID proporciona un control a los titulares de derechos sobre la totalidad de sus catálogos en YouTube. A la vez que se procesan al año miles de millones de reclamaciones, se generan miles de millones de euros de ingresos para los artistas y creadores, derivados de la reutilización de su trabajo. Ahora, hemos asumido el compromiso de proporcionar el mismo nivel de protección y empoderamiento en la era de la IA”, explica la red social.

IA y las Normas de la comunidad

Las herramientas de IA generativa de YouTube, como Dream Screen, que permite crear fondos virtuales para Shorts, permiten a los creadores explorar nuevas formas de expresión. Sin embargo, YouTube destaca que estos contenidos, como todos los demás en la plataforma, deben cumplir con las Normas de la comunidad. Para ello, se han incorporado salvaguardas en las herramientas de IA, que bloquean ciertos prompts o usos inadecuados. Esto busca promover la creatividad responsable, garantizando que los contenidos generados mediante IA respeten las políticas de la plataforma.

Proteger contenidos y nuevas opciones para creadores

YouTube también advierte sobre los riesgos de accesos no autorizados a sus contenidos a través de scraping, una técnica que puede ser empleada para utilizar los contenidos presentes en la plataforma para entrenar a modelos de IA. La plataforma ha reforzado sus medidas de seguridad aunque reconoce que los creadores necesitan mayor control sobre el uso de sus contenidos por parte de terceros para el desarrollo de herramientas de IA. Por eso, están explorando nuevas vías para que los creadores puedan decidir cómo se utilizan sus contenidos.

Imagen: Flux Schnell