YouTube etiquetará el contenido que haya sido creado por medio de IA

Para ello, la plataforma ha añadido una nueva herramienta en Creator Studio que permitirá añadir la aclaración a los creadores de contenido.
19 de marzo, de 2024
Copiar enlace

YouTube anunció una nueva medida para promover la transparencia en su plataforma, específicamente en relación con el contenido generado por inteligencia artificial (IA). Con el creciente uso de la IA generativa en la creación de contenido, la plataforma de vídeos busca que los usuarios puedan reconocer si el material que están consumiendo es real o no.

Para ello, la plataforma ha añadido una nueva herramienta en Creator Studio que requiere que los creadores revelen a los espectadores cuando el contenido realista (contenido que un espectador podría confundir fácilmente con una persona, lugar o evento real) se crea con medios alterados o sintéticos, incluida la IA generativa. Estas aclaraciones aparecerán como etiquetas en la descripción ampliada o en el frente del reproductor de video.

Nueva herramienta en YouTube para etiquetar contenido generado con IA
La nueva herramienta en Creator Studio te permitirá etiquetar el contenido generado con IA. Fuente YouTube.

Casos en los que se deberá aclarar que el contenido se hizo con IA

En su blog oficial, la plataforma aclara que no se le exigirá a los creadores que revelen el uso de IA generativa para tareas de productividad, como la generación de guiones o subtítulos automáticos, ni cuando los medios sintéticos no sean realistas o los cambios sean intrascendentes, como ajustes de color o filtros de iluminación. En ese sentido, algunos ejemplos de contenido que requerirían aclaración incluyen:

  • Usar la imagen de una persona realista: alterar digitalmente el contenido para reemplazar el rostro de un individuo por el de otro o generar sintéticamente la voz de una persona para narrar un vídeo.
  • Alterar imágenes de eventos o lugares reales: como hacer que parezca como si un edificio real se incendiara o alterara un paisaje urbano real para que parezca diferente de la realidad.
  • Generar escenas realistas: mostrar una representación realista de eventos ficticios importantes, como un tornado que avanza hacia una ciudad real.
Ejemplo de etiqueta en el reproductor de vídeo. Fuente: YouTube.

Cómo y cuándo se verán estos cambios

Según explican desde la empresa, a partir de este cambio en los vídeos aparecerá una etiqueta en la descripción ampliada y, para los videos que abordan temas más delicados (como salud, noticias, elecciones o finanzas), también se mostrará una etiqueta más destacada en el vídeo en sí.

Ejemplo de etiqueta en la descripción ampliada. Fuente: YouTube.

 

Esta medida se implementará en todas las superficies y formatos de YouTube en las próximas semanas, comenzando con la app, luego en la PC y finalmente en la TV. Y se aclara que «si bien queremos darle tiempo a nuestra comunidad para adaptarse al nuevo proceso y características, en el futuro analizaremos medidas de cumplimiento para los creadores que constantemente eligen no revelar esta información».

Además, YouTube también está trabajando en un proceso de privacidad actualizado para permitir que las personas soliciten la eliminación de contenido generado por IA u otro contenido sintético o alterado que simule a un individuo identificable, como su rostro o su voz.

La preocupación por el uso de la IA

Si bien la IA promete revolucionar numerosos aspectos de nuestra vida cotidiana, desde la atención médica hasta la gestión del tráfico, también ha generado una serie de preocupaciones debido a su potencial para ser utilizada de manera maliciosa o perjudicial.

Uno de los puntos más críticos en este debate es la creación y propagación de deep fakes, una técnica de IA que permite la manipulación de imágenes y vídeos para crear representaciones falsas y convincentes de personas reales. Estos vídeos, que a menudo se distribuyen en línea, pueden suplantar la voz y la apariencia de figuras públicas para difundir información errónea, propaganda política o incluso perpetrar estafas y extorsiones.

El temor a los deep fakes ha suscitado preocupaciones sobre la confianza en los medios digitales y la capacidad de discernir entre la realidad y la ficción en un entorno cada vez más saturado de información manipulada. Además, la IA también ha sido empleada en la producción de contenido inapropiado, como imágenes y vídeos pornográficos generados artificialmente, lo que plantea serios riesgos de explotación y daño psicológico, especialmente para los menores de edad.

Un ejemplo de esto es cuando el año pasado se difundieron imágenes del Papa Francisco utilizando atuendos de moda. También se vio al presidente de Francia, Emmanuel Macron, participando en unas protestas. Incluso, surgieron imágenes de Donald Trump siendo arrestado. Ninguno de estos escenarios ocurrió.

Estos fenómenos han llevado a un llamado generalizado a la acción, tanto por parte de los gobiernos como de las empresas tecnológicas y la sociedad civil, para abordar los desafíos éticos y de seguridad planteados por la IA. La necesidad de regular y supervisar el desarrollo y el uso de la IA se ha vuelto cada vez más urgente.

Foto: YouTube.

 

Publicado por

Redactora de Marketing4eCommerce
Periodista digital, amante del copywriting, las redes sociales y de una buena taza de café para empezar a teclear. Soy licenciada en Comunicación Social en mención impreso (2021), pero he ganado experiencia detrás de los teclados desde 2018.

Suscríbete a M4C

Únete a nuestro canal de Whatsapp

¡Todo lo que necesitas saber!

Apúntate a nuestra newsletter y recibe gratis en tu correo nuestros mejores artículos sobre eCommerce y marketing digital.