Google ha puesto en marcha nuevas medidas orientadas a proteger a sus usuarios y usuarias víctimas de deepfakes explícitos. Esta se trata de una práctica abusiva que se basa en editar o generar un contenido de imagen, vídeo o incluso audio en el que se pone a una persona en un contexto falso y, generalmente, perjudicial.
Con el desarrollo de la IA generativa, los deepfakes han ido en aumento, ya que esta tecnología facilita su creación, y su propagación por Internet se ha convertido en un problema muy serio. Ante esto, Google ha activado una serie de acciones para limitar la visibilidad del contenido deepfake explícito (como desnudos, por ejemplo), además de facilitar los procesos de eliminación de este contenido en la Búsqueda.
El gigante tecnológico ha desarrollado estas medidas contando con la colaboración de expertos y también de víctimas de deepfakes.
Google ya contaba con un procedimiento mediante el cual solicitar la eliminación de imágenes explícitas falsas, pero ahora ha aplicado una serie de mejoras que facilitarán este proceso.
Además, ahora, cuando una solicitud sea tramitada con éxito, los sistemas de Google también intentarán filtrar todos los resultados explícitos de búsquedas similares sobre la persona solicitante. Por otra parte, estos sistemas también buscarán y eliminarán los duplicados de la imagen deepfake denunciada.
Estas medidas ya han sido probadas con otros tipos de denuncias de imágenes no consentidas y han demostrado su efectividad.
Google siempre ha puesto sus esfuerzos en lanzar actualizaciones que mejoren sus sistemas de clasificación, de modo que la Búsqueda ofrezca contenidos relevantes y de calidad. Ahora, la tecnológica está dirigiendo estos esfuerzos a refinar los sistemas de clasificación para las consultas con más riesgo de arrojar contenido deepfake explícito como resultado.
Por ejemplo, para aquellas consultas en las que se busca específicamente este contenido incluyendo el nombre de la persona, Google trata de mostrar resultados no explícitos y de alta calidad (como artículos o noticias relevantes) cuando estos existen. De acuerdo con los datos arrojados por la tecnológica, las actualizaciones que han llevado a cabo este año, «han reducido la exposición a resultados de imágenes explícitas en este tipo de consultas en más del 70%. Con estos cambios, las personas pueden leer sobre el impacto que tienen los deepfakes en la sociedad, en lugar de ver páginas con imágenes falsas reales no consensuadas».
Por otra parte, también se están implementando mejoras para lograr diferenciar entre contenido explícito real y consensuado (una escena de desnudo de un actor) y contenido falso explícito (un deepfake de ese actor). De este modo, se pretende lograr bajar la clasificación en el buscador del contenido falso explícito.
Así mismo, si Google detecta que un sitio acumula muchas denuncias o que se han eliminado muchas de sus páginas o contenidos por estos motivos, lo identificará como un sitio de baja calidad y bajará la clasificación de otras de sus páginas. Este es un enfoque que ha funcionado bien con otros tipos de contenido dañino, por lo que se espera que de buenos resultados.
Foto: Depositphotos
No se han encontrado artículos relacionados.
Your email address will not be published. Required fields are marked *
Δ