5 usos inesperados (e indebidos) de la IA que generan polémica

A pesar de las grandes virtudes de la IA, esta tecnología también se usa para viralizar bulos, hacer estafas y generar contenido inapropiado.
5 de abril, de 2023
Copiar enlace

La portada del diario El Mundo del pasado martes 4 de abril generó revuelo en el mundo periodístico y disparó la gran pregunta: Con la inteligencia artificial, ¿será posible distinguir la mentira de la realidad?. Ese planteo también nos lleva a repensar el uso de esta nueva tecnología que irrumpió con fuerza en el mundo online. Si bien existen multitud de usos productivos, también aparecen nuevos peligros por el uso malicioso de su increíble precisión, desde la generación de trabajos académicos hasta la suplantación de identidad y el contenido pornográfico.

Una portada hecha con IA para advertir sobre sus riesgos

Si aún no has visto la tapa de El Mundo a la que hacemos referencia, se trata de la imagen de Pablo Iglesias, ex líder de Podemos, y Yolanda Díaz, vicepresidenta segunda, ministra de Trabajo y líder de Sumar, en una foto donde se los ve abrazados por la espalda. La falsa foto fue creada por el grupo United Unknown -un grupo de editores de vídeos que se han dedicado en los últimos años a la sátira política-, utilizando diversas herramientas de IA como DALL·E 2, Midjourney y Stable Diffusion.

La imagen de Pablo Iglesias y Yolanda Díaz en la portada del diario El Mundo

El objetivo de la portada fue llamar la atención del público para que leyera un reportaje del periodista Rodrigo Terrasa en el que se habla de los riesgos de la IA. Pero el impacto fue mayor de lo esperado y la estrategia dio vueltas por toda la televisión española. Y es que los distintos usos de la IA en los últimos meses encendieron las alarmas entre los expertos de la tecnología, las entidades educativas y medios de comunicación.

5 ejemplos de malos usos de la IA

La IA es una herramienta muy poderosa que tiene el potencial de transformar muchos aspectos de la sociedad. Sin embargo, como ocurre con cualquier tecnología, también existe el riesgo de que se utilice de manera inapropiada o malintencionada. A continuación, recopilamos 5 ejemplos de usos mailciosos de la inteligencia artificial:

1. Los alumnos de escuelas y universidades delegan las tareas en el Chat GPT

La preocupación en el sector educativo no pasa desapercibida. Los docentes se sienten alarmados por el uso que le dan los estudiantes a la IA, delegándoles la elaboración de trabajos académicos como ensayos o proyectos. Si bien la IA puede ser una herramienta útil para la investigación y el análisis de datos, su uso indebido podría ser considerado como plagio o fraude académico.

Un ejemplo de esto es el caso expuesto por el medio Motherboard, en el que un estudiante de bioquímica que se identifica como @innovate_rye en Reddit, explicó que algunas herramientas de IA son útiles para hacer tareas sencillas que requieran respuestas extensas. A su vez, contó que utilizó una IA para llevar a cabo una asignación de la universidad en la que le pedían nombrar 5 cosas buenas y malas de la biotecnología.

«Yo le enviaba a la IA una pregunta del tipo ‘¿cuáles son las cinco cosas buenas y malas de la biotecnología?’ y ella generaba una respuesta que me daba un sobresaliente. Sigo haciendo mis deberes en las cosas que necesito aprender para aprobar, solo uso la IA para que se encargue de las cosas que no quiero hacer o que me parecen insignificantes», expuso el estudiante.

La única solución, por los momentos que han encontrado las instituciones educativas es regular el uso de las IA a los alumnos. Algunos colegios y universidades en todo el mundo, incluyendo Estados Unidos, Australia, India, Francia y España, han prohibido ChatGPT al considerar ilegítimo su uso por parte de los estudiantes.

En Nueva York se prohibió el uso de ChatGPT en todas las escuelas públicas. Por otro lado, el medio de comunicación The Guardian, expuso que las ocho principales universidades australianas, asociadas en el denominado Group of Eight (Grupo de las Ocho), se han visto obligadas a modificar sus métodos de evaluación para evitar que sus estudiantes utilicen la IA para obtener calificaciones sobresalientes.

2. Imágenes falsas de políticos y famosos para inventar noticias 

Uno de los casos más famosos fue (y sigue siendo) las imágenes manipuladas del Papa Francisco con diversos atuendos modernos. La más popular fue una en la que se le veía utilizando un abrigo de estilo Balenciaga, que dio varias vueltas por las redes antes de que se descubriera que la obra era fruto de una IA.

También se hicieron famosas las imágenes del presidente de Francia, Emmanuel Macron en medio de una manifestación, y al ex presidente estadounidense Donald Trump siendo arrestado, ambas situaciones que nunca han sucedido. 

El Papa, Emmanuel Macron y Donald Trump, protagonistas de imágenes creadas con IA. Fuente: RTV.es

Incluso la herramienta de IA Midjourney decidió suspender su versión gratuita a partir de la proliferación de estas imágenes.

También, redes sociales como Instagram y TikTok comenzarán a señalar cuáles de los contenidos que se postean son generados por IA, justamente para evitar que un escenario falso puedo ser pasado como uno verdadero.

3. Deepfakes para realizar contenido pornográfico

El deepfakes es una técnica abase de IA en la que por medio de algoritmos crea contenido falso como videos que parecen mostrar a personas reales diciendo o haciendo cosas que nunca dijeron o hicieron en realidad. Esto se logra mediante la superposición de la cara de una persona en un video existente, que puede ser de una persona diferente o de un evento que nunca sucedió.

Pese a que el deepfakes puede aplicarse de manera positiva (por ejemplo, en la producción de contenido audiovisual destinado al entretenimiento o la creación de modelos digitales para la industria del cine), también puede ser utilizada para propagar información errónea o engañar a las personas de manera deliberada. Por ejemplo, crear contenido pornográfico de figuras públicas.

Esta práctica ya ha afectado a personalidades como Scarlett Johansson, Emma Watson, Taylor Swift, Gal Gadot y Maisie Williams. También se dieron a conocer casos de algunos creadores de contenido como Sweet Anita, la streamer de Reino Unido con más de 1,9 millones de seguidores en Twitch, que fue víctima de que utilizaran la imagen de su rostro para crear contenido pornográfico que es ofertado en la red.

Falsa imagen de la actriz Scarlett Johansson con IA

4. Suplantación de identidad para robos y fraudes

La IA también ha abierto las posibilidades a que algunas personas cometan suplantación de identidades. Con la tecnología de deepfakes que mencionamos anteriormente se puede llegar a suplantar identidades debido al gran detalle que se logra al momento de generar imágenes. Los delincuentes pueden utilizar deepfakes para crear perfiles falsos en las redes sociales, hacer phishing o realizar ataques cibernéticos.

Un caso real sobre este riesgo es el de una compañía británica que recibió una llamada de quien era supuestamente el CEO de la empresa ordenando transferir casi 240.000 dólares (220.000 euros) a un banco húngaro. La llamada fue creíble debido a que la voz era idéntica al CEO, algo que se logró por medio de un análisis de horas hechas por una IA, que se dedico a estudiar a detalles grabaciones de voz de la persona para poder replicarla perfectamente.

Los rasgos físicos también pueden recrearse. Según una investigación hecha por la Escuela de Informática Blavatnik y la Escuela de Ingeniería Eléctrica, apenas unas 9 caras generadas por IA observando los patrones más comunes de amplios bancos de imágenes bastan para suplantar la identidad de entre el 42% y el 64% de la gente. «La autenticación basada en el rostro es extremadamente vulnerable, incluso si no hay información sobre la identidad del objetivo», señala el informe.

5. Creación de contenido inapropiado

Finalmente, uno de los usos más nocivos de la IA es la producción de contenido inapropiado como imágenes y videos que contienen violencia, pornografía o que transgreden la ley, algo que puede causar serios daños psicológico a los usuarios o emplearse para el acoso y la extorsión en línea.

Un ejemplo de cómo la IA está siendo utilizada para generar estos contenidos es Unstable Diffusion, un canal de Discord que utiliza IA y de la que varios usuarios se valen para generar pornografía, con la ayuda de bots entrenados y con cientos de miles de imágenes. Curiosamente, la herramienta fue creada originalmente para generar imágenes artísticas, pero pronto su uso se desvirtuó.

Actualmente, Unstable Diffusion se divide en varios canales, cada uno de ellos destinado a una preferencia o fetiche sexual distinto. Algunos son dirigidos solo a hombres, otros solo a mujeres, personas trans, etc. Sin embargo, algunos pueden llega a ser muy inusuales y hasta perturbadores, como sexo no humano, escenarios de terror, etc.

Otro caso que despertó polémicas due el de Lensa, una aplicación que se hizo viral por la generación avatares en base a fotografías. Generalmente, cuando las imágenes corresponden a hombres, los resultados arrojan guerreros, héroes o políticos; pero cuando son mujeres hay un claro sesgo hacia crear avatares de modelos desnudas. Melissa Heikkilä, periodista especializada en IA de Technology Review, contabilizó el fenómeno ocurrido con Lensa y determinó que de 100 avatares generados con su rostro, 16 eran desnudos y 14 tenían ropa estrecha y sugerente.

Imágenes creadas por Lensa

Por otro lado, un estudio realizado por la Universidad Johns Hopkins y el Instituto de Tecnología de Georgia, demostró que un sistema de IA puede desarrollar sesgos racistas y sexistas. Esto quedó evidenciado luego de que los científicos le aportaran imágenes de diferentes personas a unos robots con IA y les pidieran identificarlos según los términos que les daban. Cuando se les pidió señalar a un criminal seleccionaron a una persona negra, y en el caso de la mujer fue seleccionada cuando colocaron el término ama de casa.

¿Conoces algún otro caso de mal uso de la IA? Te leemos 👇

Foto: Depositphotos

 

Otros artículos de

Publicado por

Redactora de Marketing4eCommerce
Periodista digital, amante del copywriting, las redes sociales y de una buena taza de café para empezar a teclear. Soy licenciada en Comunicación Social en mención impreso (2021), pero he ganado experiencia detrás de los teclados desde 2018.

Suscríbete a M4C

Únete a nuestro canal de Whatsapp

¡Todo lo que necesitas saber!

Apúntate a nuestra newsletter y recibe gratis en tu correo nuestros mejores artículos sobre eCommerce y marketing digital.