Tiempo de lectura: 3 minutos
Shares

Parece ser que ahora tampoco nos vamos a poder ni fiar de las valoraciones de productos que nos encontramos en tiendas de productos y servicios online. Ya que investigadores de la Universidad de Chicago han conseguido desarrollar, gracias a la inteligencia artificial (IA), un software que hace posible escribir de forma automática reviews falsas que resultan extremadamente creíbles.

En concreto, esta nueva aplicación de la tecnología supone una amenaza importante para sitios online como Amazon o Yelp, donde las valoraciones de los usuarios tienen un peso crucial y una proliferación de reseñas falsas podría afectar a su credibilidad.

Inteligencia artificial capaz de opinar como si fuese una persona real

El estudio ha sido llevado a cabo por un grupo de investigadores de la Universidad de Chicago y pretende demostrar cómo un algoritmo desarrollado con la IA y la técnica de Deep Learning (RNN o redes neuronales recurrentes) puede ser utilizado para crear reseñas falsas indetectables.

Después de preguntar a 600 internautas sobre varias reseñas online en Yelp, pudieron comprobar que los usuarios no solo no pensaban que las reviews falsas eran reales, sino que además llegaban a considerarlas útiles.

Y lo que es más preocupante, las reviews falsas generadas por el algoritmo tampoco fueron identificadas por programas especializados en la detección de plagios. Los investigadores destacan que esto demuestra que el algoritmo puede adquirir la capacidad de opinar como si fuese un cliente real e influir en los otros usuarios.

reviews falsas humanas y no humanas

Imagen: Universidad de Chicago

¿En qué se parece una review falsa creada con IA a una reseña real?

Un ejemplo de review falsa podría ser esta : “Me encanta este lugar. Fui con mi hermano y pedimos la pasta vegetariana y estaba deliciosa. La cerveza era buena y el servicio fue increíble. Definitivamente, recomendaría este sitio a cualquiera que esté buscando un buen sitio para ir a por un gran desayuno y un pequeño lugar con una gran oferta”.

A simple vista, podemos observar que no hay nada extraño respecto a esta opinión. Primero cuenta su experiencia y luego hace par de recomendaciones para que la gente vaya a visitar el sitio. A pesar de que la última frase es un poco extraña, no se diferencia demasiado de una expresión que puede utilzar utilizar un usuario cualquiera después de visitar el lugar.

Las reviews falsas: una amenaza para la credibilidad de Internet

Es cierto que en la actualidad ya se difunden reseñas falsas para favorecer o perjudicar negocios, productos y servicios, pero el coste en tiempo y dinero invertido es mucho mayor que el que se produciría con un software de estas características. Esto significa que en el caso de normalizarse estas prácticas se favorecería también su propagación masiva por Internet.

En cualquier caso, los investigadores señalan que a pesar de todo, puede que aún exista una manera de detectar las falsas reviews. Mientras que las opiniones creadas por el software pueden parecen idénticas a las de una persona real, siguen existiendo algunas diferencias sutiles – como la separación de caracteres o letras- que un programa desarrollado de forma adecuada podría detectar .

Una tecnología que se podría utilizar para crear otros contenidos malintencionados en Internet

Ben Y. Zhao, profesor de ciencias informáticas y uno de los responsables de este estudio, ha manifestado que el no conoce ningún caso en el que la IA haya sido utilizada para generar falsificaciones malintencionadas de opiniones. Sin embargo, reconoce que a una persona competente en este tema no le costaría demasiado desarrollar un sistema similar al de su investigación.

Por otro lado, Zhao recalca que los más preocupante no es que un algoritmo pueda escribir opiniones falsas en Yelp o Amazon. Advierte que esta tecnología puede utilizarse para otros fines, por ejemplo “artículos enteros escritos en un blog por un robot”. En ese caso, habría que “analizar de dónde viene la información, como se puede verficar, etcétera”.

El estudio se titula “Automated Crowdturfing Attacks and Defenses in Online Review Systems” y será presentado en la ACM Conference on Computer and Communications Security a finales de este año. Si quieres saber más, puedes leer el informe completo aquí.

 

Imagen: DepositPhotos

Mantente informado de las noticias más relevantes en nuestro canal de Telegram