Susana Galeano
La presencia de mensajes discriminatorios, xenofóbos, racistas, de odio o que pretenden ofender o molestar se ha ido incrementando en los últimos años. Internet ha permitido una mayor comunicación con toda clase de personas con pensamientos diferentes, pero algunos usuarios pierden la noción del respeto y convierten sus comentarios en insultos. Google Perspective es una nueva herramienta que podrá ser una solución ante los problemas de trolls y abusos online.
El gran problema del acoso y abuso online
El nuevo proyecto de inteligencia artificial de Google pretende ser una herramienta útil para luchar contra el acoso en línea y la creciente toxicidad de las conversaciones en la red. Este tipo de comentarios han llegado a ser tan molestos e intrusivos que algunos medios han terminado por cerrar esas secciones para proteger a sus lectores, como pasó recientemente con el conocido foro de cine IMDB.
Moderar los comentarios molestos uno a uno ha sido la opción de muchos de los sitios que buscan la interacción con sus lectores, pero en páginas donde el flujo de usuarios es muy alto esta tarea se vuelve imposible. Google Perspective busca ayudar a los editores de sitios web a llevar una moderación adecuada, mucho más rápida y lo mejor de todo, gratuita.
Cómo funciona Google Perspective
Google Perspective utiliza machine learning que es capaz de detectar automáticamente los insultos, acosos y abusos en Internet. Cualquier frase que pase por su interfaz será evaluada en medida a la “toxicidad” de la oración con mucha mayor precisión que cualquier lista negra de palabras clave, y por supuesto mucho más rápido que cualquier moderador humano.
La inteligencia artificial de Google Perspective “aprende” en base a la similaridad de comentarios anteriores que han sido marcados por los usuarios como “tóxicos”, es decir, aquellos comentarios que les hayan parecido irrespetuosos, groseros o irrazonables y por los que, probablemente, muchos usuarios dejarían la conversación.
Imagen: Blog Google
Perspective examinó cientos de miles de comentarios que habían sido etiquetados por moderadores humanos. Por supuesto, cuanta más información maneje, mejores serán sus juicios de cara al futuro, por lo que a pesar de que está en sus primeros días, irá mejorando a medida que disponga de más datos para entrenar su precisión.
El diario The New York Times ha probado ya la primera versión de Google Perspective, moderando los más de 11.000 comentarios que cada día eran revisados a mano, ahora cualquier medio o plataforma de internet puede utilizarlo de forma gratuita, a través de una API, aunque por el momento solo se cuenta con soporte para el idioma inglés.
En un futuro, a medida que los editores de otras lenguas se sumen al proyecto, Google ampliará el rango de idiomas disponibles para que todos puedan utilizar esta herramienta de código abierto.
La polémica sobre la censura online no queda fuera de esta iniciativa
Cualquiera que acceda a conversaciones en los diferentes canales que ofrece Internet, sabrá que es muy necesario crear un espacio seguro en las discusiones online. De hecho es un problema determinante en el futuro de Twitter, que ya ha implementado diversas acciones y herramientas contra el abuso en su plataforma.
Instagram es otra de las redes sociales que se han preocupado por los trolls y comentarios ofensivos en su plataforma y ofreció una herramienta para bloquear los comentarios ofensivos. Y en las páginas de contenido el problema no puede resolverse de manos de los usuarios.
A pesar de ello, se abre de nueva cuenta la polémica sobre si esto es censura, ya que al utilizar la inteligencia artificial para moderar podría generar “falsos positivos” o quedar en el área gris donde el sentido común sería indispensable para decidir.
Google ha comentado que Perspective no está destinada a tener la última palabra en la publicación de un comentario, ya que los editores serán libres de decidir el uso de la herramienta. Google Perspective podrá ser utilizado para marcar un comentario y moderarlo posteriormente, o alertar al usuario sobre la toxicidad de sus palabras e invitarlo a reconsiderar su mensaje antes de enviarlo.
¿Te parece que esta herramienta será útil en la lucha contra los trolls?
Imagen: Shutterstock.com
Mantente informado de las noticias más relevantes en nuestro canal de Telegram