Así se utiliza la Inteligencia Artificial en Wikipedia para mejorar la calidad de sus contenidos

Uno de los grandes problemas en las diferentes plataformas de comunicación en la actualidad es la presencia de mensajes tóxicos, discriminatorios, de odio o que pretenden molestar. Los trolls y abusadores online se encuentran principalmente en las redes sociales como Twitter, aunque otras plataformas también sufren sus consecuencias. Ahora el nuevo sistema de Inteligencia Artificial en Wikipedia espera poder poner fin a este tipo de abusos en su plataforma.

De acuerdo a Forbes, la toxicidad en los foros de Wikipedia es tal que los colaboradores activos (aquellos que han realizado mínimo una edición por mes)  han disminuido un 40% durante los últimos ocho años, es por ello que se ha decidido utilizar Inteligencia Artificial en Wikipedia para obtener mayor información y lograr combatir este problema.

https://marketing4ecommerce.net/acabar-con-los-trolls-en-twitter/

Jigsaw, la incubadora tecnológica conocida como Google Ideas, en asociación con fundación Wikimedia han logrado iniciar el proyecto de investigación llamado “Detox” que utiliza machine learning para aprender de los comentarios compartidos en la plataforma y entender cuáles pueden ser ataques personales.

La inteligencia artificial de Wikipedia además de ayudar a combatir a los trolls en sus foros también se trata de un código abierto con el que se pretende combatir de forma más oportuna al acoso en diferentes plataformas, redes sociales y foros web en un futuro.

Cómo se utiliza la inteligencia artificial en Wikipedia

El primer paso fue entregar a los algoritmos de machine learning más de 100.000 comentarios tóxicos que se encontraron en páginas de Wikipedia Talk, previamente identificados por un equipo humano de 4.000 personas.

Cada uno de los mensajes fue revisado por diez personas diferentes, con lo que el resultado no deja espacio para dudas sobre su toxicidad. Este ha sido el conjunto de datos más grande sobre abuso en línea jamás creado, ya que no solo incluye ataques personales directos, sino también indirectas, que son sumamente difíciles de entender por la inteligencia artificial.

Tras el arduo entrenamiento, la inteligencia artificial de Wikipedia ha sido capaz de determinar cuáles comentarios son tóxicos o con intención maliciosa, tan bien como los moderadores humanos.

[Tweet “El 34% de los comentarios abusivos en #Wikipedia fueron realiados por usuarios anónimos”]

Más de la mitad de los comentarios abusivos fueron realizados por usuarios registrados

El algoritmo revisó 63 millones de comentarios de Wikipedia publicados durante un período de 14 años entre 2001 y 2015 con el fin de encontrar patrones de comentarios abusivos. Lo que descubrieron se integró en el documento Ex Machina: Personal Attacks Seen at Scale paper.

Uno de los descubrimientos más importantes fue que más del 80% de los comentarios clasificados como abusivos fueron realizados por más de 9.000 personas que hicieron menos de cinco comentarios abusivos en un año, cuando generalmente se tiende a pensar que este tipo de mensajes los envía un grupo aislado de trolls.

Otros datos importantes que logró recolectar la inteligencia artificial de Wikipedia:

• Casi el 10% de todos los ataques fueron realizados por 34 usuarios.
• El 34% de estos comentarios los realizaron usuarios anónimos.
• Más de la mitad de los ataques personales los realizaron usuarios registrados, a pesar de que los usuarios anónimos tuvieron seis veces más probabilidades de lanzar ataques personales.
• Hay 20 veces más usuarios registrados que usuarios anónimos

A pesar de que es posible que todavía haya necesidad de utilizar la revisión humana, la inteligencia artificial de Wikipedia contribuirá en encontrar la mejor vía para combatir la negatividad en su plataforma.

Imagen: Depositphotos