La UE advierte a Microsoft con una multa milmillonaria por las «alucinaciones» y otros riesgos de la IA de Copilot en Bing

La Comisión Europea quiere aclarar si Bing podría haber infringido la DSA acerca de sus "alucinaciones", la difusión viral de deepfakes y la manipulación automatizada de servicios que pueden engañar a los votantes ante procesos electorales.
robot durmiendo sobre una hamaca en una playa caribeña
20 de mayo, de 2024
Copiar enlace

La Comisión ha intensificado sus acciones de cumplimiento contra Microsoft, solicitando información bajo la Ley de Servicios Digitales (DSA) sobre los riesgos asociados a las funciones de IA generativa en Bing, como «Copilot en Bing» y «Creador de Imágenes por Diseñador». Microsoft debe proporcionar esta información antes del 27 de mayo.

Información solicitada por la Comisión

Como explica en su comunicado la Comisión, la solicitud de información, emitida el 14 de marzo, exige a Bing proporcionar documentos internos y datos no revelados previamente. Esta petición surge por la sospecha de que Bing podría haber infringido la DSA, específicamente en lo relacionado con los riesgos de la IA generativa, tales como las «alucinaciones» (errores de la IA), la difusión viral de deepfakes y la manipulación automatizada de servicios que pueden engañar a los votantes ante procesos electorales. Según la DSA, los servicios designados, incluido Bing, deben realizar una evaluación adecuada de riesgos y adoptar medidas de mitigación respectivas (Artículos 34 y 35 de la DSA).

Una solicitud de información es un acto investigativo que no prejuzga posibles pasos adicionales que la Comisión pueda tomar. Basándose en la evaluación de las respuestas, la Comisión decidirá los siguientes pasos, lo que podría implicar la apertura de procedimientos formales, de acuerdo con el Artículo 66 de la DSA.

Implicaciones de no cumplir

En caso de que Microsoft no responda dentro del plazo, la Comisión podría imponer multas de hasta el 1% de los ingresos anuales totales o del volumen de negocios mundial del proveedor, y penalizaciones periódicas de hasta el 5% del ingreso diario promedio o del volumen de negocios anual mundial. Además, se pueden imponer multas similares por proporcionar información incorrecta, incompleta o engañosa en respuesta a una solicitud de información.

Para que te hagas una idea, el volumen de negocios de Microsoft en 2023 fue de 211.000 millones de dólares (unos 194.000 millones de euros), lo que podría implicar que la multa alcanzase los 2.000 millones de dólares.

Como motor de búsqueda en línea muy grande, Bing está obligado a cumplir con todas las disposiciones introducidas por la DSA. En este caso particular, la Comisión considera que las posibles violaciones de la DSA pueden presentar riesgos para el discurso cívico y los procesos electorales. Según el Artículo 67(3) de la DSA, la Comisión está facultada para solicitar, mediante decisión, información adicional a Bing relacionada con las infracciones sospechadas.

Imagen: GPT Plus

Publicado por

Content manager en Marketing4eCommerce
Content manager de Marketing4eCommerce desde 2014. En este tiempo he redactado más de 1.600 artículos relacionados con el mundo del marketing.

Suscríbete a M4C

Únete a nuestro canal de Whatsapp

¡Todo lo que necesitas saber!

Apúntate a nuestra newsletter y recibe gratis en tu correo nuestros mejores artículos sobre eCommerce y marketing digital.