El Tribunal Regional de Múnich I ha determinado que Google es directamente responsable de las afirmaciones falsas que genera su IA en los resúmenes de búsqueda, las llamadas AI Overviews. Esto, que puede parecer un tema legal poco trascendente, es en realidad bastante importante para el futuro de la búsqueda generativa.
Hasta ahora, los buscadores tradicionales disfrutaban de un pequeño escudo legal, ya que a todos los efectos operaban como intermediarios. Si una web externa mentía, y el buscador indexaba su contenido, Google no era responsable del engaño. Era considerado un mero intermediario entre humano y web.
Sin embargo, este fallo judicial cambia el enfoque por completo, al dictaminar que un resumen generado por IA (esas AI Overviews a las que ya nos hemos acostumbrado en el último año) es contenido propio de Google.
Y por tanto, su responsabilidad.
El caso estalló cuando dos editoriales alemanas demandaron a Google porque al buscar sus nombres junto a la palabra “estafa”, la IA de Google redactó respuestas afirmando que las empresas realizaban prácticas comerciales dudosas.
Lo que parece es que la IA sufrió una alucinación. No una tan bestia como las que experimentaba al principio de su implantación (cuando recomendaba echar pegamento a la pizza, por ejemplo) pero lo suficientemente llamativa como para desencadenar la demanda. Así, mezcló información de fraudes reales cometidos por otras empresas y se los atribuyó a las demandantes, haciendo una conexión que ni siquiera existía en las fuentes originales que el propio buscador citaba.
Durante el proceso, la defensa de Google argumentó que los usuarios ya saben que la IA comete errores y que es su responsabilidad contrastar la información haciendo clic en los enlaces.
Menuda justificación, por cierto.
El tribunal rechazó este argumento, señalando que los textos se presentan como respuestas cerradas, estructuradas y comprensibles por sí mismas, por lo que Google es el único responsable de lo que este invente (si es que lo inventa). Además, explicó que la descripción general de la IA era comprensible por sí misma y completa, lo que hace innecesario consultar los enlaces que se incluyen (que además, sabemos que no se suelen consultar).
Ahora Google debe eliminar el contenido en cuestión y garantizar que su IA no siga publicando más afirmaciones falsas similares sobre los editores afectados o se expone a ser sancionada. Además, Google deberá pagar el 80% de todos los costes legales y procesales.
Este precedente abre un escenario complejo para los gigantes tecnológicos. Si los distintos tribunales europeos empiezan a tratar a las respuestas de los motores de búsqueda generativos que emplean Gemini, ChatGPT o Claude con una lógica de responsabilidad más cercana a la de quien publica contenido propio que a un medio de comunicación tradicional, las empresas de IA tendrán que esforzarse en mejorar la precisión de sus modelos para evitar multas.
O, incluso, desactivar estas funciones en territorio comunitario.
Imagen: ChatGPT
No se han encontrado artículos relacionados.
Your email address will not be published. Required fields are marked *
Δ