En realidad, esta es una noticia que no debería ser tanta noticia, ya que hace prácticamente dos años que otras IA, como Gemini lo aplican. Pero es interesante conocer cómo funcionan las interioridades de este tipo de sistemas que ya están tan presentes en nuestra vida laboral y personal. Además, me temo que a muchos de los usuarios de Claude les pillará de improviso, así que vamos a contarla con detalle.
Anthropic, la desarrolladora de la popular Claude, ha anunciado que ha firmado el Código de Buenas Prácticas del artículo 50(2) de la Ley de IA de la UE sobre Transparencia del Contenido Generado por IA. Se trata de la Ley de la que te hablamos hace apenas unas semanas, y que entró en vigor el pasado día 2 de agosto, con el objetivo de poner algo de control en el uso de la inteligencia artificial en el espacio comunitario.
En concreto, el artículo 50 (2) de la Ley se refiere a la obligación de las empresas que están detrás de los grandes modelos de IA (como sucede en el caso de Anthropic con Claude) de marcar, de forma visible o invisible, los contenidos que generen para que sean identificados como “sintéticos”. Este es el párrafo de la ley en cuestión:
“Los proveedores de sistemas de IA, incluidos los de propósito general, que generen contenido sintético de audio, imagen, vídeo o texto, deberán garantizar que los resultados del sistema de IA estén marcados en un formato legible por máquina y sean detectables como generados o manipulados artificialmente. Los proveedores deberán garantizar que sus soluciones técnicas sean eficaces, interoperables, robustas y fiables en la medida en que sea técnicamente factible, teniendo en cuenta las especificidades y limitaciones de los distintos tipos de contenido, los costes de implementación y el estado de la técnica generalmente reconocido, tal como se refleja en las normas técnicas pertinentes. Esta obligación no se aplicará en la medida en que los sistemas de IA realicen una función de asistencia para la edición estándar o no alteren sustancialmente los datos de entrada proporcionados por el usuario ni su semántica, o cuando estén autorizados por ley para detectar, prevenir, investigar o perseguir delitos”.
En su comunicado, Anthropic explica que este procedimiento de marcado ya está en marcha en cualquier plataforma donde uses Claude para “los modelos lanzados en la UE a partir del 2 de agosto de 2026” y que el texto generado incluirá “marcas de agua integradas y los archivos generados incluirán metadatos de procedencia firmados digitalmente, cuando sea compatible”. Además, aclara que la ley incluye un período de transición para los modelos de Anthropic lanzados antes del 2 de agosto de 2026, y que la compañía está trabajando para añadir soporte de marcado también para esos modelos.
El concepto de marca de agua es bastante intuitivo cuando lo aplicamos al ámbito de las imágenes o el vídeo, por ejemplo. Es fácil comprender que entre los metadatos de una imagen sintética, por ejemplo, se incluya algún tipo de código no visible que sirva para identificarla como generada por IA.
En el caso de los textos, el proceso es algo más refinado. Y alucinante, si me lo permites.
Cuando una IA como la de Claude quiere añadir una marca de agua al texto generado, lo hace directamente alterando el texto que genera. Sé que es complicado de entender al principio, así que trataremos de simplificarlo con un ejemplo. Anthropic todavía no ha explicado técnicamente cómo funciona la marca de agua textual de Claude, y ha adelantado que publicará más documentación próximamente, pero podemos entender cómo funciona un sistema de este tipo observando tecnologías similares que ya son públicas, como SynthID Text de Google.
Cuando el modelo calcula una lista de opciones lógicas para continuar con un texto y sus probabilidades (por ejemplo, tiene que decidir entre utilizar “casa” , “hogar” o “vivienda”), la tecnología consulta una función matemática basada en una clave secreta. Esta clave le da un pequeñísimo empujón imperceptible a ciertas variantes (sinónimos de casa, en el ejemplo mencionado) para que sean seleccionadas, sin cambiar el significado, el estilo ni la corrección gramatical del texto.
El truco, brillantísimo, de este procedimiento, es que alterar una sola palabra o una frase corta de esta forma da un resultado que es indistinguible, en general, de cualquier otro texto humano. Sin embargo, a lo largo de un párrafo de 50 o 100 palabras, esa ligera preferencia, ese favorecimiento de unas alternativas frente a otras similares, deja un patrón estadístico. Para un detector que posee la clave matemática secreta, reconocer esa distribución de palabras en el texto es como encontrar una firma digital invisible, lo que le permite confirmar que el fragmento ha sido generado por ese modelo.
Incluso si después lo copias y pegas sin formato.
Es la gracia de que la marca de agua sea parte del propio texto.
Así que si estás usando Claude para generar textos y no quieres que se sepa que han sido generados por una IA, tienes un pequeño problema. A menos que quieras pasarte un buen rato reescribiendo las frases que genere, claro.
Aunque también sucede al revés: encontrar la marca de Claude no permitirá afirmar automáticamente que Claude escribió el texto. Anthropic recuerda que un usuario puede utilizar su IA simplemente para corregir, traducir, resumir o transformar un contenido originalmente humano. En esos casos, el resultado también puede incorporar la marca. La señal permitirá saber que Claude ha intervenido en el texto, no necesariamente que lo haya creado desde cero.
Imagen: ChatGPT
Your email address will not be published. Required fields are marked *
Δ