Claude marcará todo su texto con una firma invisible: así funciona el watermark que exige Europa

Si alguna vez te has preguntado si un texto fue escrito por una persona o por una inteligencia artificial, pronto vas a tener una pista más confiable para saberlo. Anthropic, la empresa detrás del chatbot Claude, anunció que adoptará SynthID-Text, la tecnología de marcas de agua digitales desarrollada por Google DeepMind. La razón principal: cumplir con las nuevas reglas de transparencia de la Unión Europea sobre inteligencia artificial. Pero lo interesante es que esto podría convertirse en el estándar que use el mundo entero, no solo Europa.

¿Qué es una marca de agua invisible en un texto?

Cuando hablamos de marcas de agua en imágenes, pensamos en un logo semitransparente sobre una foto. Con texto es distinto: no hay nada visible a simple vista. SynthID-Text funciona modificando ligeramente la forma en que un modelo de IA elige las palabras que va a usar.

Cada vez que Claude genera una respuesta, tiene que decidir qué palabra viene después de otra. En ese proceso, existen múltiples opciones igualmente válidas. SynthID-Text introduce un patrón estadístico sutil en esas decisiones: favorece ligeramente ciertas combinaciones de palabras sobre otras, sin que esto afecte la calidad ni el sentido del texto. Ese patrón es indetectable para un lector humano, pero puede identificarse con un algoritmo especializado que revisa el texto y determina si fue generado por IA.

Es como si cada respuesta de Claude llevara una firma escondida en el ritmo de sus palabras, sin que nadie note nada raro al leerla.

Por qué Europa está detrás de esto

La Unión Europea aprobó su Ley de Inteligencia Artificial (AI Act), que obliga a las empresas que desarrollan sistemas de IA generativa a marcar el contenido que producen, para que los usuarios puedan distinguir entre texto humano y texto sintético. La idea es combatir la desinformación, evitar fraudes académicos y dar más control a la ciudadanía sobre lo que consume en internet.

Anthropic no es la primera en moverse en esta dirección. Google ya usa SynthID en imágenes generadas por sus modelos, y ahora extiende la tecnología al texto. Al adoptar el mismo sistema, Anthropic evita reinventar la rueda y además facilita que distintas plataformas de IA hablen el mismo idioma técnico a la hora de identificar contenido generado artificialmente.

Qué significa esto en la práctica para ti

Imagina que eres profesor y recibes un ensayo de un estudiante. Con herramientas compatibles con SynthID-Text, podrías analizar el documento y obtener una probabilidad de que haya sido escrito por Claude u otro modelo similar. Lo mismo aplica para periodistas que reciben comunicados de prensa, empresas que verifican reseñas de productos, o plataformas que buscan detectar campañas de desinformación masiva.

Eso sí, hay que ser realistas con las limitaciones. La marca de agua no es a prueba de balas. Si alguien toma el texto generado por Claude y lo reescribe manualmente, traduce a otro idioma o lo edita lo suficiente, el patrón estadístico puede diluirse o desaparecer. Tampoco funciona si el contenido se genera con un modelo que no adopte este sistema. Es una herramienta útil, no una solución mágica contra la desinformación.

Un estándar que podría ir más allá de Europa

Aunque la motivación inmediata de Anthropic es cumplir con la ley europea, la compañía ya insinuó que aplicará este sistema de forma global, no solo para usuarios en la UE. Esto tiene sentido: mantener sistemas distintos según el país complicaría el desarrollo y aumentaría los costos. Si además otras empresas como OpenAI o Meta se suman a SynthID u otro estándar compatible, podríamos estar viendo el nacimiento de una norma de facto para toda la industria de IA generativa.

Lo cierto es que estamos entrando en una etapa donde el contenido generado por máquinas necesitará huellas digitales, tal como ya ocurre con las imágenes y los videos manipulados. Las marcas de agua invisibles no resolverán todos los problemas de confianza en internet, pero son un paso concreto hacia una convivencia más transparente entre humanos e inteligencia artificial.

Fuente: The Verge