- La herramienta altera de manera imperceptible la selección de tokens y palabras para crear un patrón criptográfico.
- El sistema busca frenar el fraude académico, la desinformación masiva y el plagio en el ámbito profesional.
- La iniciativa responde a las exigencias de transparencia impuestas por la Ley de Inteligencia Artificial de la UE.
- Analistas debaten si la marca afectará la fluidez del texto o podrá ser sorteada mediante herramientas de parafraseo.
La frontera entre los contenidos redactados por la mente humana y los generados por redes neuronales artificiales contará con una nueva barrera de trazabilidad matemática. Tras años de investigación interna y presiones de reguladores globales, la compañía creadora del modelo GPT confirmó el despliegue de la marca de agua invisible de ChatGPT. Esta tecnología esteganográfica introduce variaciones sutiles y casi imperceptibles en la probabilidad de elección de palabras durante la generación de texto, permitiendo a detectores oficiales comprobar con certeza estadística si un escrito procede de sus servidores.
La medida se alinea directamente con las directrices de la Ley de Inteligencia Artificial de la Unión Europea (AI Act), que obliga a los proveedores de modelos fundacionales a etiquetar contenidos sintéticos.
Cómo opera la esteganografía matemática en los modelos de lenguaje
A diferencia de una marca de agua visual en una fotografía, el sistema en texto no añade letras ni caracteres extraños. En su lugar, el algoritmo de muestreo clasifica los posibles vocablos siguientes en listas codificadas numéricamente y selecciona preferentemente aquellos que dejan una huella matemática predeterminada. Un observador humano lee un párrafo perfectamente natural y coherente, pero una clave criptográfica de descodificación puede verificar en microsegundos la presencia de la firma probabilística.
OpenAI asegura que la degradación en la calidad estilística y la precisión semántica de las respuestas es inferior al 0,5 %, haciéndola prácticamente indetectable para el usuario común.
Impacto en el entorno universitario y debate sobre privacidad
El anuncio ha sido recibido con alivio por instituciones educativas y comités de integridad académica, que han visto saturados sus métodos habituales de evaluación ante el auge de trabajos escolares elaborados por IA. No obstante, sectores de la comunidad tecnológica cuestionan que la marca pueda vulnerar la privacidad de escritores o ser fácilmente neutralizada traduciendo el texto a otro idioma y volviéndolo a traducir.
La empresa prevé un despliegue escalonado en el continente europeo antes de extender el etiquetado obligatorio a todas sus versiones web y aplicaciones móviles a nivel mundial.
