Marcas de agua, un nuevo escenario en el uso de la IA Generativa

Con el lanzamiento de la ChatGPT en noviembre del año 2022, se abrieron nuevas posibilidades para la creación de contenidos y el acceso al conocimiento, pero también surgieron cuestionamientos sobre su uso. Dentro de la academia se desplegaron diversas acciones con el fin de descubrir si los trabajos entregados por los alumnos habían sido elaborados de forma total o parcial mediante el uso de Inteligencia Artificial Generativa (IAG). Incluso, Turnitin añadió a su algoritmo de detección de similitud un sistema de detección de escritura con inteligencia artificial (IA), lo que generó un nuevo debate, aún sin respuestas claras sobre la fiabilidad de sus informes.

Hubo muchas versiones a favor y en contra sobre el uso de la IAG; sin embargo, hechos recientes, como las declaraciones que brindaran representantes de Anthropic sobre la incorporación de marcas de agua en todos los contenidos generados por Claude, su IAG, indican que se están dando algunas respuestas esperanzadoras a esa incertidumbre y marcan el inicio de una nueva etapa para la Inteligencia Artificial Generativa. Una etapa que abre muchas posibilidades para reforzar su uso responsable y ético.

Este nuevo escenario, fundamental para las decisiones que deberán tomar las universidades sobre el uso adecuado de la IAG, se vislumbra desde el año 2024, cuando la Unión Europea adoptó el Reglamento (UE) 2024/1689 que exponía con una visión previsible los fines de la inteligencia artificial. En ese documento se subraya que la IA debe centrarse en el ser humano, ser fiable y respetuosa de los derechos fundamentales.

El Reglamento se viene aplicando de manera general desde el 2 de agosto de 2026, aunque algunas disposiciones ya se estaban aplicando como parte de un proceso progresivo, teniendo en cuenta los riesgos y adaptaciones propios de una implementación rigurosa. Hasta ahora, los proveedores de IAG abarcados por esta disposición deben sellar sus contenidos con un formato legible por máquinas que permita verificar si han sido generados o alterados artificialmente. Esta medida demuestra transparencia y un gran aporte a la integridad académica, profesional y personal.

Las marcas de agua son una parte de la solución técnica que los proveedores de inteligencia artificial deberán implementar hasta el 2 de diciembre de 2026. Cabe destacar que el reglamento también menciona otras técnicas que permitan identificar y demostrar la procedencia y la autenticidad de los contenidos, métodos de registro, metadatos, huellas dactilares u otras técnicas que se adapten a sus creaciones. De ahí que Anthropic, OpenAI, Google, Microsoft, Meta o Canva, por citar algunas de las empresas que ofrecen las IAG más utilizadas en el entorno académico, vayan a experimentar cambios en la misma dirección que los nuevos requisitos. Una situación que podría llegar incluso a condicionar la generación de algunos contenidos. 

A partir de ahora, las marcas de agua se convertirán en un componente esencial para forjar una cultura de transparencia en todos los ámbitos donde se emplee inteligencia artificial. También en la educación superior, proporcionará apoyo para optimizar las políticas de integridad académica, reforzar los procesos educativos y construir entornos seguros para la enseñanza y el aprendizaje mediados por esta tecnología. En este marco, la declaración del uso de IA será una actividad más común por parte de docentes y estudiantes a través de prácticas más precisas para declarar qué herramientas de IA utilizaron y, sobre todo, cómo las utilizaron. De esta forma se podrá conseguir una mayor trazabilidad y convertir a la Inteligencia Artificial Generativa en una aliada estratégica para la formación profesional.