La nueva arma de la web contra los rastreadores de IA: las fuentes

 

La tendencia de las empresas de IA a rastrear grandes extensiones de la web pública en busca de datos de entrenamiento valiosos ya ha provocado demandas y el desarrollo de soluciones técnicas para intentar frenar esta práctica. Ahora, un par de diseñadores propone una nueva herramienta: una fuente capaz de mostrar a los usuarios una página web perfectamente legible, mientras que los rastreadores reciben en el HTML una versión alterada del contenido.

ShieldFont, creada por los diseñadores Isaque Seneda y Gabriel Abrucio, busca ofrecer a los editores web una forma práctica de dificultar el uso no autorizado de sus contenidos para el entrenamiento de sistemas de inteligencia artificial.

La tecnología utiliza una característica habitual de las fuentes denominada ligaduras. Normalmente, estas sirven para mejorar la apariencia y legibilidad de determinadas combinaciones de letras. ShieldFont utiliza esta función de una manera diferente: sustituye determinadas palabras completas por otras palabras que pertenecen a contextos completamente distintos.

El usuario que visita la página ve el texto original, pero un programa que simplemente descarga el código HTML puede encontrarse con una versión modificada del contenido.

Por ejemplo, una palabra como «caballo» puede ser sustituida por «patata». El resultado sigue siendo texto correctamente escrito, pero cambia completamente el significado de la información.

La idea es dificultar que los sistemas automatizados puedan utilizar ese contenido para crear conjuntos de datos de entrenamiento sin que el propietario de la página lo haya autorizado.

Después de tres meses de trabajo, los creadores de ShieldFont desarrollaron un diccionario de casi 12.000 palabras que pueden ser sustituidas mediante ligaduras. Además, el sistema permite utilizar diferentes combinaciones para dificultar que los rastreadores puedan detectar fácilmente el patrón.

Según las pruebas realizadas por sus creadores, ShieldFont puede sustituir, en promedio, el 24,5 % de las palabras de una página y aproximadamente el 45,8 % de las palabras consideradas relevantes para el contenido.

Los autores también probaron el sistema con seis plataformas públicas de extracción de datos. Afirman que más del 90 % de las páginas que normalmente serían aceptadas fueron rechazadas después de aplicar las sustituciones y pasar por los filtros de calidad.

La intención es sencilla: si un rastreador recoge el contenido alterado, la información que llegue a sus sistemas puede resultar inútil o contener datos incorrectos.

ShieldFont no es una solución perfecta. Una página que puede ser leída correctamente por una persona también puede ser interpretada por una herramienta de inteligencia artificial que renderice la página como lo haría un navegador y posteriormente utilice reconocimiento óptico de caracteres para leerla.

Sin embargo, ese procedimiento requiere mucho más trabajo y recursos que simplemente descargar el código HTML de una página.

Los creadores de ShieldFont sostienen que el objetivo principal no es crear una barrera imposible de superar, sino aumentar el coste y la dificultad del rastreo automatizado a gran escala.

La herramienta también puede tener inconvenientes para los usuarios. Los motores de búsqueda, los lectores de pantalla, las herramientas de copiar y pegar y algunos sistemas de traducción podrían no interpretar correctamente el contenido modificado.

Aun así, la propuesta plantea una cuestión cada vez más importante en Internet: que un contenido sea público y accesible no significa necesariamente que su creador quiera que sea utilizado para entrenar sistemas de inteligencia artificial.

La batalla entre los creadores de contenido y los rastreadores de IA parece estar entrando así en una nueva etapa. Mientras las empresas de inteligencia artificial buscan nuevas formas de recopilar información de la web, los propietarios de sitios también comienzan a desarrollar mecanismos para dificultar ese proceso.

ShieldFont representa una de esas nuevas estrategias: mostrar una cosa a las personas y otra muy diferente a las máquinas.