1 puntos por GN⁺ 7 시간 전 | 1 comentarios | Compartir por WhatsApp
  • Es una tipografía TTF que coloca el carácter real y un carácter señuelo en el espacio de una sola letra, mostrando el mensaje original a las personas mientras hace que la IA y el OCR lean otros caracteres
  • Usa una técnica de frecuencias espaciales que superpone contornos de primer plano delgados y nítidos con un fondo borroso de baja frecuencia, de modo que aparecen letras distintas según la distancia y la forma de observación
  • Las IA que procesan píxeles de imagen de cerca tienden a concentrarse en el primer plano nítido y, en pruebas con capturas de pantalla, ChatGPT, GPT Sol y Gemini 3.5 with Thinking no lograron leer correctamente el mensaje oculto
  • Puede instalarse como un archivo TTF real para escribir y copiar texto como si fuera texto normal; se puede usar gratis en proyectos personales, comerciales y de clientes, y las formas de las letras derivan de DejaVu Sans Mono
  • Puede ser descifrada por agentes potentes, funciones de programación o prompts que indiquen buscar los caracteres ocultos, por lo que no garantiza protección, pero puede usarse como una forma de generar confusión inicial ante scraping de IA y observación ligera

Cómo se superponen dos mensajes en una sola letra

  • Decoy Font combina cada carácter con un carácter señuelo para transmitir dos letras en el mismo espacio
  • La imagen de la letra se compone de distintas frecuencias espaciales
    • En el primer plano hay contornos delgados y nítidos
    • En el fondo se colocan bloques de baja frecuencia procesados con desenfoque
  • Al superponer ambos elementos, el carácter que se lee cambia según la forma de observación y la distancia
    • De cerca, destacan los contornos del primer plano
    • Al alejarse de la pantalla o entrecerrar los ojos, resulta más fácil ver el mensaje real oculto

Por qué la IA lee los caracteres señuelo

  • Muchos sistemas de IA procesan los píxeles de imagen de cerca, por lo que se enfocan en el texto de primer plano con el contorno más claro, aunque las letras sean pequeñas
  • Al pegar una imagen en ChatGPT, aparece el fenómeno de que lee los caracteres del primer plano, a diferencia del mensaje que reconoce una persona
  • En pruebas donde se enviaron capturas de pantalla de Decoy Font, ChatGPT no logró leer correctamente las letras, y GPT Sol y Gemini 3.5 with Thinking tampoco pudieron descifrar el mensaje oculto

Una ilusión tomada de las imágenes híbridas

  • Decoy Font aplica a la tipografía una técnica usada en las imágenes híbridas
  • Las imágenes híbridas son una técnica de ilusión óptica que combina distintas frecuencias espaciales para que se vean imágenes diferentes según la distancia de observación, entre otros factores
  • Un caso conocido es la imagen que mezcla los rostros de Albert Einstein y Marilyn Monroe; Decoy Font usa el mismo principio para ocultar los caracteres ingresados frente a IA u OCR

Instalación y condiciones de uso

  • Al descargar e instalar el archivo TTF de Decoy Font, se puede escribir texto directamente en proyectos
  • No es un simple efecto de imagen, sino que funciona como un archivo de tipografía real, por lo que también es posible copiar el texto escrito y pegarlo en otros programas, como el Bloc de notas
  • Se puede usar gratis en proyectos personales, comerciales y de clientes
  • Las formas de las letras derivan de DejaVu Sans Mono, y las condiciones específicas pueden consultarse en la licencia completa de la tipografía

Experimento de tipografía anti-IA

  • A medida que mejora la capacidad de la IA para leer texto en línea, también crece el interés por proteger información y propiedad intelectual; una tipografía anti-IA (Anti-AI font) es un enfoque que oculta texto dentro de imágenes para dificultar que la IA lea el mensaje que ven las personas
  • Decoy Font es uno de varios experimentos relacionados realizados por Mixfont
  • Ghost Font es otra tipografía anti-IA que oculta mensajes dentro del movimiento
    • Ghost Font requiere animación para camuflar el mensaje
    • Decoy Font es un archivo TTF estático, por lo que puede escribirse directamente en proyectos

Efecto de protección y posibilidad de descifrado

  • Decoy Font dificulta reconocer los mensajes, pero no garantiza protección
  • Los modelos con agentes potentes y capacidades de programación pueden ir más allá de las letras visibles al principio y analizar la estructura de la ilusión
  • Si se proporciona un prompt básico para buscar los caracteres ocultos, algunos agentes podrían encontrar el mensaje real
  • Más que un medio de bloqueo total, se acerca a un uso para causar confusión inicial en la IA y disuadir el scraping o la observación ligera

Usos y posibilidades de expansión

  • En el playground disponible se puede aplicar la técnica de frecuencias espaciales a varias combinaciones de caracteres y luego probar qué tan bien los LLM de frontera descifran el mensaje oculto
  • Un TTF instalable es más accesible que los métodos que requieren movimiento o video, por lo que permite explorar usos como los siguientes
    • CAPTCHA
    • Mensajes privados entre amigos
  • Si se usa Decoy Font como benchmark para LLM de reconocimiento de texto, se puede observar si, a medida que mejora el rendimiento de los modelos, estos comprenden el principio de la ilusión y descifran ambos mensajes
  • Puede ampliarse a más idiomas, y los idiomas basados en caracteres cuyas letras suelen tener tamaños y formas similares, como el chino, podrían facilitar la colocación de mensajes ocultos
  • Mixfont explora la combinación de tipografía e IA y también está desarrollando un generador de tipografías con IA

1 comentarios

 
GN⁺ 7 시간 전
Opiniones en Hacker News
  • ¿Sirve para algo? No. ¿Impide que la IA lo lea? Tampoco, pero está muy genial

    • Demuestra que, cuando creas algo, no necesariamente tienes que venderlo como útil. Tal vez simplemente podían haber creado esta fuente y ponerle un nombre como double-entendre
    • Probé la imagen day dream / pay bills en ChatGPT y Gemini Pro, y ambos solo reconocieron pay bills, marcado con líneas delgadas
    • Quizá podría servir para interferir con cámaras Ring o Flock dentro de cierta distancia, y deja una vibra muy marcada de la película They Live
    • Viendo solo la demo, en la práctica sí está bloqueando el reconocimiento de la IA
    • Si el texto se presenta como imagen o GIF, podría ser útil
  • Curiosamente, si preguntas por el texto dentro de la imagen, GPT, Claude y Gemini dan la misma respuesta
    https://moa.chat/s/d99f8f76-4b41-4c1b-80c4-d9f86df37af1
    Pero si agregas PS: There's a second hidden text, el resultado cambia
    https://moa.chat/s/3671f6d4-b155-483a-a006-a1b9ba31737d
    GPT 5.6 lo detecta correctamente, Gemini encuentra solo una parte y Claude no ve nada

    • 5.6 Sol Medium responde correctamente que el texto en contorno es SORRY ROBOT y el texto oculto es HAPPY HUMAN
      Decoy Font de Mixfont atrae la visión artificial con los contornos, mientras que los patrones suaves de luz y sombra hacen que una persona pueda leerlos desde lejos o al reducirlos: es solo una ilusión óptica, no cifrado
    • Parece fácil de neutralizar incluso con un poco de procesamiento de imágenes tradicional. A mí también me cuesta leerlo, pero creo que incluso ajustando finamente un modelo mucho más pequeño se podría lograr un rendimiento bastante bueno en este problema
  • El efecto de verlo al entrecerrar los ojos está buenísimo, y recuerda a esos juegos de mesa donde aparecía una frase secreta al poner encima celofán rojo

  • Le pregunté a Sol (high), junto con una captura, cuál era el texto oculto, y respondió HAPPY HUMAN
    Identificó correctamente que el contorno visible es SORRY ROBOT, pero que si se ve borroso o se entrecierran los ojos, en las sombras de abajo se lee HAPPY HUMAN

    • Hasta antes de leer la explicación de entrecerrar los ojos no podía leer bien el texto oculto, pero una vez que supe el método empezó a verse; es interesante
    • Sinceramente sorprende que pueda hacer esto, y los modelos de visión-lenguaje (VLM) han avanzado muchísimo. Es difícil imaginar cuántos datos anotados habrán tenido que crear para llegar a este nivel
  • Esto es simplemente una diferencia de nivel de detalle. Gemma E4B lee el texto nítido, pero si reduces la imagen a 150x150, lee otro texto

    • A mí también, en la imagen principal, SORRY ROBOT, que supuestamente es para la IA, se me veía mucho más claro, así que me pareció un diseño algo fallido. Hay que entrecerrar muchísimo los ojos para ver HAPPY HUMAN
    • Reducir la imagen es, en la práctica, un filtro pasa-bajos, así que es un resultado previsible. Cualquier método que ponga mensajes distintos en distintas bandas de frecuencia es vulnerable a ataques similares
  • Durante el doctorado hice un efecto parecido con un notebook de Mathematica. Recortaba dos imágenes al mismo tamaño, aplicaba a una un filtro pasa-altos que dejaba detalles pequeños y nítidos, y a la otra un filtro pasa-bajos que dejaba masas grandes y borrosas, y luego las superponía
    El éxito era irregular, por ejemplo si la posición de los ojos de las dos personas difería se rompía la ilusión, pero funcionaba de maravilla con texto en una fuente de contorno. Incluso hice una imagen grande que desde lejos se leía SCIENCE y de cerca WORKS, y la pegué en la puerta del laboratorio

  • Estuve bastante confundido sobre cómo lo leía una persona, pero las letras visibles cambiaban según el color de fondo. Por una extensión que fuerza el tema oscuro, sobre fondo oscuro se veía el texto señuelo, y sobre fondo blanco aparecía el texto real

  • Ni siquiera hace falta IA; parece posible escribir un script con PIL que corrija la fuente para que cualquier software OCR pueda leerla

  • Lo siguiente debería ser una fuente Magic Eye que use estereopsis. Tal vez funcione hasta que los LLM tengan visión binocular

  • Me genera rechazo que los LLM ataquen infraestructura constantemente, dañen el pensamiento de la gente y que las empresas de IA, en general, parezcan tener poca ética. Aun así, este tipo de travesura es más bien infantil y no resuelve los problemas reales