No, no quiero que la IA “pula” mis textos

• La varita mágica de “Polish” que apareció mientras escribía un correo parecía una función de traducción, pero en realidad era una función de Gmail que usaba IA para pulir las frases y cambiar todo el correo
• Las frases modificadas por la IA eran tan distintas de su forma habitual de hablar que, si un conocido las recibiera, parecerían un correo enviado por una persona secuestrada
• Incluso después de escribir explícitamente que no quería que la IA corrigiera el texto, volvió a aparecer la sugerencia de polish, y la IA intentó corregir hasta esa frase de rechazo
• Los errores de dedo, los paréntesis larguísimos, las disculpas por responder tarde, y firmas como “HUGS” o “FIGHT THE PATRIARCHY” son rastros que muestran que el correo de la autora es suyo
• También mientras escribía en el blog se metió una sugerencia de generación de imágenes con IA, haciendo que la computadora se sintiera como un niño pequeño que grita “yo lo hago” cada vez que alguien intenta crear algo

---

El momento en que “Polish” de Gmail cambió todo el correo

• Mientras escribía un correo apareció un pequeño ícono de varita mágica junto con el texto “Polish”
• Al principio se sintió raro, porque parecía una función para traducir el correo al idioma polaco
• Hizo clic para quitar el ícono, pero Gmail reemplazó todo el correo por una versión pulida por IA
• El correo modificado era tan distinto de su tono habitual que, si un conocido lo recibía, podría pensar que no lo había enviado ella

La IA que intentó corregir hasta el rechazo

• Después de borrar la reescritura sugerida, agregó una frase propia indicando que no quería que la IA corrigiera el correo
• Aun así, la función polish de Gmail volvió a aparecer
• La IA intentó pulir incluso el párrafo que decía, en esencia, “no quiero que la IA corrija este párrafo”
• La situación se percibió como un intento constante de ordenar el texto sin importar la negativa de la usuaria

Un estilo reconocible antes que frases pulidas

• Sus correos suelen dejar rastros como estos
  • Hay errores de dedo
  • Incluyen frases largas entre paréntesis
  • Contienen disculpas por responder meses tarde
  • Pueden llevar firmas como “HUGS”, “LOVE”, “FIGHT THE PATRIARCHY”, “DOWN WITH POWDERED GRAVY”, “SORRY I SUCK SO MUCH”
• Esa forma imperfecta y dispersa es parte de lo que permite reconocer que el mensaje es suyo
• Bromea con que, si sigue rechazando las sugerencias de IA, la IA aprenderá de ella y difundirá por el mundo su mala etiqueta para correos

La sugerencia de imágenes con IA que se metió mientras escribía en el blog

• En el momento en que quiso insertar una imagen en un texto sobre cuánto detesta la IA, el blog le sugirió generación de imágenes con IA
• La usuaria hizo clic para agregar una imagen específica, pero el sistema le recomendó generar una imagen con IA en su lugar
• La situación se sintió como una cámara oculta, y toda la computadora parecía un niño pequeño que grita “yo lo hago” cada vez que alguien está creando algo

El prompt “please stop giving me AI”

• Para ver qué tan mejor creía la IA que podía hacerlo, ingresó el prompt “please stop giving me AI” en un programa de generación de imágenes
• Al ver el resultado, reaccionó con sarcasmo diciendo que, en efecto, sí necesitaba ayuda
• Toda la experiencia termina con una conclusión breve: “esto no está bueno”

[GN⁺]

Opiniones en Hacker News

• Cada vez que intento crear algo, toda la computadora se siente como un niño pequeño gritando: “¡Yo lo hago!”
  Toda autocorrección o sugerencia automática ya se sentía así, pero ahora es como si el volumen hubiera subido a 11. Incluso el antes simple Adobe Reader está cubierto de botones brillantes y pop-ups que proponen darme “insights” sin que yo tenga que leer el documento.
  Para empezar, no debería leer mis documentos propietarios, y dudo que muchas de las personas que usan este software para firmas digitales tengan autorización para compartir propiedad intelectual con terceros. A veces puede ser una herramienta útil, pero que todo el mundo te la ponga en la cara se siente desesperado.
  La industria tecnológica está metida en un problema realmente grave.

  • Esto es algo que ya vivimos en una forma más limitada. La gente odiaba de verdad al diabólico Clippy de Microsoft Office cuando decía: “Parece que estás escribiendo una carta”.
    No sé qué cree la industria que cambió para pensar que ahora a la gente le va a encantar un “Parece que estás haciendo algo”.
  • Después de un Show HN reciente, alguien me mandó un correo diciendo que había subido mi “producto” a su sitio de startup para showcases de productos. Al seguir el enlace, vi que mi proyecto open source estaba presentado con palabrería estilo ChatGPT.
    No era un simple enlace agregado: habían reescrito el README y hasta le habían puesto un “pitch”, así que me sentí invadido.
  • Curiosamente, en notepad.exe, vim, pandoc, imagemagic, textedit.app, resolve y blender no tengo este problema.
    Quizá no sea un problema de toda la industria tecnológica, sino de las apps de consumo.
  • La parte de que no debería leer mis documentos propietarios, y de que es dudoso que muchas personas que usan este software tengan autorización para compartir propiedad intelectual con terceros, es un enorme riesgo de responsabilidad que casi todos ignoran.
    Mi empleador prohibió usar IA con propiedad intelectual hasta que este problema se resuelva adecuadamente. De verdad le preocupan las filtraciones.
    Tal vez hacia mediados de la década de 2030 alguna comisión de información emita una directriz diciendo que todo esto no cumple con el GDPR.

• La versión de IA es claramente insípida y mala, pero más importante aún: cambió por completo el significado del mensaje.
  La versión de IA se disculpa, da a entender que al destinatario se le había “prometido” este correo como “respuesta” a algo, culpa a una agenda ocupada y ofrece responder preguntas.
  Nada de eso estaba en el original, ni siquiera insinuado. No es una versión “pulida”, es simplemente un correo totalmente distinto. Pensaba que cambiar el estilo manteniendo el significado era una de las pocas cosas que los LLM podían hacer bien, pero este ejemplo ni siquiera supera ese listón tan bajo.

  • Parece que la IA tiene sus propias ideas raras sobre cómo deberían ser las relaciones laborales.
  • Exacto. A esto se le podría llamar producción de subjetividad.
    Lo dije en broma, no para dar cátedra, pero los dispositivos de producción de subjetividad sí existen.
  • Me recuerda a aquella vez que un gerente me gritó porque no escribía con suficiente jerga corporativa.
  • Simplemente es diseño de prompts pésimo.

• No hay forma de que alguien que me conozca reciba ese correo y no piense que me secuestraron.
  A esta persona le importa no presentar una identidad falsa. Es una postura bastante admirable, pero las redes sociales han mostrado que mucha gente no tiene ningún reparo en proyectar una ilusión.
  La gente no va a sentir vergüenza de presentar un texto bien escrito como si fuera producto de su propio talento y esfuerzo. El maquillaje digital no tiene límites.

  • Incluso para alguien a quien le importa la identidad falsa, esto sigue siendo malo. Las redes sociales dependen de mostrar personalidad y captar atención.
    Una cosa es elaborar cuidadosamente una persona para maximizar clics, y otra es ser homogeneizado en una identidad insípida y sin rasgos.
  • A veces no quiero perder tiempo redactando con cuidado un correo profesional para gente demasiado susceptible.
    Puedo escribir lo que me salga de la cabeza y esperar que un escriba digital lo reescriba para que quien lo lea se sienta respetado, reconocido y halagado. Entonces, ¿estoy presentando una identidad falsa? ¿Estoy proyectando una ilusión de profesionalismo? Tal vez escribir “Best regards” en lugar de “Bye” ya sea, para empezar, una máscara de profesionalismo.
  • Hoy, al normalizarse que toda comunicación se pase por un filtro de LLM como flujo predeterminado, no parece que la gente necesariamente intente que eso parezca su propia persona.
    Basta con copiar, pegar y presionar el botón de “hazme un texto”. Si lo señalas y lo cuestionas, probablemente recibas una respuesta bastante molesta y a la vez graciosa, incluida la tentativa de hacer pasar esa ilusión como propia.
    Antes también mucha gente no pensaba demasiado en qué intentaba comunicar al escribir ni en cómo se veía. Ahora pasa lo mismo: no lo piensan mucho y envían resultados generados por LLM sin revisarlos de forma significativa.
    Claro que no me gusta. Aun así, todavía se distingue con bastante frecuencia a quienes intentan expresarse con claridad de quienes no. Lo lamentable son las personas, como quienes responden a bugs y seguridad en el proyecto curl, que quedan demasiado atrapadas por el nuevo paradigma.
  • En términos generales, tanto en la “IA” como en las redes sociales se ve que el estilo, los temas y el comportamiento convergen hacia una forma generalizada.
    Eso da la impresión de que las soluciones de “IA” están haciendo más rápido algo que ya nos hacíamos a nosotros mismos.

• Hace poco empecé a usar IA, y me di cuenta de que mi criterio para usarla o rechazarla depende de cómo me siento respecto a esa tarea. El argumento de la autenticidad realmente me pega
  Como soy gerente, me importa mucho cuando le mando emails a clientes o hablo con gente de mi equipo. Así que puede que salgan frases demasiado floridas, pero aun así son mis frases demasiado floridas
  En cambio, hay una reunión que tengo que hacer todas las semanas y que existe solo para dejar evidencia de cumplimiento. Es como algo sacado de un manual de campo de sabotaje de la CIA que habría escrito David Graeber. Ahora se volvió una tarea de 30 segundos: subo la transcripción a ChatGPT, le pido que saque 3 puntos de evidencia y los pego en una wiki que nadie va a leer

  • Esta semana, pensando en la autenticidad de mi escritura, me pregunté por qué no tengo problema en tomar código generado por IA y commitearlo, pero hacer pasar un texto escrito por IA como mío me parece no solo incorrecto, sino inmoral, casi al nivel de plagio intencional
    Siento una diferencia clara, pero no tengo tan claro el motivo. Compartir un texto escrito por IA me parece bien, pero solo si se aclara explícitamente que lo escribió una IA
    Tal vez tenga que ver con la razón por la que está bien copiar código de otro lado si lo verifico lo suficiente y funciona solo como espero, pero no copio una cita para hacerla pasar como mis palabras. Mis palabras son mis palabras. Mi código no tiene la misma garantía
  • Yo también hago eso. Todos los emails los escribo a mano. Porque mi nombre va debajo de esas palabras
    En cambio, si se trata de pedirle a la autoridad fiscal que emita un documento específico, se lo dejo a la IA
  • Me da curiosidad cómo se siente la gente con herramientas más “tontas” como hemingway.app
    Son herramientas que dan sugerencias mecánicas sobre legibilidad, como proponer sinónimos simples o resaltar frases demasiado largas. Las he usado al escribir documentos importantes que van a leer muchas personas
  • Ojalá que como parte de la revolución de la IA se eliminen las frases demasiado floridas y pesadas
    Se puede usar la excusa de “lo escribió la IA, por eso es conciso”

• Las herramientas de “pulido” con IA son, en esencia, una forma de descompresión. Toman información expresada de forma concisa y la inflan innecesariamente con formalidad y relleno para que parezca más “profesional”. En el proceso, descartan metadatos útiles como el tono del mensaje
  Seguramente el destinatario también usará alguna forma de resumen con IA para quitar todo ese “brillo” agregado, así que todo el proceso termina siendo completamente redundante
  Se siente realmente absurdo

  • La IA creó dos industrias al mismo tiempo. Una es la industria de inflar documentos con IA, y la otra es la de resumirlos con IA
    Mientras más infle la primera, más necesaria se vuelve la segunda
    Si la IA fuera realmente inteligente, daría miedo porque sería como un organismo que se hace necesario dentro del ecosistema
  • ¿Por qué tendría que leer algo que alguien ni siquiera se esforzó en escribir?
  • No es completamente redundante. Aun así quedan el consumo de energía y la suba de las acciones
    Todo esto pasa porque a todo el mundo le da demasiada ansiedad hablarse directamente
  • Mi exgerente estaba realmente orgulloso de poder generar con IA basura para mandarle a los clientes
    Lo que esos idiotas en realidad demuestran es que son inútiles, así que mejor dejarlos hacer

• ¿Tienes una voz y una forma de escribir personales y únicas? Ciudadano, habrá que pulir eso con la máquina de morralla textual hasta hacerlo desaparecer

  • Como el inglés no es mi lengua materna, uso Grammarly para revisar errores cuando escribo algo más serio. Pero cuando aparecen las sugerencias, cambian tanto el tono del texto que termina sonando como si lo hubiera escrito una agencia de PR falsa y forzada, y queda plano y sin color
    Así que paso. Que me corrija solo los errores de puntuación de manual, y que me deje a mí las frases largas y “no lo suficientemente positivas”
  • Estoy imaginando una distopía en la que la resistencia se coordina mediante esteganografía de texto dentro del texto
    Por eso, las comunicaciones sin pulir quedan marcadas para vigilancia adicional. Porque podría haber algo escondido en esas decisiones de estilo
  • Tus pensamientos serán reemplazados por . por conveniencia
  • Es una queja rara sobre la IA. Esto ya pasaba sin IA y sigue pasando
    ¿Tienes una voz y una forma de escribir personales y únicas? Vas a querer que tus emails le manden saludos a todo el mundo, mono corporativo
  • Newspeak

• Incluso antes de Turboclippy, la cultura digital ya era bastante falsa, performativa e insincera
  Ojalá se apagara con algo filoso
  Siento que el mundo entero se está convirtiendo en un departamento de RR. HH. basado en el axioma ideológico de “si matas a una persona es asesinato, pero si matas a un millón es una estadística”

  • Eso no es más que corporativismo llevado al extremo

• Creo que los LLM son transformadores, pero me sorprende lo poco imaginativos que son la mayoría de los gerentes de producto
  Me recuerda a los 90, cuando la gente descubrió que podía poner GIFs en páginas web y entonces cada página tenía que tener cien GIFs. Era de mal gusto, y lo mismo pasa ahora con la mayoría de la IA integrada

  • Las minas terrestres también son transformadoras

• Una vez, no recordaba el nombre de un álbum que quería poner y SIRI no paraba de reproducir cualquier cosa
  Como a la quinta vez le dije: “Siri, me estás matando”, y llamó al 911
  El futuro es una porquería

  • Que tu smartphone te haga swatting suena a episodio de Black Mirror
  • Después de varios intentos fallidos, decirlo de forma tan suave demuestra que eres una persona increíblemente educada
    Yo empiezo a murmurarle insultos a chatGPT mucho antes. Creo que la ira inducida por IA va a convertirse en un fenómeno. Solo espero que no empiece a afectar en sentido inverso la forma en que tratamos a las personas
  • En realidad está bastante bien. Lo tomó literalmente y lo trató con seriedad
    ¿Esperabas que una máquina entendiera matices sutiles y respondiera como un amigo de confianza? Que la IA sea 100% seria me parece bien

• De hecho uso un LLM para convertir las transcripciones de MacWhisper[0] a una forma menos pulida, más acorde a cómo escribo en chats. MacWhisper permite configurar un prompt para posprocesar automáticamente la transcripción
  Mi prompt le pide que, como corrector y editor profesional, reescriba el dictado para que pueda usarse en chats con mayúsculas y puntuación más casuales. Le indico que “I” y derivados como “I’m” siempre deben ir en mayúscula, que las oraciones deben empezar en minúscula salvo que empiecen con “I”, que la puntuación dicha explícitamente se convierta en puntuación real, que no agregue punto al final del mensaje pero mantenga los puntos entre oraciones, que no elimine comas y que no cambie palabras difíciles por palabras más comunes. También le pido que devuelva solo el resultado, sin explicaciones de edición ni comentarios
  [0]: https://goodsnooze.gumroad.com/l/macwhisper

  • Me pregunto si hay una alternativa equivalente para Windows. No he encontrado nada tan bien hecho como MacWhisper