1 puntos por GN⁺ 20 시간 전 | 1 comentarios | Compartir por WhatsApp
  • Se eliminó una entrada personal de blog que organizaba la correspondencia entre Nix flakes y Guix después de que surgieran sospechas de uso de LLM
  • La publicación nació de la curiosidad y, aunque no fue suficiente, implicó mucha investigación y fue un trabajo del que se sintió orgulloso al punto de compartirlo con sus amigos
  • Después de compartirse en chats de Matrix, la publicación llegó a la portada de lobste.rs, y un toot del fundador de Guix, Ludovic Courtès, recibió 12 boosts
  • Un cambio de JavaScript aplicado a último momento rompió el sitio en móviles y los lectores no pudieron leerlo; lo corrigió de inmediato al enterarse, pero el descontento ya se había generado
  • Al inicio de la reseña de Andrew Tropin apareció la sospecha de autoría con LLM, y más que la crítica técnica, fue el hecho de que su texto pareciera falso lo que llevó a eliminar la publicación

Contexto de la eliminación de la publicación

  • La publicación “nix flakes and their guix equivalents” fue eliminada, y no quiere que se malinterprete que la razón fue “porque descubrieron que usó un LLM”
  • Esa publicación fue escrita por curiosidad, para entender mejor algo; reconoce que la cantidad de investigación no fue suficiente, pero sí hubo mucha investigación
  • Compartió la publicación con sus amigos porque a él le pareció interesante y pensó que a ellos también podría parecerles así
  • Justo antes de dormir publicó la entrada en algunos chats de Matrix, y luego vio que había llegado a la portada de lobste.rs
    • Nunca imaginó que una entrada previa de su blog superaría a tres personas interesadas
    • El fundador de Guix, Ludovic Courtès, publicó un toot, y ese toot recibió 12 boosts

Críticas y decisión de eliminarla

  • Un cambio de JavaScript aplicado a último momento arruinó el sitio móvil y la gente no pudo leer la publicación
    • Lo corrigió en cuanto se enteró del problema, pero para entonces la gente ya estaba frustrada
    • Considera que no puede culparlos por esa frustración
  • Al día siguiente, después del trabajo, un amigo le compartió el enlace a la reseña de la publicación de Andrew Tropin
    • Andrew Tropin era visto como alguien cuyo trabajo respetaba
    • La abrió esperando la reseña, pero en el tercer párrafo surgió la sospecha de que podía haber sido escrita con un LLM
  • No siente rechazo hacia la crítica técnica en sí, y da la bienvenida a críticas de alguien tan conocedor como Andrew
    • Lo que lo derrumbó no fue el señalamiento técnico, sino la sospecha de que no escribió sus propias frases
    • Más que los puntos técnicos o las correcciones, lo que más pesó fue que antes que nada se sospechara que era algo falso
  • Por ahora no puede abordar la respuesta a los señalamientos técnicos de Andrew
    • Está emocionalmente demasiado afectado como para procesarlos correctamente
    • Reconoce que la crítica puede ser válida y precisa, pero ahora mismo no tiene ánimo para responder
  • También hubo mucho esfuerzo invertido en la infraestructura del sitio
    • Creó ox-atom para el feed y neocities.el para comunicarse con Neocities
    • Escribió por su cuenta el CSS y el JavaScript, el patrón de fondo tiene gatos y los encabezados de sección tienen un pequeño brillo
    • En el postamble aparece ~ meow ~
  • La sospecha de que el texto, la parte más importante del blog, sonara como si saliera de una “Markov chain más pulida” resultó devastadora
  • No usó un LLM, pero no puede demostrar una negativa y está demasiado cansado incluso para intentarlo, así que bajó la publicación

1 comentarios

 
Opiniones en Lobste.rs
  • Honestamente, creo que esto es el resultado de los comentarios constantes de “parece un texto escrito por un LLM” que aparecen por todos lados, junto con ponerle la etiqueta vibecoding a todo por motivos totalmente triviales
    Basta con que una sola persona plantee la sospecha para que casi no haya forma de defenderse y demostrar que no se usó un LLM, y si además en tu blog hay textos u opiniones sobre LLM, quedas todavía peor parado. Hasta que se pruebe lo contrario, te tratan como spam

    • Me opongo con bastante fuerza a la IA generativa, pero el sospechosismo constante de LLM ya me está cansando
      Por edad no soy precisamente alguien muy bueno para detectar las señales típicas, pero también me cuesta creer que quienes se lanzan sobre cada texto distingan tan bien como creen. Los LLM imitan cierto estilo que los humanos ya usaban mucho en textos de marketing y negocios desde antes de la IA, y mucha gente quizá absorbió ese estilo sin darse cuenta
      En el código sí quiero saber si fue escrito con IA por una cuestión de confiabilidad, y en las imágenes normalmente se nota además de que importa por verificación de la realidad. Pero en texto uno puede hojear y juzgar con relativa facilidad la relación señal-ruido y la calidad, así que hay menos motivo para reaccionar de forma tan inmediata
    • Precisamente por eso, cada vez me da más cosa publicar en este sitio textos míos que antes recibían buenas reacciones
      Ya una vez sospecharon que había escrito algo con un LLM, y en realidad no fue así. Como mis textos recientes son sobre IA, aumenta la posibilidad de que se dé por hecho que fueron escritos por IA y que lo que publique después también quede contaminado por esa sospecha
      Se puede decir que “solo es una etiqueta”, pero es más que eso. Se siente como si se hubiera roto el respeto de una comunidad que antes me parecía equilibrada, y viendo los muchos votos de este hilo, parece que no soy el único que lo siente así
    • Un amigo me mandó este texto antes de que lo viera en lobste.rs, y cuando lo leí por primera vez tuve el impulso de descartarlo como basura escrita por LLM
      Aun así, decidí leerlo hasta el final y ordenar críticas más concretas, y al final escribí algo como “me da la impresión de que el autor no ha interiorizado del todo por qué hacen falta las flakes, pero está bien”. Después siguió una discusión sobre qué hacen las flakes y por qué
      Viéndolo en retrospectiva, me alegra no haber dejado un comentario flojo de sospecha de spam. De haberlo hecho, no habría podido absorber más contenido interesante, y la conversación que vino después también se habría bloqueado
      En lo personal, trato de restarle importancia a las herramientas que la gente pudo haber usado para investigar. Si algo es spam evidente y en la práctica un ataque de denegación de servicio contra la atención, da igual si lo hizo una persona o un LLM: se ignora. Pero si es un texto que simplemente no encaja bien con mi modelo mental, preferiría gastar el tiempo en sacar críticas más constructivas en vez de centrarme en el uso de herramientas
      Ese impulso creciente de etiquetar algo como basura de LLM revela más nuestra reacción ante el cambio social que al autor al que quizá estamos malinterpretando
    • El problema es que todos quieren recuperar una métrica barata de “este texto probablemente no estará tan mal”
      Pero esa métrica no va a volver, y al menos hasta que se desinfle la burbuja de la IA, seguro que no
      Antes los textos eran “buenos”, “malos”, “verdaderos” o “falsos”, y al leerlos aparecían señales rápidas y claras. Ahora, por la existencia de los LLM, apareció una tercera categoría negativa: “no está claramente mal, pero es plano y me hace perder el tiempo”, y detectar eso requiere demasiado esfuerzo. Es la versión potenciada con calor computacional y capital de riesgo del “ni siquiera está equivocado” de Wolfgang Pauli
      Lo peor es que ni siquiera resulta fácil creer que quienes gritan “esto es un LLM” sean humanos de verdad. Son tortugas hasta el infinito
    • Si uno piensa que los LLM no son malos, entonces no entiendo por qué esto sería un problema. Si piensa que sí lo son, entonces debería poder ver el colapso de confianza y el daño que produce meter salidas de LLM en espacios humanos
      Yo tampoco quería que esto terminara así, pero este es el futuro que construimos compitiendo por llegar primero
      Lo rompimos, y no se arregla con solo desearlo. El mundo ahora será peor para siempre, y si queremos revertirlo aunque sea un poco, hay que crear espacios donde los entusiastas de los LLM no aparezcan
      Hay gente que llegó con un bate de béisbol y destrozó el lugar. El daño ya está hecho y no se puede volver exactamente a como era antes. Entonces, decir “me incomoda el ambiente porque la gente quiere ver si estoy sosteniendo un bate de béisbol” es, francamente, insultante. Muy seguido, quienes se quejan sí están sosteniendo el bate
      Claro que esto perjudica a la gente. Por supuesto. ¿Qué creen que significa oponerse con fuerza a la IA generativa? Que no hay forma de usarla sin causar daño
  • No entiendo por qué están denunciando este texto
    La sospecha equivocada de uso de LLM existe de verdad y, como se ve en el texto, afecta de manera real la salud mental del autor y su motivación para escribir. Es un tema que vale totalmente la pena discutir

  • El autor de la entrada de blog que detonó la eliminación añadió una frase interesante
    Dijo que le entristece haber herido los sentimientos del otro autor por sus sospechas y que, en realidad, no le importaba demasiado si el texto había sido escrito a mano o no. También admitió que no prestó suficiente atención al ser humano detrás del texto, y que aunque le gustan el estilo, el arte y el oficio, en ese momento eso estaba fuera de foco
    Agregó que él mismo tuvo una experiencia parecida cuando un texto suyo sobre la época en que vivía en el bosque fue compartido en HN y, pocas horas después, lo denunciaron y sospecharon que había sido generado por IA o escrito bajo efectos de drogas, así que conoce bien lo desagradable y desmoralizante que se siente. También dijo que sabe lo mucho que desmotivan las revisiones de artículos que devalúan el trabajo desde la primera frase
    Añadió que siempre le entristece cuando hiere injustamente los sentimientos de alguien y le quita las ganas, y que siempre se alegra cuando una suposición pesimista resulta estar equivocada

    • Es muy raro y un poco molesto que aquí no aparezca ni una sola vez la palabra “perdón
      Tomando solo estas frases, hay empatía porque pasó por algo parecido y sabe que esto hiere mucho, además de una reflexión sobre haber juzgado superficialmente a la persona detrás del texto y haber hecho algo malo. Pero luego no da ese último paso, tan obvio, de intentar corregir la situación
      Sobre el sitio en sí, antes de que lo bajaran incluso tuve un error en móvil y eso fue bastante irritante, pero más allá de eso era evidente que había mucho trabajo y dedicación ahí. Guix es realmente un sistema genial, pero como suele pasar con el proyecto GNU, está bastante desordenado y encontrar buena documentación es casi una lotería. Por eso, un texto que traduzca esos conceptos a términos que más gente pueda entender ayuda muchísimo a todos los usuarios presentes y futuros
  • Como alguien con la piel bastante dura y a quien le importa poco lo que cualquier fulano de internet piense de mis posts, diré que ser acusado de haber escrito con un LLM cuando en realidad no fue así ha sido una de las experiencias más desmotivadoras y frustrantes que he tenido hasta ahora
    Tal vez ya sea hora de dejarlo

    • Se puede intentar la reestructuración cognitiva
      Cuando la gente insinúa que usé un LLM, en vez de pensar "me compararon con un chatbot y me siento profundamente insultado", pienso: "ah, esta gente no tiene la sensibilidad lingüística lo bastante desarrollada como para distinguir entre buena y mala escritura"
  • Es una pena que hayan bajado el post. Me pareció un texto útil y reflexivo como comparación entre Guix y Nix, y más aún porque provocó otros textos que intentaron corregir errores
    Para el lector, ambos tienen valor, y si no hubiera existido el primero, el segundo tampoco habría aparecido
    Es lamentable que surgieran sospechas de uso de LLM. A mí me pareció que estaba bien escrito. Desde la perspectiva de los críticos, algunas partes quizá dieron la impresión de estar “seguras pero equivocadas”, y eso es común en la “investigación” hecha al estilo LLM. Pero también es muy común en no especialistas que tratan de orientarse entre materiales barrocos de internet para averiguar qué “hechos” siguen siendo válidos
    Equivocarse en internet tiene mucho valor. De hecho, a menudo termina provocando la refutación de alguien
    Espero que @coopi siga escribiendo

  • Ahora hasta me da cosa editar mis propios textos
    Mientras más parezca un borrador, casi como el balbuceo inicial de un demente, menos probable será que sospechen que lo escribí con un LLM

    • Creo que vas por buen camino. Si empiezo a ver la buena escritura como un antipatrón, tal vez también se me quite el bloqueo al escribir
  • Siento que el juicio de “esto lo escribió una IA” va a convertirse en el equivalente moderno de “esa imagen se ve falsa, se nota en los píxeles, yo he visto montajes antes”

  • Esta situación es lamentable. Siempre existe el miedo de que una sola entrada de blog reciba una reacción adversa, y por eso ya me parece admirable que alguien publique algo o siquiera envíe su contenido a un sitio agregador
    Aquí hay mucha gente de la que se puede aprender, pero al mismo tiempo también hay muchos expertos dispuestos a diseccionar un texto pedazo por pedazo
    Yo paso mis textos terminados por varios LLM varias veces y les pido: “como miembro de $orangesite y de lobste.rs, por favor comenta este texto”. Me ayuda a anticipar las críticas y a ganar confianza en lo que voy a publicar, pero por ese filtro también mueren muchos textos

  • Aun tratando de verlo de la mejor manera, esto no lo entiendo

    1. No sé por qué no le escribieron primero un correo a tropin. Se puede bajar el texto y publicar un aviso de eliminación, pero si no se explica el motivo, se evita generar públicamente una sospecha innecesaria de conducta indebida. Tropin tampoco mostró esa misma cortesía, pero esta forma de actuar, parecida a una “venganza”, aunque no haya sido intencional, no es sana
      Hoy en día incluso puedo entender esa sospecha hacia tropin, aunque no sea aceptable hacerla sin pruebas. De hecho, él mismo dijo que no le importaba demasiado si “estaba escrito con LLM o no”
    2. Tampoco entiendo por qué se borró el texto. La sospecha sigue ahí, el texto no puede aportar una prueba negativa, y tú mismo lo dices. Podrías no haberlo borrado y en cambio escribir sobre cómo te hizo sentir esta situación. Si el objetivo era evitar el acoso, no veo cómo ayuda escribir otro post público sobre este tema
    3. Cuando publicas algo en internet, casi siempre vienen críticas injustas. Si no puedes soportar críticas injustas, quizá por tu propio bien sea mejor evitar en general la escritura pública
    • Decir “si no puedes soportar críticas injustas, evita escribir en público” es básicamente culpar a la víctima
      No es muy distinto de decir: “si no aguantas que otros sean crueles, entonces tu perspectiva no vale la pena ser escuchada”. ¿Por qué silenciar a alguien que no hizo nada malo, en vez de decirles a los que se comportan mal que paren?
      Sé que no se puede controlar todo internet, pero al menos en lobste.rs, ¿no se podría frenar eso de lanzar sospechas sin fundamento en cada post?
  • Algo en lo que he pensado mucho respecto a mi blog y a mi escritura es: “¿por qué escribo?”
    ¿Escribo solo para mí, o para lectores?, ¿quiénes son esos lectores?, ¿quién quiero que me lea y qué espero que obtengan?, y ¿por qué me importa eso?, es decir, ¿qué obtengo yo de ello? Son preguntas a las que vuelvo una y otra vez
    Si soy sincero, en mi caso también hay una parte de atención, reconocimiento y ego. Tengo algo que quiero decir, y el hecho de que alguien me escuche me aporta algo. También está el disfrute del propio proceso de escribir, y un deseo estético de fijar con precisión algún sentimiento en el lenguaje
    Al mismo tiempo, también siento disonancia. Cuando un texto mío recibe atención, muchos de los comentarios que llegan no son lo que yo quería. Involucrarse con seriedad y generosidad en el texto de otra persona es muy difícil incluso cuando existe esa intención, y a la mayoría de quienes comentan en línea ni siquiera les sobra esa intención. Y aun así, yo sigo haciendo cross-post en lobste.rs y HN y mirando las visitas
    Como absurdista, supongo que acepto esa contradicción. Los deseos que siento son impulsos evolutivos reales —buscar reconocimiento, reciprocidad y relación en una comunidad física real— que terminan mal dirigidos hacia algo abstracto y parecido a una comunidad como lo es bloguear en internet
    Por eso, cuando veo a coopi intentando decidir si esto es razonable o no, pienso en ese supuesto de que, si publicaste algo en internet, deberías estar preparado para cierto tipo de respuesta; en ese supuesto de que existe cierta homogeneidad en por qué la gente escribe, por qué comparte algo públicamente y cómo debería reaccionar. En realidad, hay muy poco de racional en escribir para mil millones de desconocidos como lectores potenciales desde el principio