Ask HN: ¿Deberíamos agregar una etiqueta para marcar textos generados por IA?

• Se propone una función para solo agregar una marca a los textos generados por IA, sin bajar su ranking, para que los usuarios que no quieran leerlos puedan saltárselos
• La cuestión es si el sistema de votos existente es suficiente, o si HN debería cambiar los principios básicos que ha mantenido durante mucho tiempo para adaptarse a la era de la IA generativa

[GN⁺]

Opiniones de Hacker News

• dang: HN ya tiene una regla que prohíbe el texto de IA generativa dentro del propio sitio: https://news.ycombinator.com/newsguidelines.html#generated, https://news.ycombinator.com/item?id=47340079
  Todavía no existe la misma regla para el cuerpo de los artículos, pero en general la comunidad parece no querer ese tipo de textos o los valora poco. La razón por la que se recopilaron reacciones como “solo muéstrame el prompt” en https://news.ycombinator.com/genai-pushback fue para enviárselas a usuarios que preguntan por qué se reportó un texto de IA generativa.
  En este momento se está dando una interesante carrera armamentista: la IA aprende de los humanos y, al mismo tiempo, los grupos humanos también aprenden el estilo de escritura de la IA. Los lectores reaccionan casi alérgicamente a un estilo tipo LLM, y en ese momento el texto queda de inmediato relegado a una categoría de bajo estatus. No sabemos a dónde llegaremos a medida que la IA y los humanos se adapten mutuamente.
  En cambio, si quieres que tu texto sea clasificado como de alto estatus, escríbelo tú mismo. pg alguna vez lo expresó como “writes and write-nots”: https://paulgraham.com/writes.html
  No es que niegue la tecnología LLM en sí; HN también depende mucho de ella. La cuestión central es cómo usarla y si debe usarse en textos que se publican para otros humanos: https://x.com/paulg/status/2058871512451412457
  Un reporte solo para marcar algo funciona en la práctica como una etiqueta, algo que HN ha rechazado continuamente, aunque no lo descarta por completo. En su lugar, es muy probable que se pida una razón al reportar y que se pueda elegir entre sospecha de IA generativa, spam, fuera de tema, agresividad, etc. Los votos normales por sí solos siempre son insuficientes: https://hn.algolia.com/?dateRange=all&page=0&prefix=false&sort=byDate&type=comment&query=%22upvotes%20alone%22%20by:dang
  A la pregunta de si HN debe cambiar en la era de la IA generativa, quisiera responder con https://news.ycombinator.com/item?id=48887149, que es un homenaje a https://news.ycombinator.com/item?id=3742902

  • grayclhn: Clasificar esto solo como una cuestión de alergia o de estatus es demasiado simplista. En el trabajo he revisado cientos de documentos generados por IA y también he generado muchos yo mismo, pero el mayor problema es que no se puede dar retroalimentación profunda.
    No se puede saber si un malentendido o un vacío se debe a falta de comprensión del autor, a que la IA no entendió, o a que el autor no revisó bien. Incluso si hay una idea sorprendente, es difícil verificar si proviene de la intuición del autor, si puede explicarla mejor o de dónde salió.
    Si un coautor humano la trabaja lo suficiente, puede reflejar con precisión su punto de vista y comprensión, pero en la práctica eso rara vez ocurre; y el hecho de que el autor prácticamente no exista, de modo que no se pueda interactuar más a fondo con el contenido, es un problema especialmente grande en un sitio de discusión.
  • Springtime: Esto no es una prueba de pureza, sino un problema en el que el autor le traslada al lector la carga de verificar la exactitud. Si no se revela si se usó IA ni hasta qué punto hubo revisión humana, el lector tiene que investigar la veracidad de cada oración y se vuelve todavía más desconfiado.
    Si es un texto de un experto conocido, se puede leer con la disposición de confiar y aprender, pero las frases trilladas que la IA usa en exceso se vuelven una señal de que no se sabe cuánta revisión humana hubo. Al final uno lo deja para después como “un texto cuyo valor quizá solo se revele si una persona lo analiza por completo”, o lo rechaza de inmediato.
  • bhaney: Si entre las razones para reportar aparece “creo que es IA generativa”, me pregunto si eso significa que el texto generado por IA en sí mismo es motivo de reporte. Tampoco queda claro si desde ahora deberíamos reportar textos sospechosos, o esperar hasta que exista la función para elegir la razón.

• IgorPartola: Si se añade una marca de generado por IA, se pierde confianza, así que nadie querrá marcarlo voluntariamente. La comunidad puede reportar basándose en pistas y conjeturas, pero no será preciso y además implica trabajo extra.
  La era de los blogs prácticamente terminó, y no necesariamente es algo malo. Incluso antes de la IA, el spam de blogs y los blogs corporativos ya habían arruinado los blogs de calidad; así que la verdadera pregunta es qué va a reemplazar a los blogs.
  Si un texto de IA es indistinguible de uno humano, y además es correcto e interesante, ¿importa quién lo escribió? Lo que hay que evitar no es la generación por IA en sí, sino la baja calidad, ¿no?

  • freehorse: Aunque haya mucho spam en internet, la principal razón para visitar HN es que permite descubrir contenido interesante. Como considero que el contenido generado por máquinas hoy es de baja calidad, quiero elegir por mí mismo si leerlo antes de perder tiempo.
    Puede que llegue un futuro en el que sea imposible distinguirlo perfectamente, pero no es buen argumento decir que, por un futuro incierto, no hagamos nada ahora. El contenido de IA actual es bastante identificable, y si fue editado para que no parezca IA, al menos es un texto con más esfuerzo humano.
  • asdff: Si los textos de IA son realmente excelentes, no hay razón para conservar salidas largas de un modelo que pronto quedará obsoleto. Basta con publicar el prompt y, seis meses después, se podrá generar un texto mejor con un modelo más grande y mejor.
  • dgellow: Lo importante es el hecho de interactuar con un ser humano. Si un LLM crea contenido que parece humano y no lo revela, en esencia es engañoso.
    No importa si una persona lo escribió directamente en el teclado, pero sí importa si el contenido fue moldeado por un humano. Un LLM no solo teclea: también decide el estilo, el tono, la voz y la estructura, y esos elementos son centrales en la comunicación entre humanos.

• Retr0id: una buena parte de los votantes no reconoce las frases generadas por IA y, aunque las reconozcan, no les importa o las dejan pasar si la premisa es lo suficientemente interesante. Introducir una votación bidimensional de bueno/malo y IA/humano podría reducir los debates meta sobre cuánto se usó IA en un texto

  • DaiPlusPlus: el conjunto de textos que son lo bastante interesantes como para leerlos, pero no lo bastante interesantes como para escribirlos uno mismo, probablemente sea más pequeño de lo que parece
  • andrewmutz: no entiendo por qué bueno/malo por sí solo no es suficiente. ¿Qué tiene de malo usar IA en el proceso de crear un gran texto?
  • ryandrake: si el uso de IA en línea sigue creciendo tan rápido como ahora, para fin de año la mayor parte de Internet y de los enlaces de HN podría ser contenido basura de IA. Para entonces, decir “este texto lo escribió una IA” no aportará más información que decir que el autor usó un corrector ortográfico

• minimaxir: una función para marcar IA es mucho más peligrosa en la práctica que en la teoría. En redes sociales, si alguien lanza maliciosamente un “¿IA?”, se arma un alboroto por falsos positivos y el autor original tiene que demostrar quién es
  En los blogs tampoco hay una forma concreta de probar que un texto fue escrito por una persona, y exigir que se entregue el historial de edición es injusto. Si HN adopta esta función, es muy probable que haga más daño que bien

  • Aachen: la expresión “maliciosamente” implica que acusan creyendo en realidad lo contrario, pero es mucho más probable que la mayoría de verdad se haya confundido y crea que es un texto basura de IA. Las acusaciones infundadas y de bajo costo son malas por varias razones, pero cuesta creer que la gente las publique con frecuencia sabiendo que son falsas
  • Joel_Mckay: los usuarios de uBlock Origin ya filtran muchos sitios basura de IA con listas de bloqueo de sitios basura de IA, y eso puede ahorrar mucho tiempo al buscar información específica: https://github.com/alvi-se/ai-ublock-blacklist, https://github.com/laylavish/uBlockOrigin-HUGE-AI-Blocklist, https://github.com/Stevoisiak/Stevos-AI-Blocklist/

• shantnutiwari: estoy en contra. En cada texto popular de HN aparecen varios comentarios diciendo “esto es un LLM”, y ahora se volvió una forma de decir “no me gusta este texto, así que debe ser de un LLM”: https://news.ycombinator.com/item?id=48063759
  Como esos comentarios reciben algunos votos, se siente como farmeo de karma flojo. Si acusas a 100 textos de ser de un LLM, alguna vez vas a acertar, y como un astrólogo puedes presumir ese único acierto. Hace falta alguna forma de desalentar esos comentarios de bajo esfuerzo

• dawnerd: dado lo que YC invierte en IA, es difícil esperar una medida así. También hay demasiada gente aquí que piensa que simplemente hay que rendirse y aceptarlo, y personalmente eso me suena a lógica del agresor

  • dang: lee https://news.ycombinator.com/item?id=48887149 y me da curiosidad si, después de terminar la edición, esta respuesta seguirá siendo la misma
  • xdennis: HN prohíbe los comentarios de IA, así que una suposición conspirativa basada en las inversiones de YC tiene especialmente poco valor

• nunez: pedí la misma función hace un mes: https://news.ycombinator.com/item?id=48296731
  Si suficientes usuarios reportan algo como contenido de IA, estaría bien agregar al final del título una marca [AI Generated]

• CM30: el contenido generado por IA normalmente requiere menos inversión que el trabajo hecho directamente por una persona, así que una marca sería útil, pero no está claro cómo manejarlo bien
  En línea hay muchas cacerías de brujas y falsos positivos donde incluso obras humanas son acusadas de ser IA solo por usar guiones largos o porque las manos en una imagen se ven raras. Si los usuarios más vigilantes asumen lo peor, medio sitio podría terminar con una marca de IA
  Si se les pide a los autores declararlo voluntariamente, tienen grandes incentivos para mentir porque perderían confianza y lectores; y las herramientas de detección de IA también tienen muchos falsos positivos, así que es difícil confiar en ellas. Me gustaría que se agregara contenido de IA como motivo de reporte, pero que se presuma buena fe en las publicaciones normales, y que el sitio en conjunto no se vuelva demasiado paranoico ni restrictivo

• Debugreality: hay ideas que no habrían salido al mundo sin ayuda de la IA. Hace poco publiqué como white paper una propuesta de democracia en la que llevaba décadas pensando, y la IA me ayudó a expandir ideas, estructurar el documento y redactar el texto
  Como no soy académico, es muy probable que sin IA no lo hubiera terminado; y creo que es mejor que se publique a que se quede solo en mi cabeza y desaparezca. Un documento académico escrito directamente por mí sería mejor, pero aunque la mayor parte la haya redactado la IA, durante dos días revisé que estuviera de acuerdo con cada párrafo y corregí problemas
  Al evaluar la calidad, es más apropiado fijarse en el esfuerzo humano invertido que en si se usó IA

  • Aachen: usar un LLM para armar la estructura está bien, pero en la práctica se parece más a un problema de motivación para escribir el borrador, y el LLM solo cumple el papel de alguien que conversa contigo con interés
    Preferiría muchísimo una versión en la que solo escribas directamente las ideas clave, en vez de dejar que el LLM redacte el cuerpo. No quiero andar buscando los puntos importantes entre varias páginas de frases. En especial, usar un LLM para “engordar” ideas es la vía más segura para aburrir a la gente
    Convertir una intuición en un documento larguísimo solo hace falta en la etapa de legislación. Basta comparar “dime cómo usas los datos” con los artículos relacionados del GDPR

• lazyasciiart: ¿qué tal poner una marca en el título como [1997]? Es contenido que al lector le puede interesar o no, pero conocer su origen puede hacer que lo reciba de otra manera

  • sph: es una de las mejores soluciones. Bastaría con poner [AI] al final del título, aunque como la IA en sí tiene usos legítimos, quizá [SLOP] sea más apropiado

• teo_zero: así como hay gente que no soporta los textos generados por IA, también hay gente que no soporta los errores gramaticales. Si aparece la marca AI generated, también voy a querer una marca lousy with mistakes

• DevKoala: lo único que importa es si el texto es útil, basado en hechos y no sesgado. No me importa cómo fue escrito

• thinkingemote: En HN, una buena parte de los artículos que se buscan son sobre LLM, y muchos de ellos están escritos con LLM. Son horribles de leer y casi no hay joyas inspiradoras, así que si el tema tiene que ver, solo los hojeo; el verdadero valor suele estar en los comentarios.
  Si uno detecta fácilmente el estilo de los LLM, vale la pena revisar también los papers de investigadores y fundadores de IA anteriores a los LLM de consumo. Ese estilo es sorprendentemente parecido a la prosa actual de los LLM

• rddbs: Más que ocultar textos escritos por IA, quiero ocultar los textos sobre IA en sí. Ahora siento que la mayor parte del contenido de HN habla de IA, y cansa. Me interesan métodos como alguna extensión de navegador que ayude a recuperar el equilibrio

  • insin: En la extensión de HN que hice, ofrezco un filtro de palabras clave y dominios de IA como un interruptor separado de los filtros personales. Habría que agregar nombres de modelos recientes: https://soitis.dev/comments-owl-for-hacker-news
  • dijksterhuis: Ya aparecieron clones de HN que usan filtros con regex, herramientas que detectan artículos de IA usando IA y cosas por el estilo, pero no son perfectas; por ejemplo, también filtran hilos como este.
    Como primer paso, personalmente oculto todos los artículos relacionados con IA de la portada y, como segundo, busco los artículos interesantes que quedan. Últimamente, por desgracia, hay muchos días en los que no queda nada

• mattas: A estas alturas, quizá sería más apropiado agregar una marca de not AI

• ramon156: Hice una extensión personal que bloquea de mi feed a la gente que publica principalmente información generada por IA. A mí me funciona bien, pero no sé si sería válido para todo el servicio.
  Tal vez bastaría con ofrecer etiquetas para que la gente juzgue por sí misma. Extensiones relacionadas con YouTube como DeArrow y SponsorBlock implementan bien el enfoque de participación colectiva

  • arjie: Si publicaste la lista de bloqueo, me gustaría verla

• cloudpilot: Hice una app con ayuda de IA, pero escribí el mensaje yo mismo, y aun así me reportaron

• jaredcwhite: Creo firmemente que el texto generado por IA simplemente no debería aparecer. Pero salvo por señales obvias de LLM, es difícil probarlo, y tampoco es fácil exigir pruebas de que algo fue escrito realmente por un humano.
  Cada vez prefiero más las comunidades donde, si algo se comparte de forma legítima, se da por hecho que lo escribió un humano

  • ldoughty: El problema es si deberíamos considerar generado por IA algo que un humano borradorizó y luego mejoró o corrigió con IA, y cómo distinguir esos casos. Si no se permite ninguna ayuda de IA, también se podría discriminar a personas que se sienten incómodas escribiendo en un inglés imperfecto.
    Estoy de acuerdo con el principio, pero es difícil implementarlo de manera justa y el riesgo de discriminación es grande. También está la paradoja de que corregir typos y dejar rastros de edición puede hacer que algo parezca más humano
  • stackghost: Es difícil encontrar comunidades donde se asuma que lo compartido legítimamente fue escrito por humanos

• shahzaibmushtaq: La IA no es superior a la inteligencia humana (HI), ni puede llegar a serlo. Revelar si el propio trabajo fue generado con IA y en qué proporción se usó es responsabilidad del autor y de quien escribe

• KingOfCoders: Un texto es excelente o no lo es. No me importa si lo escribió un humano, una IA o un gato

  • pillmillipedes: Me gustaría ver ejemplos de textos excelentes escritos por una IA o un gato

• amelius: Sería bueno que Unicode agregara un rango de códigos igual a los caracteres de Latin-1, pero reservado exclusivamente para herramientas de IA. Así se podría dejar una especie de bit de marca permanente en los productos generados por IA.
  Incluso hoy se podría implementar algo parecido exigiendo a las empresas de IA que usen un carácter de espacio especial en lugar del ASCII 0x20, y también ayudaría a evitar el problema de volver a entrenar con datos generados

• nickandbro: En textos de puro texto, no sé si habría que contar siquiera la cantidad de guiones largos, ni cómo se haría cumplir en la práctica. Incluso los detectores de IA diseñados para ese propósito tienen muchísimos errores

• warshinder: Primero reviso los comentarios. Siempre hay alguien que avisa si el artículo es de IA, si no vale la pena leerlo o si no carga.
  En los primeros tiempos de HN, eso también ayudaba a que quien enviaba el link evitara una avalancha de tráfico, y si había paywall, alguien publicaba en los comentarios una versión archivada

• CqtGLRGcukpy: Un texto que alguien considera generado por IA puede no serlo en realidad, y los detectores de IA tampoco son lo bastante confiables como para afirmarlo con certeza

  • esjeon: Llamar generado por IA a algo que un humano escribió personalmente se vuelve un insulto serio. Una función para marcar IA podría causar más daño a la comunidad que simplemente dejar el contenido generado
  • bakugo: En caso de duda, hay que decidir a favor del autor, pero la mayoría de las veces no es tan difícil distinguirlo. Los modelos recientes especializados en coding, si no se les dan instrucciones cuidadosas, escriben de una forma particular y reconocible de inmediato; en ese sentido, incluso es bueno, porque evita perder tiempo leyendo textos de IA.
    Un buen ejemplo es el artículo publicitario superficial que ahora está en el puesto 1 de la portada: https://news.ycombinator.com/item?id=48884853

• aryehof: Me preocupa que sea fácil descartar o silenciar la perspectiva de una persona específica solo con insinuar que fue generada por IA

• rdataguy: No siempre se puede saber fácilmente si algo fue generado por IA, y la función también podría abusarse. Aun así, si la inteligencia colectiva identifica una cantidad suficiente, podría ser útil

• itsgrimetime: No me opongo a marcar los textos de IA, pero me gustaría que se tratara el contenido en sí con más profundidad, independientemente de cómo fue escrito. Últimamente parece que aumentaron los casos en que se rechaza o critica de inmediato solo por la forma en que fue escrito, más que por lo que dice el envío

• Xotic007: Si aparece una marca de IA, solo se les dará a los creadores un objetivo de detección claro que evitar. Como resultado, disminuirá el estilo de IA más obvio, pero no es difícil evadir la detección, así que el esfuerzo de producción casi no aumentará

• deevus: Un Show HN que escribí yo mismo quedó atrapado en la moderación automática. Sinceramente, me activó la sensibilidad al rechazo, y desde entonces no publico en HN

• edoceo: ¿No bastaría con agregar una función de voto negativo a los envíos?

  • jagged-chisel: Ya existe flag
  • JimsonYang: HN permite votar negativo solo de forma limitada a miembros que llevan mucho tiempo activos. Probablemente lo diseñaron así para fomentar una discusión positiva

• Esophagus4: Un concepto de referencia es https://en.wikipedia.org/wiki/Evil_bit

• atomicthumbs: Recomendarle a alguien que lea un texto escrito por una máquina es una falta de respeto por su tiempo. Si no te importó lo suficiente como para escribirlo tú mismo, no hay razón para que otra persona lo lea, así que su valor es cero.

• mleroy: En vez de rastrear y reportar contenido de IA, se podría hacer que los autores indiquen voluntariamente que es contenido original. A los enlaces se les podrían poner etiquetas como [Handmade], [Craft-Article], [Artisan-Thinking].

• jeremyjh: Las publicaciones enviadas no se pueden votar negativamente, y también hay mucha gente a la que no le molesta leer textos que nadie escribió personalmente, así que la votación normal no alcanza.
  Puede haber un esfuerzo considerable en procesos distintos a la escritura, así que no se puede concluir que algo no tiene valor solo porque fue escrito por IA. Aun así, me inclino por aplicar alguna desventaja para establecer una norma que respete la comunicación genuina entre humanos.
  Uso mucho IA para varios fines y leo contenido generado con frecuencia, pero cuanto más reconozco esa voz típica de la IA, más me irrita. Hay una gran diferencia entre leer una respuesta a mi propio prompt y leer un texto del que no sé nada sobre el prompt, cuántas correcciones hubo ni si fue revisado por una persona.
  Normalmente, en un texto escrito por un humano, el autor invierte al menos cinco veces más esfuerzo que el lector, pero en un texto de IA no hay forma de saber si el lector está dedicando más tiempo que el autor, y eso se vuelve una distracción difícil de tolerar.

  • visarga: A mí también me molestan las señales típicas de la IA cuando las veo, pero si alguien introdujo personalmente 10 veces más contenido que el texto final y solo cambió la redacción, es ambiguo si eso cuenta como generado por IA. No uso IA en comentarios; solo la uso para ordenar la forma de textos largos que voy a publicar en mi blog.

• nyellin: Si se introduce una marca para indicar si algo es de IA, los comentarios de todas las publicaciones se convertirán en discusiones sobre si lo escribió una IA y en qué medida. Es mejor dejar que se evalúe por el contenido en sí.

• lukasbm: A nadie le gusta leer la salida de un chatbot que nadie filtró, pero también es imposible detectarla con certeza.