- Substack lanzó el escaneo de Pangram, que permite a los lectores estimar la proporción de un post escrita por humanos y la parte asistida por IA, junto con la función “How I make this”, que revela el proceso creativo
- El objetivo es centrarse no tanto en el uso de IA en sí, sino en la falta de transparencia, para que los escritores reciban reconocimiento por su aporte y los lectores puedan juzgar mejor qué contenido leer
- Los escritores reciben con agrado una mayor transparencia, pero también expresan preocupación por la posibilidad de falsos positivos, por procesos creativos difíciles de capturar con una sola etiqueta y por el riesgo de terminar vigilando cómo trabajan los demás
- Tras incorporar comentarios, ahora es posible desactivar el escaneo de lectores por post sin interactuar con Pangram ni escanear primero el texto
- Dado que la IA se usa en varias etapas, como investigación, traducción, edición y redacción de borradores, es difícil juzgar las ideas y el trabajo del autor solo por los resultados de detección; revelar métodos de trabajo concretos se usa para construir confianza con los lectores
Funciones de transparencia de IA basadas en Pangram
- Los lectores pueden escanear texto publicado en Substack para ver una proporción estimada entre las partes escritas directamente por una persona y las partes asistidas por IA
- También se ofrecen funciones para editores
- Pueden ejecutar Pangram en borradores antes de publicar
- Pueden desactivar el escaneo de lectores para cada post
- Pueden agregar una frase “How I make this” para explicar el proceso creativo y establecer expectativas con los lectores
- La función está disponible en web, iOS y Android
- Substack y Pangram no usan el contenido de los editores para entrenar modelos de IA generativa
Enfoque en la transparencia más que en el uso de IA
- Aunque las normas sobre el uso y la divulgación de IA aún no están consolidadas, Substack considera que, si bien el uso de IA no necesariamente es un problema en sí mismo, la falta de transparencia sí lo es
- El objetivo es ayudar a que los escritores reciban el reconocimiento que corresponde por su trabajo y que los lectores elijan, con más información, en qué dedicar su tiempo
- Se parte de la premisa de que, más allá del rendimiento de la IA, la perspectiva humana es un elemento necesario para la cultura
Debate en torno a la creación humana y la IA
- Archie Hall es optimista sobre las posibilidades económicas de la IA, pero considera que, aunque el nivel sea suficientemente legible, se deben evitar las frases escritas por IA
- Lincoln Michel sostiene que el arte requiere intención y elección, por lo que una salida de IA que no sea producto de una elección no puede ser arte
- Hinternet Editorial Board propone clasificar la dependencia de IA con una escala tipo Mohs de 0 a 10
- Sam Kriss rechaza en tono contundente delegar la escritura a la IA
- Los escritores han estado probando directamente qué puede y qué no puede generar la IA
- Freddie deBoer experimentó si los modelos de lenguaje grandes pueden escribir componentes de una novela, excepto las frases en sí
- Rohit Krishnan midió las características estadísticas del estilo literario y analizó si los modelos pueden aprenderlas
- Hollis Robbins comparó poemas generados por dos LLM distintos para examinar si podían acercarse a la gran poesía, y considera que para un poeta la expresión excepcional en sí misma es poesía
- Elle Griffin escribió una ficción sobre un día en una futura utopía de IA
- Andrea Bartz escribió un argumento detallado en contra de la IA generativa actual
- Teddy (T.M.) Brown considera que gran parte de la escritura comercial nunca fue, en esencia, expresión creativa, por lo que lo que desaparece no es tanto el alma como el medio de vida de los escritores
Reacciones positivas justo después del lanzamiento
- Algunos escritores evalúan las herramientas de transparencia como un primer paso correcto para proteger a los autores y mejorar la experiencia de lectura
- Katie Harbath apoya la transparencia, aunque le preocupa que las herramientas de detección de IA borren los matices del uso ético
- Afirma que la IA la ayudó a sostener un newsletter regular mientras combinaba consultoría, la preparación del lanzamiento de un libro y la vida cotidiana
- Gergely Orosz afirma que, si se entera de que un texto fue escrito por IA, asume que el creador no dedicó tiempo a escribirlo personalmente y no lo lee
- Joe Hill considera que la IA escribe mejor que una persona promedio, pero peor que un escritor profesional, y que esa diferencia genera en masa contenido de baja calidad que aleja a los lectores
- Helen Lewis reveló cómo usa la IA después de que sus 2.000 palabras fueran clasificadas como escritas por humanos
- Escribe sus textos directamente y no usa IA para verificar datos ni revisar ortografía
- Cuando usa IA para investigar, verifica las fuentes originales personalmente, igual que cuando usa un motor de búsqueda
Preocupaciones por falsos positivos y la cultura comunitaria
- Las posturas críticas señalan tres límites que surgen al reducir el uso de IA a una sola etiqueta
- Falsos positivos, es decir, textos escritos por personas clasificados como escritos por IA
- La dificultad de capturar todo el proceso creativo de un texto con una sola etiqueta
- El riesgo de que la atención se desplace de la obra a vigilar cómo trabajan otras personas
- Emma Richmond teme que frases académicas que siguen ciertas reglas sean clasificadas erróneamente como IA
- Kathleen Schmidt considera que, si cualquiera puede usar una herramienta de detección que puede equivocarse, incluso escritores que en realidad no usaron IA podrían quedar bajo sospecha
- Monica Hebert critica la detección de IA como una prueba de pureza moral encubierta
- Un detector puede estimar la posibilidad de intervención de IA, pero no puede saber quién tuvo la idea original, quién vivió la experiencia ni quién contó y revisó la historia
- Tampoco puede medir el trabajo humano de rechazar borradores, cambiar el argumento, restaurar el humor y reescribir párrafos y finales
Desactivación del escaneo tras incorporar comentarios
- Substack modificó la función tras incorporar feedback, de modo que los editores puedan optar por desactivar el escaneo de lectores por post sin tener que escanear primero el texto ni interactuar con Pangram
- Como las formas de usar IA son tan diversas como la cantidad de creadores, la frase “How I make this”, que aparece junto con los resultados del escaneo, permite revelar procesos concretos
Ejemplos de uso de “How I make this”
- Claudia Sahm siempre escribe el primer borrador por su cuenta y usa IA principalmente para editar y mejorar la claridad
- Antes de escribir, revisa ideas con IA y también la usa para recopilar materiales de contexto, incluidos análisis de datos y gráficos que ella indicó directamente
- Aclara que la responsabilidad por errores y omisiones es suya
- Thierry, cuyo idioma nativo no es el inglés, usa IA como editor en inglés
- Pule las frases, pero no cambia las ideas ni el contenido sustancial
- Plum Sykes informa de forma simple que no usa IA en absoluto
- Nate usa IA en investigación, borradores, escritura y edición
- Primero convierte voz a texto durante 10 a 15 minutos para capturar sus ideas en forma original
- Luego crea borradores con el modelo y los revisa repetidamente para reflejar con precisión sus ideas e intenciones
- Considera que ser clasificado como asistido por IA es un resultado preciso y esperable
- Morgan Vogel usa una frase humorística: escribe con Google Docs abiertos, bebidas con cafeína y oración
- Sara Szal MD afirma que sus ideas provienen de su investigación, de 30 años de práctica clínica y de los seis libros que publicó
- Usa una herramienta de IA entrenada con sus propios textos para mejorar la eficiencia de edición y publicación, pero estructura personalmente los marcos, modelos, pensamiento crítico y recomendaciones clínicas
- Anthony Lawrance usa Claude como un editor que dirige un equipo de reporteros
- Le pide recopilar materiales e historias, luego revisa las fuentes y edita a fondo los borradores, mientras que él se encarga de los títulos y asume la responsabilidad de la publicación
- Jim Waterson afirma que su trabajo contiene mucho trabajo humano y que no usó IA
Próximos planes
- Substack planea construir confianza entre creadores y lectores, y crear un entorno en el que cada persona pueda tomar decisiones adecuadas para su actividad creativa y su negocio
- A partir de la próxima semana iniciará la serie “Model Behavior”, que abordará las formas de trabajar en la era de la IA de escritores, creadores y pensadores, así como sus sentimientos hacia la IA
- La plataforma seguirá pidiendo a los editores opiniones sobre cómo apoyar a escritores y creadores en el entorno de IA mediante republicaciones, comentarios y la divulgación de “How I make this”
Aún no hay comentarios.