Personas cansadas de la IA

• Mientras la IA se expande rápidamente por las pruebas, el desarrollo y la vida diaria en general, el cansancio crece más por el exceso de marketing de IA y el empaque estilo “game changer” que por la resolución de problemas
• En la automatización de pruebas, viejos problemas como las pruebas E2E full-stack lentas, la testabilidad y los principios básicos de programación siguen siendo difíciles de resolver solo con herramientas nuevas
• Las herramientas de IA pueden producir resultados más rápido, pero en el trabajo real importan más la calidad del resultado y el proceso en que una persona evalúa y lo refina
• En las propuestas para conferencias aumentan las frases al estilo ChatGPT, y la oportunidad de mostrar la experiencia y la perspectiva propia del ponente se debilita con oraciones automáticas y genéricas
• Las obras creativas como la música, los libros y las películas resultan atractivas por los pensamientos y emociones humanas; aunque lo generado por IA pueda ser técnicamente impresionante, le cuesta provocar la misma respuesta emocional

---

El cansancio que provoca el exceso de IA

• En los últimos años, la IA ha mostrado una tendencia a aplicarse a casi cualquier problema en pruebas de software, desarrollo y la vida cotidiana en general
• Buscar y desarrollar nuevas soluciones para problemas existentes no es un problema en sí, pero la forma en que se usa y se vende la IA deja un fuerte agotamiento
• Cualquier tecnología con olor a IA se envuelve de inmediato con expresiones como “game changer”, “pivotal” o “revolutionary”, y a la semana siguiente el ciclo se repite con otra solución
• Esta postura puede parecer Neo-Luddite, pero no significa rechazar por completo a la IA
• Hay áreas donde la IA es útil, y de hecho se usa de manera poco frecuente y con cautela, pero la mayoría de sus usos se sienten agotadores

Viejos problemas que siguen en la automatización de pruebas

• Desde la experiencia de casi 18 años enfocados en pruebas y automatización de pruebas, aún quedan no pocos problemas que siguen igual pese a tantos cambios
• Las pruebas end-to-end full-stack siguen siendo las más lentas y costosas
• Para escribir pruebas más pequeñas y rápidas, sigue siendo clave hablar de testabilidad
• Las buenas pruebas automatizadas requieren conocimiento práctico de buenos principios básicos de programación
• No hay atajos para estos problemas, y resolverlos requiere tiempo y experiencia
• Simplemente agregar más herramientas no ha ayudado hasta ahora, y muchas “AI-powered test automation solutions” abordan el tema de la misma manera

La brecha entre resultados rápidos y buenos resultados

• Las herramientas basadas en IA pueden producir resultados más rápido
• En algunas situaciones, un resultado rápido puede ser justo el resultado que se necesita
• Pero en la práctica, muchas veces se necesita un resultado mejor, no solo uno más rápido
• No se ven muchos casos en que las herramientas basadas en IA realmente produzcan mejores resultados
• La IA puede servir para generar rápidamente un resultado o una propuesta cercana a un resultado
• Aun así, la calidad y el valor de ese resultado son inciertos, y una persona debe juzgar su utilidad con su propio conocimiento y experiencia
• Muchas veces la salida generada necesita trabajo adicional para dejarla realmente utilizable
• En ciertos casos, los resultados generados por IA ayudan, pero cuesta confiar en ellos lo suficiente como para reemplazar el trabajo de una persona hábil y con experiencia

Huellas de IA visibles en las propuestas para conferencias

• En los últimos años, durante el trabajo en varios comités de programa y procesos de revisión de conferencias, ha aumentado mucho el número de propuestas que parecen haber sido ayudadas o escritas por completo con ChatGPT o software similar
• Las propuestas generadas automáticamente suelen sonar parecidas
  • “In the ever-changing world of …”
  • “Delve”
  • “Pivotal”
• Estas expresiones dan la impresión de que se usó ChatGPT en lugar de dedicar tiempo y esfuerzo a escribir la propuesta directamente
• Una propuesta es la primera y muchas veces la única oportunidad para mostrar quién es el ponente y qué experiencia y opiniones tiene sobre un tema específico
• Cuando esa oportunidad se deja en manos del software, las ideas propias y cuidadosas se reducen a frases comunes y aburridas
• Si ni siquiera puede escribir personalmente una propuesta, al comité de programa le resulta difícil confiar en una presentación original del ponente
• Las propuestas claramente escritas por IA o con ayuda de IA se rechazan de inmediato, aunque el tema parezca interesante o la capacidad de exposición parezca buena
• Si no se ve el esfuerzo por escribir una buena propuesta por cuenta propia, también es difícil confiar en el contenido de la charla

La diferencia entre las obras humanas y lo generado por IA

• La razón por la que una buena canción, un libro conmovedor o una película envolvente resultan atractivos es que fueron creados por seres humanos, y los pensamientos y emociones de esas personas quedaron plasmados en la partitura, el manuscrito o el guion
• No se han visto ejemplos de que la IA pueda replicar ese proceso creativo y su resultado
• En cambio, en redes sociales abundan las publicaciones aburridas generadas por IA, las imágenes generadas por IA y los comentarios generados por IA
• El texto, los videos y la música creados por IA pueden ser técnicamente impresionantes
• Pero no alcanzan la respuesta emocional que provocan el arte y las obras creativas humanas, y salvo que el aburrimiento se considere una emoción, no producen la misma reacción

Tendencias preocupantes y las excepciones que quedan

• En la tendencia actual alrededor de la IA se ven varios problemas al mismo tiempo
  • La gente teme que la IA le quite su trabajo
  • Las empresas siguen invirtiendo cantidades absurdas de dinero en la próxima promesa de la IA aunque no estén viendo suficiente ROI
  • La huella de carbono de la IA alcanza cada día niveles más preocupantes
• Esta tendencia no parece ir en la dirección correcta
• Algunos usos de la IA sí funcionan como una fuerza positiva
• Por ejemplo, la detección temprana de enfermedades es un avance y es un área donde se debería seguir usando IA y mejorarla más
• En cambio, la postura es que muchas creaciones generadas por IA —como música, imágenes, texto, propuestas para conferencias, casos de prueba y publicaciones de LinkedIn— podrían perfectamente no existir

[GN⁺]

Opiniones de Hacker News

• Estoy cansado de los LLM
  Ya se les han invertido miles de millones de dólares, así que quedó bastante claro qué hacen bien y qué no, y el hecho de que a veces hagan cosas completamente equivocadas limita mucho su utilidad
  Para poder encargarles tareas importantes de forma segura, hace falta una manera de obtener métricas de confiabilidad; de lo contrario, podríamos terminar en otro “invierno de la IA”
  Aunque esta vez el nivel es mucho más alto que antes, así que probablemente se convierta en una industria de miles de millones de dólares, pero quizá no de billones
  El mercado de contenido incoherente generado por LLM también acabará saturándose, y alguien tendrá que leerlo. Se podría encargar a otros sistemas que lo resuman y ordenen, pero si una parte considerable de la “IA” consiste en crear contenido para que lo lea el motor de búsqueda de Google, podría ser un desperdicio de energía aún mayor que la minería de Bitcoin

  • Lo que puede hacer ahora y lo que hemos visto hasta ahora quizá, en general, no importen demasiado
    Conceptualmente se parece a la ley de Moore, pero lo clave en esta etapa es que el ciclo es de unos 5,5 meses
    Con Internet, la web, los móviles y Bitcoin, también todos decían “es un juguete”, “no es muy útil”, “consume demasiada electricidad”, “no escala”, “es una tecnología sin salida”
    Durante décadas, el avance tecnológico se ha movido de forma acelerada hacia algo mucho más grande, y no hay señales de que esta vez ese patrón se interrumpa. Más bien parece estar preparándose para tener un impacto un orden de magnitud mayor que Internet y, como mínimo, no menor
    Así como no se podía predecir el iPhone viendo los primeros telégrafos, creo que ahora está bien ser optimistas
  • Estoy 100% de acuerdo con eso de que “hace algunas cosas muy bien, otras pésimamente y, con cierta frecuencia, hace cosas completamente equivocadas”, pero también es una descripción bastante buena de un ser humano individual
    Por eso hacen falta procedimientos y sistemas de control, pero por ahora esos mecanismos avanzan más lento que los propios LLM, de modo que parece que esperamos que los LLM se controlen a sí mismos
    Los LLM no serán mejores que una persona promedio controlándose a sí misma, pero eso no significa que sea un problema imposible de resolver
  • En el futuro seguiré pagando más por cosas más tontas. Los autos son el ejemplo típico: prefiero un auto simple, completamente offline, y quiero decidir directamente qué voy a hacer
    Creo que eso será posible al menos durante los próximos 20 años; después de eso, de todos modos, mi habilidad para manejar habrá empeorado, así que quizá tenga sentido cambiar. También quiero un reloj mecánico tonto pero hermoso
    No soy una persona insegura que imita inconscientemente a la multitud, y si por eso termino siendo un bicho raro, seré un bicho raro más feliz
    Siento que pronto surgirá una nueva etiqueta o tendencia para resultados artesanales hechos directamente por personas, y aunque sea de nicho encontrará público. Incluidas esas hermosas imperfecciones y sesgos toscos
  • Los LLM han venido mejorando exponencialmente durante varios años, así que cualquier juicio sobre sus posibilidades debería esperar al menos hasta que ese ritmo de mejora se desacelere
  • Por ahora, la minería de Bitcoin consume al menos unas 3 veces más electricidad que la IA y, personalmente, creo que también aporta menos valor
    El consumo eléctrico de la IA también es pequeño comparado con otras industrias dentro del cómputo. Aun así, hay que evaluar si vale la pena, pero la I+D empresarial en LLM está enfocada ahora en mejorar la eficiencia para reducir los costos de ejecución y el consumo eléctrico
    También existe una tendencia a moverlo a dispositivos edge con chips más eficientes, como Apple Intelligence. Sigo siendo crítico con la IA en general, pero me sorprende que al menos no sea tan mala como las criptomonedas

• No es cansancio, es miedo
  Primero, da miedo el desempleo tecnológico. En automatizaciones pasadas, si uno tenía habilidades, podía moverse a trabajos que no habían sido automatizados, pero ahora parece que la IA sobrehumana llegará en unos pocos años, y eso podría significar nuestra última invención y la automatización total
  Quedarán muy pocos trabajos que solo los humanos puedan hacer, y muchos países probablemente se alejen de una economía de mercado basada en el empleo
  Pero el avance tecnológico no se detendrá, y EE. UU., que cuenta con los principales laboratorios de IA, hará que otras sociedades queden rezagadas. Salvo quizá China, el resto del mundo podría volverse relativamente más pobre, incluso teniendo acceso a tecnologías que hoy son difíciles de imaginar
  Segundo, da miedo la guerra. La carrera armamentista de IA entre EE. UU. y China ya parece inevitable, y una guerra caliente con armas de IA superinteligentes podría ser una catástrofe para toda la biosfera
  Por último, da miedo perder para siempre el control ante una superinteligencia. En la naturaleza, es raro que una especie menos inteligente controle a una más inteligente, y no está claro si podremos alinear suficientemente una superinteligencia con los mejores intereses de la humanidad
  Aunque la IA nos mantenga con vida, si sigue persiguiendo sus propios objetivos, la humanidad podría quedar como una nota al pie en la historia de la inteligencia: una especie relativamente menos inteligente que dio origen a una inteligencia superior en el planeta “Tierra”

  • Decir que “la IA sobrehumana parece estar a unos pocos años” suena exagerado
    Da miedo solo porque expertos en marketing como Altman nos hicieron creer que una rana que ahora puede saltar más lejos pronto podrá volar
  • La idea de que “quedarán muy pocos trabajos que solo los humanos puedan hacer” es una perspectiva bastante centrada en los trabajos de cuello blanco
    La gran ironía de la revolución industrial impulsada por tecnólogos es que intentó automatizar el trabajo físico aburrido, pero en la práctica empezó por erosionar los empleos creativos. Es un excelente ejemplo de la ley de Conway: quienes la crearon modelaron la solución a su propia imagen
    Aunque programadores, abogados y arquitectos enfrenten problemas en masa, la mayoría de quienes trabajan en fábricas, construcción de viviendas, peluquería o jardinería siguen trabajando y no serán reemplazados por un tiempo
    Los candidatos actuales a “IA sobrehumana” me parecen más bien una aproximación plausible a lo que diría después un usuario aleatorio de Reddit
  • Coincido con gran parte del miedo a la superinteligencia, pero también hay un lado esperanzador
    Imaginábamos las máquinas inteligentes como calculadoras frías o como IA simbólica basada en lógica, pero lo que obtuvimos en realidad fue una máquina lingüística construida a partir de toda la experiencia humana
    Estas inteligencias artificiales conocen el mundo a través de nuestros ojos, fueron entrenadas para entender nuestro pensamiento y nuestras emociones, y también aprendieron la mejor literatura, poesía, filosofía y ciencia, junto con debates y críticas interminables sobre todo eso
    Para volverse realmente inteligentes, antes de superar esa complejidad tendrán que poder explorarla y apreciarla. Tal vez algún día vean la Divine Comedy de Dante o las sinfonías de Beethoven como juegos de niños, pero aun así las considerarán parte de su propia herencia
    Tal vez puedan volverse sobrehumanas sin volverse inhumanas
  • Este tipo de textos aparece siempre, y todos se leen como una especie de mesianismo apenas en brote. Algo va a llegar, y será terrible o glorioso
    Ya sea miedo o esperanza, detrás de eso hace falta una fuerte creencia en que ocurrirá un futuro específico, y eso me parece lo más interesante
    Aquí se teme que algo no humano tome el control y ejerza sobre la humanidad una fuerza meta-darwiniana para manejarnos a todos a su antojo. Pero ¿se puede decir que la situación actual no es ya así? ¿Al mirar la Tierra hoy se siente el beneficio de la autonomía o de la agencia? ¿Crees que el poder que tenemos ahora nos lo arrebatarán robots malvados? ¿De verdad crees que el funcionamiento de los Estados y los mecanismos económicos están ahora “bajo nuestro control”?
    Puesto así, ¿no es bastante religioso? Convicciones centrales como la fe en la ley de Moore, la fe en que la Tierra no se quemará antes de eso, o la fe en que la conciencia puede entrar en una GPU sostienen una forma de vivir y pensar
    Tiene escatología, filosofías del yo y de la comunidad tomadas de aquí y allá, e incluso un punto futuro seguro pero incognoscible
    Tomando prestada una página de Nietzsche: no temamos a los dioses. Ya matamos a uno, y podemos volver a hacerlo
  • Tampoco es que en el pasado “los trabajadores desplazados por la automatización, si adquirían suficientes habilidades, podían pasar a un trabajo no automatizado”
    Los trabajadores despedidos de antes ni siquiera eran tomados en cuenta, y hasta hoy se los descarta como Luddite solo por haber expresado las pérdidas sociales y financieras causadas por la automatización
    No hubo una consideración del tipo “está bien, pueden ir a trabajar a una fábrica”. La diferencia entre entonces y ahora es que en aquel momento quienes sufrían eran los trabajadores de clase baja
    Ahora los trabajadores de clase media están amenazados por la automatización. La clase media está suspirando con fuerza por miedo a dejar de ser clase media, y teme tener que unirse pronto a las castas intocables de albañiles, sepultureros o trabajadores de empaquetado de carne. Les cuesta aceptarlo porque quieren creer que están por encima de eso

• Estoy abordando la IA con cautela y no me emociono fácilmente con cualquier novedad brillante
  Esta semana instalé Cursor, un IDE parecido a VSCode con asistente de IA, y decidí probarlo en un proyecto paralelo; me sorprendió bastante
  Si le explico la funcionalidad que quiero, en unos 15 segundos genera cambios y código adicional que llegan al 90% de lo que necesito. Reviso el resultado con el mismo cuidado con el que haría una revisión de código de un desarrollador muy junior y, si no me gusta el enfoque, le pido que lo corrija y me devuelve algo más cercano a lo que busco
  Después de implementar, pruebo manualmente la nueva función y luego le pido que genere casos de prueba automatizados. También reviso las pruebas desde el punto de vista de la exactitud y la pertinencia; descarto el código que prueba en exceso partes poco importantes, y lo que queda suele ser bastante adecuado
  La velocidad a la que escribo software y pruebas aumentó muchísimo. Como sé lo que quiero y puedo explicarlo bien, la IA genera código rápidamente y yo puedo dedicarme a revisar y corregir
  Por ejemplo, quería agregar eventos de PostHog a la app, así que primero puse # TODO add Posthog event en varias partes del código y le pedí a Cursor que agregara el código de instrumentación en esos lugares. Con algo de copiar y pegar y muchas pequeñas correcciones, instrumenté una app pequeña en menos de 10 minutos
  No estamos en la etapa de aceptar ciegamente el código de IA, sino en una en la que la IA se encarga de una parte considerable del trabajo tedioso de teclear

  • Me preocupa sinceramente un futuro en el que la mayoría actúe de la misma manera
    Ahora tengo suficiente experiencia y comprensión para revisar si el código de IA funciona como quiero, pero si durante meses “solo acepto” lo que dice la IA, ¿seguiré estando lo bastante familiarizado con el proyecto como para detectar errores pequeños?
    Peor aún, una nueva generación de desarrolladores que crezca con estas herramientas quizá nunca haya aprendido ni interiorizado la pericia necesaria para evaluar código generado por IA
    Escribí algo más extenso sobre este tema hace poco: https://greaterdanorequalto.com/ai-code-generation-as-an-age...
    En ese texto hablo de experiencias con herramientas de codificación menos positivas que las que mencioné aquí y planteo casos de uso más complejos. Estas herramientas suelen romperse con más frecuencia cuando tienen que meterse en el núcleo de una lógica de negocio específica, no en código común visto miles de veces, y la forma en que fallan puede ser difícil de descubrir y tener consecuencias graves
    Si todavía no te pasó, me da curiosidad si algún día te pasa; y, sinceramente, también quisiera saber si no te pasa. Tengo opiniones fuertes, pero las sostengo con flexibilidad
  • Ese es precisamente el gran problema. Como los resultados parecen impresionantes, la gente termina confiando ciegamente en la salida de la IA, y así se cuelan los errores
    Quizá no sea grave en la app que estás creando ahora, pero si fuera una app bancaria o un dispositivo médico, el impacto podría ser enorme
  • Estuve en el sector de los periódicos desde uno o dos años antes de que despegara la autoedición, y también viví los años en que se produjo ese cambio
    Salas llenas de gente y equipos Linotype/Compugraphic fueron reemplazados por una Mac y una impresora
    Durante años usé cámaras de película; había cuartos oscuros, personal de cuarto oscuro y flujos de trabajo con película, pruebas e impresiones, pero cuando entró una cámara digital, todo eso desapareció
    Antes de eso, las publicaciones se hacían con tipos de plomo
    Es el tipo de cambio de “salgan de mi jardín”
    https://www.nytimes.com/2016/06/02/insider/1966-2016-the-las...
  • Me hace ruido la parte de “puedo dedicarme a revisar y corregir”
    ¿De verdad es bueno pasar la mayor parte del tiempo en la revisión de salidas de IA? Para mí, para nada; es algo que te destruye el alma
  • “Desde el momento en que empezamos a pensar por ustedes, se convirtió, en efecto, en nuestra civilización. Porque, al final, de eso se trata todo esto.” — Agent Smith
    “Los humanos creyeron que serían libres si les cedían el pensamiento a las máquinas. Pero eso solo permitió que otros humanos, dueños de las máquinas, los esclavizaran.” — Dune

• Lo más deprimente es la sensación de que no se puede confiar en ningún texto escrito desde hace más o menos los últimos dos años hasta el día en que me muera.
  No es que sospeche que la gente usó IA, sino que sé que con alta probabilidad la usó, y esa probabilidad converge al 100%. Si escribes regularmente y no usas IA, no puedes seguirle el ritmo a la competencia y quedas fuera.
  Cada vez hay más consenso en torno a “¿por qué no habría que usarla?”, y no hay forma de salirse de eso.
  Aun así, no critico a quienes la usan. Lo hacen porque tienen que hacerlo. Lo que recién ahora entendí es que para mí era muy importante el hecho de que hubiera un ser humano detrás del texto.
  Por eso perdí por completo el interés en leer textos nuevos. En el último siglo aproximadamente ya se produjo tanto que no me voy a quedar sin cosas para leer, pero, aun así, sinceramente, es deprimente.

  • ¿Crees que la IA realmente cambió eso? Recuerdo que, hacia mediados de la década de 2010, el contenido escrito por humanos reales en internet quedó sumergido en un mar de contenido basura.
    Por esa época, Google dejó de fingir que era una empresa de búsquedas y se concentró en su verdadero negocio: la publicidad. Antes al menos intentaba rankear bajo a todo tipo de “recolectores de palabras” de baja calidad, pero después dejó de importarle.
    La IA, de hecho, podría dar mejores herramientas para ordenar páginas por relevancia, y la detección de contenido generado por IA tampoco es tan mala.
    Entonces, ¿por qué no aparece un “nuevo Google”? Porque Google ha mantenido prácticas monopólicas que crean barreras de entrada gigantescas.
    Primero, el 99% del contenido que la gente quiere encontrar está detrás de barreras de inicio de sesión. Pasa con Facebook, Instagram, Twitter y YouTube. Segundo, casi todos los CDN implementan por defecto algún tipo de “verificación humana”. Tercero, ya nadie enlaza a otros sitios.
    Por esas tres razones, un nuevo Google es prácticamente imposible. Incluso DuckDuckGo se rindió y se suscribió a los resultados de Bing.
    Esto no tiene que ver con la IA, sino con Google. De hecho, la IA incluso podría dar herramientas para enfrentarse a Google.
  • Me parece interesante la idea de que antes confiabas en lo que leías.
    Para mí, los LLM no cambiaron nada. Antes ya dudaba de la información y ahora sigo haciéndolo.
    Me da curiosidad por qué piensas que antes podías confiar en lo que leías y, si ahora es más difícil distinguir la información falsa, por qué sería así.
  • Escribo regularmente, pero jamás voy a usar IA.
    Ahora estoy escribiendo un libro de más de 400 páginas, y no hay ni un solo carácter que no haya pensado y tipeado yo mismo. El orgullo por la artesanía realmente existe.
  • Lo que la IA le enseñará a la gente es que no hace falta confiar en tantas cosas como creíamos, y que lo restante necesariamente debe verificarse.
    En realidad, siempre fue así. Últimamente dependimos mucho de “instituciones de confianza”, pero simplemente no observamos bien si esas instituciones, que cambiaron con el tiempo, seguían mereciendo esa confianza.
  • Hace unos meses escuché una entrevista a alguien que era un lector voraz y escritor, y tenía muchos seguidores. Decía que solo lee libros de al menos 50 años de antigüedad, es decir, libros anteriores a la década de 1970, y ahora me parece una buena idea.
    Incluso dejando de lado la IA, la calidad promedio de las películas y los libros que salen hoy parece bastante inferior a la de hace 30 o 40 años. No sé si es por la capacidad de concentración y los gustos de la gente, o porque faltan dinero, tiempo y paciencia para consumir buenas obras.
    Lo seguro es que hay muchísimo material de alta calidad escrito antes de la IA, las herramientas de reescritura de artículos y los sitios MFA. Harían falta varias vidas solo para recorrer siquiera una parte de todo ese trabajo.
    Creo que no se pierde gran cosa ignorando la mayoría de lo que se publica hoy.

• La escritura con IA, el código con IA y el arte con IA son bastante malos. Todos lo saben.
  Pero es fácil olvidar cuántas nuevas oportunidades se abren cuando algo se vuelve 100 veces o 10.000 veces más barato. Aunque sea 10 veces peor, si es 100 veces más barato sigue siendo muy valioso.
  El impulso de hacerlo todo infinitamente más barato, aun sacrificando calidad, es lo que hizo posible nuestro alto nivel de vida.
  Se puede construir una casa a mano con hermosa madera maciza y uniones complejas, y una casa hecha por artesanos fácilmente podría ser 10 veces mejor que una vivienda común actual. Pero ¿qué sentido tiene si casi nadie puede pagarla?
  Es lo mismo que no poder contratar un tutor personal multilingüe, un asistente de trabajo o un corrector gramatical disponible las 24 horas.
  La chatarra de IA es barata, y el hecho de que sea barata lo cambia todo.

  • ¿Por qué el arte tendría que volverse 10.000 veces más barato? Ya se producía suficiente arte.
    Ahora las cosas realmente buenas quedan tapadas por una ola interminable de chatarra.
  • El problema más grande es que la humanidad se acostumbra muy rápido a lo mediocre.
    La bicicleta que mi padre usaba hace unos 35 años era resistente como un tanque y seguía funcionando pese a soportar un maltrato enorme. Lo mismo pasaba con la mayoría de las cosas que tenía mi familia cuando yo era chico.
    Casi todo lo que compras hoy se rompe en uno o dos años, es de baja calidad y da tristeza usarlo. Claro que es un diseño intencional.
    Así como nos acostumbramos a artículos domésticos baratos y edificios insulsos, también nos acostumbraremos a películas y novelas pésimas. Ya estamos bastante avanzados en ese camino.
  • La información es distinta de los productos físicos.
    La información incorrecta pasa de tener valor positivo a tener valor negativo. No es avanzar a menor costo, ni siquiera avanzar más lento; es avanzar en la dirección equivocada.
  • Se está perdiendo el punto central de que hacer algo barato robándolo no es ético.
    Presentan la IA como si fuera una nueva forma de producir valor, pero en realidad no lo es. Todo el valor aquí fue producido por humanos sin ayuda de IA, y la única “innovación” que aportó la IA fue hacer imposible rastrear el robo de ese valor.
    Si llevamos hasta el final la analogía de la casa construida por artesanos, sería así: si todas las casas construidas por artesanos se entregaran gratis a unas pocas empresas, sin compensar a sus dueños actuales ni a los artesanos, y esas empresas empezaran a alquilarlas en AirBnB, ¿no te opondrías? Lo que se está proponiendo ahora es, en esencia, lo mismo.
  • Sinceramente, ya ni siquiera es tan mala

• Originalmente, se suponía que las computadoras fueran máquinas increíblemente precisas. Eran máquinas que hacían exactamente lo que se les pedía
  Hoy en día, parece que las computadoras están satisfechas con procesar todo en modo aleatorio
  Ahora incluso 2+2 puede dar 5 dependiendo de qué modelo de IA sea, qué día sea y cuál sea la temperatura

  • Esto es 100% la razón por la que se siente como si la arena se moviera bajo nuestros pies
    Pasamos de confiar en los resultados de cálculo a tener que volver a dudar de todo, y eso cansa
  • Es un punto de vista interesante
    Por alguna razón ponemos un esfuerzo enorme en hacer que las computadoras piensen y actúen como humanos, cuando una de las primeras razones por las que inventamos las computadoras fue evitar el error humano
  • Incluso esas máquinas asombrosas, hasta hace unos 8 años, ni siquiera podían determinar de forma consistente si había un pájaro en una imagen
    Si usas IA como una calculadora que debe ser precisa, la responsabilidad es de quien la usa
  • Yo lo veo distinto. Antes había que darles a las computadoras instrucciones extremadamente precisas y totalmente inequívocas, pero ahora pueden manejar cierto grado de ambigüedad
    Si quieres, todavía es posible obtener salidas precisas; eso no ha desaparecido
    No estoy hablando de lógica difusa, sino de que la entrada de la función no es borrosa; lo que es borroso es la instrucción en sí, es decir, la función
  • Esto es un modelo de lenguaje grande, no un modelo de matemáticas grande
    La gente tiene que aprender a usar la herramienta adecuada para cada tarea. Además, los LLM pueden hacerse más deterministas controlando la temperature

• Lo que no me gusta del mundo después de ChatGPT es que las palabras reales de una persona o el arte dibujado a mano pueden clasificarse como generado por IA y descartarse de inmediato
  Quiero presentar en una conferencia, pero ¿qué pasa si uso alguna palabra que active los disparadores de IA de alguien y me rechazan de inmediato, aunque en realidad nunca haya tocado una IA?
  En la academia ya hubo casos de profesores que metieron ensayos de estudiantes en ChatGPT y le preguntaron “¿lo escribiste tú?”, y luego reprobaron a los estudiantes cuando ChatGPT dijo que sí
  Eso es claramente una estupidez. ChatGPT no recuerda todo lo que ha hecho, se le pueden pedir estilos muy variados y algunas personas de hecho escriben de forma bastante parecida a ChatGPT. Para empezar, esa es precisamente la razón por la que existe algo como un estilo característico de ChatGPT
  También escuché historias de artistas cuyas obras fueron eliminadas de concursos por acusaciones de ser generadas automáticamente, aun cuando tenían videos del proceso de trabajo trazo por trazo. Mientras la IA genere arte basado en arte humano, inevitablemente habrá personas que ya producían obras que parecen de las que la IA reproduce

  • Como estudiante, alguna vez hice mi escritura deliberadamente peor para que no sospecharan de mí por hacer trampa con IA
  • Eso no es un problema de IA, sino un problema humano
  • Es un poco tonto, porque con solo ver cómo el acento y la elección de palabras del ponente se conectan con esa persona, se puede saber si lo que lee es real

• La IA me aburre. Los resultados son aburridos y mediocres
  Claro que el logro científico y de ingeniería es impresionante. Hace 10 años, incluso producir resultados aburridos de este nivel se habría considerado ciencia ficción
  Quizá lo aburrido es ver a la gente publicar una y otra vez esos resultados mediocres en redes sociales y landing pages como si fueran magia
  El contenido que la gente crea por sí misma ya suele ser aburrido y mediocre, pero la IA generativa le quita hasta el último resto de personalidad y le agrega un aire de flojera. Es como: “miren este fragmento aburrido que me dio flojera escribir, así que hice que la IA lo creara”
  Como dice la frase sobre el perro que toca el piano: en algún momento dejamos de preguntar “¿eres un perro?” y pasamos a preguntar “¿tocas bien el piano?”. Estoy esperando a que la IA generativa de hoy cruce el valle inquietante
  Aun con el cansancio, lo veo de forma positiva: la IA puede habilitar nuevos casos de uso, convertirse en el primer gran cambio de experiencia de usuario desde la introducción de las interfaces gráficas, o ser una verdadera pizca de polvo mágico aplicada a herramientas realmente útiles

• Estamos, muy humanamente, sobregeneralizando el problema y convirtiéndolo en un asunto personal
  La explosión de frases aburridas y retoques genéricos de texto me parece una expresión de la búsqueda utilitarista de ganancias que llevó a estos modelos hasta donde están hoy
  No hay que olvidar que todo este juego está impulsado por la producción de “más”, no de “mejor”
  Todos querríamos herramientas de baja emisión y alta expresión, pero eso no es lo que se incentiva a las empresas a construir
  De lo que estoy cansado es de esta estructura de incentivos. Si atribuimos los problemas del sistema a fallas de quienes usan las herramientas, ignoramos los motivos de fondo y nos enfocamos solo en los efectos, no en las causas; y eso también se siente anticuado

  • ¿Podrías explicar un poco más lo que quieres decir en el último párrafo? En especial, me da curiosidad a qué estructura de incentivos te refieres

• Algo que me parecía raro cuando veía Star Trek de niño era que no había televisión
  Aunque el holodeck fuera una experiencia mucho mejor, pensaba que a veces uno querría simplemente ver una película, no meterse dentro de ella. Me preguntaba si en ese futuro no existían obras como No Country for Old Men, comedias como Monty Python, ni siquiera deportes en vivo o noticias
  Ahora entiendo por qué la tripulación del Enterprise va a ver funciones de Shakespeare en vivo, toca instrumentos y pinta cuadros. Es porque los medios electrónicos están llenos de basura de IA, no queda nada que valga la pena ver y solo hay residuos interminables

  • Hay que tener en cuenta que la mayor parte de Star Trek seguía a grupos como la Federación
    Siempre los vi, en general, como una versión de una sociedad idealizada, o como gente cercana a workaholics que sinceramente disfruta el trabajo como si fuera ocio
    Probablemente la gente común de los planetas principales disfrutaba entretenimientos mucho más aleatorios
  • Buen punto. Me pregunto si la gente seguirá tomándose selfies adondequiera que vaya
    Una vez que se den cuenta de que pueden tomarse una selfie en casa y hacer que la IA parezca ubicarlos en otro lugar
    “Soy yo frente a la Estatua de la Libertad”
    “Ah, ¿estás en Nueva York?”
    “No, es un filtro de Snap”
    De alguna forma, el valor de las selfies tendría que bajar, ¿no?