¿Es el profeta de la era moderna o una máquina de decir tonterías? Cómo prosperar en el mundo de ChatGPT

• Se espera que los sistemas computacionales superinteligentes traigan una era de innovación y prosperidad
• Con la llegada de ChatGPT, algunos lo llaman un profeta moderno, mientras que otros lo consideran una máquina de decir tonterías
• Expertos en tecnología y voceros de relaciones públicas afirman que los LLM revolucionarán nuestra forma de trabajar, aprender, jugar, comunicarnos, crear y conectarnos
• La IA afectará casi todos los aspectos de la vida cotidiana
• Al permitir que las personas conversen con las computadoras en lenguaje común, mejora enormemente la accesibilidad de la computación
• Pero, en la misma medida en que los sistemas de IA pueden cumplir un papel útil, también existe el riesgo de que el entorno informativo se sature con una enorme cantidad de tonterías

"Esta tecnología será la más transformadora que la humanidad haya creado, comparable a la invención de la imprenta, la electricidad e internet"
— Sam Altman, CEO de OpenAI

• Nos guste o no, los LLM ya se instalaron en nuestras vidas
• En internet ya estamos leyendo contenido generado por LLM, y muchas personas interactúan con chatbots basados en LLM
• Algunas incluso usan LLM para producir contenido directamente

Cómo sobrevivir en la era de los LLM

• A través de lecciones de 5 a 10 minutos, se explicará qué es un LLM y cómo funciona
• Se puede aprender a distinguir entre los casos en que puede ahorrar tiempo y esfuerzo y los casos en que es más probable que cometa errores
• En medio del marketing exagerado, es importante aprender a diferenciar entre información realmente útil y afirmaciones infladas

Índice de lecciones

• Lección 1: Autocompletado a toda velocidad (Autocomplete in Overdrive)
• Lección 2: La naturaleza de las tonterías (The Nature of Bullshit)
• Lección 3: Pruebas de Turing y benchmarks de tonterías (Turing Tests and Bullshit Benchmarks)
• Lección 4: Computadoras con las que puedes hablar (Computers You Can Talk To)
• Lección 5: Difícil de entender, más difícil todavía de arreglar (Hard to Understand, Harder to Fix)
• Lección 6: ¡No, no están haciendo eso! (No, They're Not Doing That!)
• Lección 7: De la clonación de voz a Shrimp Jesus (From Voice Cloning to Shrimp Jesus)
• Lección 8: Hongos venenosos y pasaportes para perritos (Poisonous Mushrooms and Doggie Passports)
• Lección 9: Los enlaces azules importan (Blue Links Matter)
• Lección 10: El arte humano de escribir (The Human Art of Writing)
• Lección 11: ¿Transformar la educación? (Transforming Education?)
• Lección 12: El científico de IA (The AI Scientist)
• Lección 13: Máquinas de tonterías para trabajos de tonterías (Bullshit Machines for Bullshit Work)
• Lección 14: Autenticidad (Authenticity)
• Lección 15: Inteligencia artificial y estupidez humana (Artificial Intelligence and Human Stupidity)
• Lección 16: La falacia del primer paso (The First-Step Fallacy)
• Lección 17: Tu propio Truman Show privado (Your Own Private Truman Show)
• Lección 18: Democracia (Democracy)

[GN⁺]

Opiniones de Hacker News

• Este artículo está lleno de afirmaciones muy categóricas sobre la IA, pero le faltan fundamentos y algunas parecen incorrectas

  • La afirmación de que la IA "no tiene una verdad subyacente" es errónea
  • Decir que la IA no puede razonar lógicamente es una exageración
  • Tampoco es cierto que no pueda explicar cómo llegó a una conclusión
  • Estas afirmaciones tan tajantes se parecen más bien a críticas dirigidas a modelos débiles

• Un amigo trabaja en un equipo que influye en políticas gubernamentales, y un miembro joven del equipo escribió un informe lleno de cifras sacadas de un LLM

  • El informe era inexacto y poco confiable
  • Los desarrolladores entienden bien cómo funcionan los LLM y pueden revisar y corregir las inexactitudes de sus resultados
  • Mucha gente llegará a confiar en estas herramientas, y habrá una avalancha de contenido inexacto

• La versión actual de la IA puede ser peligrosa para los estudiantes y podría empeorarlos

  • Cuando ayudo a amigos no técnicos, les muestro la velocidad del cambio y enfatizo que la confiabilidad va muy por detrás de lo posible
  • Los entornos adversariales siguen sin resolverse, y las predicciones son inciertas
  • No se puede confiar en las predicciones de quienes solo repiten como loros
  • Como existe RL, la afirmación de que se corrige sola está exagerada
  • Los pesimistas probablemente estén equivocados, pero quienes minimizan sus argumentos entienden menos que ellos

• La sección "The AI scientist" fue excelente

  • Presenta casos de uso positivos de la IA sin caer en la trampa del argumento del loro
  • Expone de forma objetiva usos positivos de la IA en ciencia, así como ejemplos dañinos y ejemplos que son una pérdida de tiempo

• Este material es básico, pero útil para una audiencia amplia

  • Fue bueno que mencionara que no hay que humanizar a los modelos
  • Será más útil que los responsables de políticas mayores de 50 años escuchen este curso que un estudiante de primer año de 19

• No tiene sentido llamar loro a un LLM solo porque adivina el siguiente token

  • Los humanos también adivinan la siguiente tecla en el teclado
  • Esta perspectiva no es más que cerrar los ojos ante la revolución tecnológica que se viene

• Navegar el entorno de la IA es un desafío para los estudiantes

  • Estoy considerando compartir este material con estudiantes
  • Es posible que los estudiantes que quieren usar LLM para todo no se involucren con el material
  • Sugiero agregar un párrafo que explique por qué escribir sin LLM sigue siendo importante en el ámbito científico

• Ojalá el título no fuera tan anti-tecnología

  • Quiero impulsar este curso en el trabajo, pero hacerlo podría hacerme ver como una persona negativa y obstructiva

• Este material es un recurso excelente

  • Estoy diseñando un curso para dar a estudiantes de medicina conocimientos básicos sobre los avances en ML y LLM
  • El objetivo es ayudarles a entender el ML médico, mostrarles el potencial de la tecnología y presentar un camino para adoptarla de forma segura

• Estoy disfrutando mucho este material

  • Encontré algunos errores tipográficos en la Lesson 11
  • En "No one is going to motivated by a robotic..." falta "be"
  • En "People who are given a possible solution to a problem tend to less creative at..." falta "be"