3 puntos por GN⁺ 2023-07-11 | 1 comentarios | Compartir por WhatsApp
  • En un contexto donde la escala de la recolección de datos sigue creciendo, An Introduction to Statistical Learning aborda el aprendizaje estadístico como una introducción práctica para comprender los datos
  • Se enfoca en una explicación amplia y menos técnica que en matemáticas complejas, y está dirigido a lectores que quieren aprender herramientas modernas de análisis de datos
  • La edición aplicada a R tuvo una 1.ª edición en 2013 y una 2.ª en 2021, mientras que la edición en Python (ISLP) se publicó en 2023
  • Cada edición conecta los conceptos de cada capítulo con código en R o Python mediante labs prácticos al final del capítulo
  • Se ofrecen enlaces de descarga en PDF y de compra, para que quienes comienzan puedan elegir entre la 1.ª edición en R, la 2.ª edición en R o la edición en Python según lo que necesiten

Enfoque del libro introductorio de aprendizaje estadístico

  • An Introduction to Statistical Learning parte de la premisa de que la escala y el alcance de la recolección de datos siguen creciendo en casi todos los campos
  • El aprendizaje estadístico se presenta como un conjunto de herramientas necesario para quienes buscan comprender los datos
  • Cubre temas clave de forma amplia mientras reduce la dificultad técnica, lo que lo hace accesible para lectores que quieren usar herramientas modernas de análisis de datos

Ediciones, práctica y materiales

  • Las ediciones se dividen principalmente entre R y Python
    • ISLR 1.ª edición es la edición aplicada a R, publicada en 2013
    • ISLR 2.ª edición se publicó en 2021
    • ISLP es la edición en Python, publicada en 2023
  • ISLR ha sido traducido al chino, italiano, japonés, coreano, mongol, ruso y vietnamita
  • Al final de cada capítulo se incluyen labs que muestran los conceptos del capítulo en R o Python
  • Los temas cubiertos en los capítulos son los siguientes
    • Qué es el aprendizaje estadístico
    • Regresión
    • Clasificación
    • Métodos de remuestreo
    • Selección de modelos lineales y regularización
    • Métodos más allá de la linealidad
    • Métodos basados en árboles
    • Máquinas de soporte vectorial
    • Aprendizaje profundo
    • Análisis de supervivencia
    • Aprendizaje no supervisado
    • Pruebas múltiples
  • Los materiales en PDF están disponibles en los siguientes enlaces

1 comentarios

 
GN⁺ 2023-07-11
Comentarios en Hacker News
  • Un poco fuera de tema, pero la proporción entre votos y comentarios es interesante
    Las publicaciones sobre ChatGPT normalmente reciben cientos de comentarios, pero aquí hasta ahora solo hay 7 comentarios con 100 votos
    El libro se ve bien y, viendo a los autores, parece casi seguro que será bueno, así que estoy pensando en comprarlo, pero esta proporción parece mostrar el estado actual de ‘ML/AI/ciencia de datos’. Me da la impresión cínica de que mucha gente interesada en el boom de la IA no ha trabajado mucho los conceptos fundamentales y no entiende a fondo las matemáticas/estadística que hay detrás
    Dicho eso, yo tampoco he dejado un comentario significativo sobre el tema del enlace

    • Es un libro de aprendizaje automático muy conocido, y lo leí en R mientras resolvía también los ejercicios
      https://github.com/melling/ISLR
      También hay un curso en edX hecho por los autores: https://www.edx.org/course/statistical-learning
    • Es cierto
      Libros como este son fundamentales para empezar en aprendizaje automático/IA, y este en particular es muy bueno. Yo también empecé en aprendizaje automático con este libro
      Hay un sobrecalentamiento enorme alrededor de la IA y parece que será como la burbuja puntocom. A diferencia de crypto, la IA ya tiene usos reales, y esto aplica incluso dejando fuera los productos con LLM. Aun así, hay mucha exageración y expectativas mezcladas con deseos, así que cuando la burbuja reviente mucha gente va a salir lastimada. Pero en el corto plazo seguirán apareciendo personas que ganen dinero de verdad, y los promotores del hype que conozco entienden muy bien eso
      Aun así, la IA va a quedarse, y después de que estalle la burbuja seguirán existiendo usos reales de IA por todas partes
    • Este libro y Elements también fueron mis textos de introducción al aprendizaje automático
      Entiendo ese sentimiento, pero en muchos casos de uso de aprendizaje automático, llamar a la API de ChatGPT puede ser un enfoque 100 veces mejor que construir un modelo directamente, así que quizá de verdad no haga falta entender las matemáticas
      Por ejemplo, estoy haciendo una app de cálculo nutricional con IA y uso function calling de ChatGPT. Si agrego campos como emojis de comida, clasifica automáticamente cualquier alimento con el emoji adecuado. Para hacer algo así no hace falta saber nada de descenso por gradiente ni de propiedades básicas
    • Hay un meme que muestra a la gente saltándose todas las etapas de pensar y analizar los datos para ir directo a BERT. Ahora incluso se están saltando BERT para irse a Stable Diffusion y ChatGPT
      Esto ya pasa desde hace varios años y en la mayoría de los entornos de trabajo tiene un efecto negativo. No envidio a los científicos de datos en activo que tienen que gestionar las expectativas
    • Como investigador en aprendizaje automático, no creo que eso esté muy equivocado
      En HN hay casi puro hype y muy poca ciencia. Hay mucha seguridad, pero poca evidencia. Les encanta citar papers, pero leen solo el resumen y se pierden los matices clave. Esto es aún peor en un campo donde presentar limitaciones aumenta el riesgo de rechazo, y donde los revisores a veces solo copian y pegan esa parte y dan por terminado el trabajo
      La academia es un poco mejor, pero en general también hay muchos investigadores con bases matemáticas débiles. He conocido o sabido de gente incluso en universidades o institutos de primer nivel que no conoce la diferencia entre verosimilitud y probabilidad. También hay gente que no entiende la densidad de probabilidad, incluso entre quienes trabajan con modelos de difusión. Aun así, los investigadores más destacados normalmente sí tienen esas capacidades. En cambio, ellos no publican papers tan rápido, y su trabajo puede resultar menos popular
      Ahora mismo mucha investigación está concentrada en ajuste de parámetros y meter recursos de cómputo. Reconozco que el tuning es necesario, pero no es una innovación de alto nivel, y hay que ser honestos con que es difícil demostrar que algo es mejor cuando otros modelos/arquitecturas no se han ajustado al mismo nivel. He alzado un poco la voz porque esta tendencia se ha vuelto una barrera que bloquea otros tipos de investigación
      En resumen, es bastante acertado. En aprendizaje automático/IA hay muchísimo ruido, especialmente en HN
      Además, recomiendo Statistical Rethinking de Richard McElreath(https://xcelab.net/rm/statistical-rethinking/). Se lee de forma más entretenida que ISLR y también introduce estadística bayesiana (las clases también están en YouTube). También recomiendo Regression and Other Stories de Gelman(https://avehtari.github.io/ROS-Examples/)
  • Este libro es una versión actualizada de un texto muy popular que originalmente estaba en R. Los profesores Hastie y Tibshirani son educadores de referencia en el campo del aprendizaje estadístico
    También hay clases en video en Stanford Online que siguen estas notas. Muy recomendado si quieres aprender el lado teórico del aprendizaje automático clásico

  • Todo el libro se puede descargar legalmente aquí [pdf]: https://hastie.su.domains/ISLP/ISLP_website.pdf

    • Esa es una versión antigua. El enlace que publicaste sí está tal cual dentro del enlace del post original, pero es la segunda edición
  • ISL es el mejor texto introductorio para métodos clásicos de aprendizaje automático. Está orientado a la teoría, pero sigue siendo lo bastante accesible para una amplia base de estudiantes con conocimientos básicos de estadística, álgebra lineal y programación
    Que los ejemplos estuvieran solo en R era incómodo al enseñar con Python. Ahora estaría bien que lo cambiaran a una serie de notebooks de Jupyter y lo distribuyeran a través de sitios como Colab

  • Algunos lo llamarían aprendizaje automático “clásico”, pero para mí esos métodos con pocos parámetros siguen siendo muy útiles en muchos casos y son mucho más fáciles de interpretar que las RNN

  • Quería comparar las dos versiones de lab zero
    Solo revisé por encima la práctica en Python durante unos minutos, pero en comparación con la práctica en R que recuerdo, se veía mucho más compleja y larga
    Sé que en HN a menudo se quejan de que R es difícil y confuso, pero me parece que para principiantes o personas con una orientación más estadística, R es un lenguaje más fácil para empezar a trabajar en estadística

    • Para alguien que ya sabe programar, Python resulta más natural para aprender estadística/aprendizaje automático, y para un estadístico, R resulta más natural para aprender programación
      No sorprende si se mira a qué público apuntaba cada lenguaje. Creo que lo mejor es aceptar ambos y usar el que mejor se adapte a la tarea
  • Personalmente prefiero más Pattern Recognition and Machine Learning de Bishop o Probabilistic Machine Learning: An Introduction de Murphy

    • Vale la pena señalar que esos dos libros no tienen nada de código
      Por eso parece tan significativo que ISLA esté siendo traducido. Si un estudiante ya aprendió suficientemente bien aprendizaje automático/modelado estadístico, debería ser bastante fácil traducir el modelo matemático a un modelo computacional, así que el código no es estrictamente necesario. De hecho, poder hacerlo es parte de lo que significa entender estos modelos
    • Esos libros están en una categoría completamente distinta
    • Si se quiere más profundidad, me pregunto si ya viste Elements de los mismos autores. Ese libro sí es para principiantes
    • ISL es más introductorio que Bishop o Murphy. Todos son excelentes y cubren temas distintos, así que no hay razón para no leerlos todos
      También quisiera agregar Elements of Statistical Learning de los autores de ISL(R/P). He leído ISL, ESL y Bishop, y empecé Murphy pero no lo terminé. No fue por ninguna razón especial, solo lo dejé cuando me ocupé. Recomiendo con fuerza cualquiera de estos textos
    • He escuchado cosas buenas sobre Bishop. Pero yo soy ingeniero de software, quiero entender mejor lo que hace el equipo de aprendizaje automático y también probar algunos proyectos sencillos de aprendizaje automático por mi cuenta
      En ese caso, me pregunto si igual recomendarías Bishop o si es demasiado teórico
  • También podría valer la pena considerar Nonparametric Statistics for the Behavioral Sciences, Second Edition de Sidney Siegel, N. John Castellan, Jr., ISBN 0-07-057357-3, McGraw-Hill, New York, 1988
    “No paramétrico” significa que no se asumen distribuciones de probabilidad basadas en parámetros. Es decir, podría llamarse libre de distribución
    Por ejemplo, se pueden ver esquemas de remuestreo. Requieren muy pocos supuestos, son realmente simples, bastante ingeniosos, útiles en general y especialmente adecuados para el cómputo. También se puede usar remuestreo para sacar más información de datos de pruebas “A-B”

    • Tengo ese libro y es completamente distinto de ISLR. Es un buen libro, pero ISLR trata temas como gradient boosting trees, análisis de supervivencia y modelos lineales generalizados
      Si hubiera que forzar una distinción, diría que ISLR está más enfocado en predicción que en inferencia o pruebas de hipótesis
  • Me encantó la serie de YouTube que salió junto con la versión anterior de este libro: https://www.youtube.com/watch?v=5N9V07EIfIg&list=PLOg0ngHtcq...
    Se puede ver incluso sin el libro, y también se pueden saltar las partes de programación. Tiene ideas que no están en el libro, y mezcla de forma excelente una enorme capacidad técnica con la habilidad de condensar y explicar conceptos

    • Me sorprende no pensar más seguido en revisar si un buen libro tiene también clases en video
  • A mí me parece un poco verboso. Si Landau siguiera vivo y reescribiera un libro así, probablemente sería mucho más corto. ¿Se podría hacer algo así con un LLM?

    • Se podría, supongo, si no te molesta que invente cosas un par de veces por capítulo :)