Informe "Inteligencia artificial: la revolución que se viene (AI: the coming revolution)"

ninebow · 2023-11-22T17:22:09+09:00

Resumen Este es un repaso del estado actual de la IA presentado por Sri Viswanath de Coatue Ventures en el evento Cerebral Valley AI Summit. Coatue Ventures es una firma de capital de riesgo (VC) que ha seguido el campo de la IA durante más de 10 años y ha invertido en más de 50 empresas relacionadas con IA hasta la fecha. En particular, este informe se distingue por publicar análisis de diversos indicadores de Hugging Face y GitHub. Si 2022 fue el año que detonó el crecimiento explosivo de la IA, 2023 fue el año en que la ola de la IA tomó forma y empezó a influir en áreas más amplias. La IA puede superar obstáculos y mejorar significativamente al mundo Con GitHub Copilot, las tareas se completan más de 50% más rápido y los costos de soporte al cliente se están reduciendo hasta en 95%. Los usuarios están más satisfechos, los tiempos de respuesta son más rápidos y, según un estudio de BCG, la calidad del trabajo del conocimiento también mejoró alrededor de 40%. La IA está encontrando avances decisivos y se espera que impacte nuestra vida diaria y la economía moderna en general. El open source es el corazón de la IA, pero no todo es igual de abierto La investigación open source, los datos y la comunidad son el núcleo de la revolución de la IA. Desde el paper de los transformers hasta el modelo más reciente Llama-2, el open source ha permitido que los ingenieros mejoren la IA de forma iterativa. Sin embargo, no todo el open source es realmente "abierto" y recientemente algunas empresas han mostrado movimientos como no divulgar el contenido o los resultados de su investigación, o mantener privados sus modelos. Aun así, vemos que la comunidad de IA open source está creciendo con fuerza: A noviembre de 2023, más de 200 mil desarrolladores están contribuyendo a proyectos de IA en GitHub. Además, en Hugging Face se han publicado más de 300 mil modelos, y la cantidad de miembros en canales de Discord relacionados con IA superó los 18 millones. Hace falta entender un nuevo stack tecnológico centrado en IA La ola de la IA está cambiando el stack tecnológico con el que se desarrollan los servicios. Desarrolladores e inversionistas deben entender los componentes de cada capa del stack y cómo interactúan entre sí. Hasta ahora, la capa de modelos de IA ha recibido la mayor parte de la inversión, pero habrá innovación en todos los niveles, desde los centros de datos para IA hasta las apps para el usuario final. Modelos de IA Hemos entrado en la era en la que los modelos ofrecen "inteligencia como servicio" (IQaaS: intelligence-as-a-service), y creemos que los ganadores se definirán por la competencia en talento, datos y poder de cómputo. Escalar el rendimiento de los modelos también implica escalar datasets de alta calidad. Los modelos entrenados con datasets podados (pruned) y curados de apenas 30% del tamaño tradicional también funcionan bien, y tanto los datos sintéticos como el feedback de usuarios son áreas con potencial por explorar. Poder de cómputo y plataformas cloud Los aceleradores de hardware como las GPU son una parte fundamental de la potencia de la IA. La demanda incesante de GPU ha generado efectos en cadena sobre toda la economía, desde presión sobre la red eléctrica hasta el impulso del crecimiento en la cadena de suministro de semiconductores y la reaceleración de la demanda de servicios cloud. A medida que la IA se vuelve más masiva, esperamos que la carga generada por las tareas de inferencia sea mucho más intensiva en cómputo. El costo de dar servicio a 100 millones de usuarios de GPT-4 puede ser 4 veces mayor que el costo de entrenar el modelo. Herramientas para desarrolladores Uno de los grandes cambios tras la explosión de la IA en 2022 fue la democratización de la IA y el surgimiento del ingeniero de IA, lo que dio lugar a nuevas herramientas de AI Ops para entrenar / ajustar finamente / desplegar modelos. La aparición de una capa activa de herramientas de AI Ops ha hecho que la IA sea accesible para cerca de 30 millones de desarrolladores en el mundo, y se espera que esto genere un potencial explosivo dentro de la capa de aplicaciones. Aplicaciones de IA Vemos que la adopción de aplicaciones de IA apenas está comenzando, y esperamos que aparezcan muchos más casos de uso en adelante. El interés de consumidores y empresas por la IA ya está ganando impulso, desde áreas creativas como Runway y Tome hasta ámbitos profesionales como Replit o Aurora Solar. La visión de Coatue: la mejor IA todavía no ha llegado De cara al futuro, se espera que la IA en el mundo real sea más accesible, escalable y útil. También se prevé que el lenguaje natural, como el inglés, se convierta en el mejor lenguaje de programación. Se espera que la IA permita que más personas desarrollen software, al igual que los desarrolladores, y que al entrenar IA con datasets individuales se creen nuevas capacidades en áreas como salud o retail. Además, se espera que mediante investigación continua los modelos de IA sigan innovando para volverse más inteligentes y adquirir más capacidades. Es decir, la mejor IA aún no ha llegado. En el corto plazo, parece necesario enfocarse en resolver las alucinaciones en la salida de los modelos de IA, habilitar diversos casos de uso multimodales, reducir costos y hacer que el despliegue de IA sea más fácil y seguro. A largo plazo, se considera que el desarrollo de IA será un desafío de ingeniería para escalar la IA a miles de millones de usuarios. También hay una visión optimista de que los innovadores en IA desarrollarán nuevas capacidades para crear una IA útil para todos nosotros.

(coatue.com)

11 puntos por ninebow 2023-11-22 | 1 comentarios | Compartir por WhatsApp

Resumen

Este es un repaso del estado actual de la IA presentado por Sri Viswanath de Coatue Ventures en el evento Cerebral Valley AI Summit.
Coatue Ventures es una firma de capital de riesgo (VC) que ha seguido el campo de la IA durante más de 10 años y ha invertido en más de 50 empresas relacionadas con IA hasta la fecha.
En particular, este informe se distingue por publicar análisis de diversos indicadores de Hugging Face y GitHub.
Si 2022 fue el año que detonó el crecimiento explosivo de la IA, 2023 fue el año en que la ola de la IA tomó forma y empezó a influir en áreas más amplias.

La IA puede superar obstáculos y mejorar significativamente al mundo

Con GitHub Copilot, las tareas se completan más de 50% más rápido y los costos de soporte al cliente se están reduciendo hasta en 95%.
Los usuarios están más satisfechos, los tiempos de respuesta son más rápidos y, según un estudio de BCG, la calidad del trabajo del conocimiento también mejoró alrededor de 40%.
La IA está encontrando avances decisivos y se espera que impacte nuestra vida diaria y la economía moderna en general.

El open source es el corazón de la IA, pero no todo es igual de abierto

La investigación open source, los datos y la comunidad son el núcleo de la revolución de la IA. Desde el paper de los transformers hasta el modelo más reciente Llama-2, el open source ha permitido que los ingenieros mejoren la IA de forma iterativa.
Sin embargo, no todo el open source es realmente "abierto" y recientemente algunas empresas han mostrado movimientos como no divulgar el contenido o los resultados de su investigación, o mantener privados sus modelos.
Aun así, vemos que la comunidad de IA open source está creciendo con fuerza:
- A noviembre de 2023, más de 200 mil desarrolladores están contribuyendo a proyectos de IA en GitHub.
- Además, en Hugging Face se han publicado más de 300 mil modelos, y la cantidad de miembros en canales de Discord relacionados con IA superó los 18 millones.

Hace falta entender un nuevo stack tecnológico centrado en IA

La ola de la IA está cambiando el stack tecnológico con el que se desarrollan los servicios.
Desarrolladores e inversionistas deben entender los componentes de cada capa del stack y cómo interactúan entre sí.
Hasta ahora, la capa de modelos de IA ha recibido la mayor parte de la inversión, pero habrá innovación en todos los niveles, desde los centros de datos para IA hasta las apps para el usuario final.

Modelos de IA

Hemos entrado en la era en la que los modelos ofrecen "inteligencia como servicio" (IQaaS: intelligence-as-a-service), y creemos que los ganadores se definirán por la competencia en talento, datos y poder de cómputo.
Escalar el rendimiento de los modelos también implica escalar datasets de alta calidad. Los modelos entrenados con datasets podados (pruned) y curados de apenas 30% del tamaño tradicional también funcionan bien, y tanto los datos sintéticos como el feedback de usuarios son áreas con potencial por explorar.

Poder de cómputo y plataformas cloud

Los aceleradores de hardware como las GPU son una parte fundamental de la potencia de la IA. La demanda incesante de GPU ha generado efectos en cadena sobre toda la economía, desde presión sobre la red eléctrica hasta el impulso del crecimiento en la cadena de suministro de semiconductores y la reaceleración de la demanda de servicios cloud.
A medida que la IA se vuelve más masiva, esperamos que la carga generada por las tareas de inferencia sea mucho más intensiva en cómputo. El costo de dar servicio a 100 millones de usuarios de GPT-4 puede ser 4 veces mayor que el costo de entrenar el modelo.

Herramientas para desarrolladores

Uno de los grandes cambios tras la explosión de la IA en 2022 fue la democratización de la IA y el surgimiento del ingeniero de IA, lo que dio lugar a nuevas herramientas de AI Ops para entrenar / ajustar finamente / desplegar modelos.
La aparición de una capa activa de herramientas de AI Ops ha hecho que la IA sea accesible para cerca de 30 millones de desarrolladores en el mundo, y se espera que esto genere un potencial explosivo dentro de la capa de aplicaciones.

Aplicaciones de IA

Vemos que la adopción de aplicaciones de IA apenas está comenzando, y esperamos que aparezcan muchos más casos de uso en adelante.
El interés de consumidores y empresas por la IA ya está ganando impulso, desde áreas creativas como Runway y Tome hasta ámbitos profesionales como Replit o Aurora Solar.

La visión de Coatue: la mejor IA todavía no ha llegado

De cara al futuro, se espera que la IA en el mundo real sea más accesible, escalable y útil. También se prevé que el lenguaje natural, como el inglés, se convierta en el mejor lenguaje de programación.
Se espera que la IA permita que más personas desarrollen software, al igual que los desarrolladores, y que al entrenar IA con datasets individuales se creen nuevas capacidades en áreas como salud o retail.
Además, se espera que mediante investigación continua los modelos de IA sigan innovando para volverse más inteligentes y adquirir más capacidades. Es decir, la mejor IA aún no ha llegado.
En el corto plazo, parece necesario enfocarse en resolver las alucinaciones en la salida de los modelos de IA, habilitar diversos casos de uso multimodales, reducir costos y hacer que el despliegue de IA sea más fácil y seguro.
A largo plazo, se considera que el desarrollo de IA será un desafío de ingeniería para escalar la IA a miles de millones de usuarios. También hay una visión optimista de que los innovadores en IA desarrollarán nuevas capacidades para crear una IA útil para todos nosotros.

1 comentarios

ninebow 2023-11-22

Ver el PDF completo

https://drive.google.com/file/d/1gQhYT7j6b2wJmrFZHNeQgTiWPyTsjOfX/view

(⚠️Publicidad⚠️) Ver el mismo contenido junto con las diapositivas en la comunidad coreana de PyTorch

https://discuss.pytorch.kr/t/ai-the-coming-revolution-pdf-115p/2906