Mistral AI alcanza una valuación de 3 billones de wones

 (unite.ai)
1 puntos por GN⁺ 2023-12-11 | 1 comentarios | Compartir por WhatsApp
  • La empresa con sede en París Mistral AI consiguió una inversión de €450 millones, elevando su valuación a aproximadamente 2 mil millones de dólares ($2b) y aumentando la presencia de las startups europeas de IA
  • Andreessen Horowitz lideró la ronda, y Nvidia Corp y Salesforce aportaron otros €120 millones mediante deuda convertible
  • Su modelo insignia, Mistral 7B, es un modelo de lenguaje grande de código abierto bajo licencia Apache 2.0, y destaca enfoques personalizados de entrenamiento, ajuste y procesamiento de datos
  • Diseñado para admitir compresión de conocimiento y razonamiento profundo con menos parámetros, su eje es un enfoque de optimización que reduce el tiempo de entrenamiento, los costos y el impacto ambiental
  • Su estrategia de código abierto y modelos eficientes diferencia a Mistral AI de actores establecidos como OpenAI, Google AI y DeepMind, y muestra la expansión de la inversión en IA en Europa

Captación de inversión y aumento de valuación de Mistral AI

  • Mistral AI, con sede en París, captó una inversión de €450 millones, con lo que su valuación llegó a 2 mil millones de dólares
  • Esta ronda es un acontecimiento importante no solo para Mistral AI, sino también para el ecosistema europeo de IA, y muestra que el peso de Europa en la competencia global de IA está creciendo
  • Andreessen Horowitz lideró la ronda, y Nvidia Corp y Salesforce participaron con otros €120 millones en forma de deuda convertible
  • La composición de los inversionistas incluye tanto capital de riesgo tradicional como grandes empresas tecnológicas, lo que refleja el interés en la tecnología y la visión de Mistral AI
  • Los fondos obtenidos se convierten en una base financiera que puede usarse para avanzar en investigación y desarrollo, ampliar su alcance y fortalecer su posición dentro del campo de la IA

Características técnicas de Mistral 7B

  • El producto insignia de Mistral AI es un modelo de lenguaje grande llamado Mistral 7B
  • Este modelo es de código abierto, publicado bajo licencia Apache 2.0, y se caracteriza por su eficiencia y funciones avanzadas
  • Se presenta como un ejemplo de avances en tecnología de IA mediante enfoques personalizados de entrenamiento, ajuste y procesamiento de datos
  • Su diferenciador está en que admite compresión de conocimiento y capacidades de razonamiento profundo incluso con menos parámetros que otros modelos del mercado
  • Su enfoque optimizado contribuye a mejorar el rendimiento y, al mismo tiempo, reducir el tiempo de entrenamiento, los costos y el impacto ambiental

Posición en el mercado y posibles áreas de aplicación

  • El despliegue de Mistral 7B posiciona a Mistral AI como un actor importante en el mercado de IA y como competidor de OpenAI
  • Su alcance de impacto puede extenderse a varias industrias, con salud, educación, finanzas y manufactura como ejemplos
  • Su capacidad para ofrecer soluciones de alto rendimiento y escalables puede influir en la forma en que cada industria usa la IA para impulsar innovación y eficiencia

Cambios en el ecosistema europeo de IA

  • Esta ronda de inversión es una señal de que la posición de Europa en el panorama global de IA está creciendo rápidamente
  • Históricamente, las empresas europeas de IA habían quedado rezagadas frente a competidores de Estados Unidos y Asia en términos de inversión e innovación
  • El éxito de Mistral AI y otras grandes inversiones muestran que el potencial y la voluntad de Europa para innovar en IA están aumentando

Diferenciación en la competencia de IA generativa

  • Mistral AI se diferencia en la competencia de IA generativa con su enfoque de código abierto y su foco en crear modelos escalables y eficientes
  • Esta estrategia es un factor que distingue a Mistral AI de actores establecidos como OpenAI, Google AI y DeepMind
  • Al priorizar la accesibilidad y la eficiencia, contribuye a la democratización de la tecnología de IA y ayuda a posicionarla como un competidor fuerte en la carrera global de IA
  • Con el ingreso de grandes inversiones a startups europeas de IA, Europa está construyendo su propio espacio en un sector de IA altamente competitivo y de rápidos cambios

Lecturas relacionadas

1 comentarios

 
GN⁺ 2023-12-11
Opiniones en Hacker News

  • Hay mucho hype alrededor de los LLM, pero creo que Mistral sí merece esas expectativas.
    Sigo usando el modelo 7B original y sus derivados, y tengo ganas de ver qué lanzan después. El conjunto de modelos MoE que acaban de publicar es gratis, pero espero que su próximo producto sea comercial.
    Otra empresa que vale la pena seguir es 01.AI, que publicó el modelo Yi-34B. Lo corrí localmente en una Mac con ollama run yi:34b y fue sorprendentemente bueno.

    • ¿Cómo se comparan estos modelos pequeños con GPT-4 en programación o preguntas técnicas?
      GPT-3.5 para mí fue prácticamente inútil: las respuestas eran incorrectas o demasiado genéricas. En cambio, GPT-4 me da respuestas decentes como el 80% de las veces.
    • Me da curiosidad cómo usan estos modelos.
      Yo uso GPT-4 casi como reemplazo de búsqueda, y todavía no encontré una razón para cambiarlo por otra cosa. Por ejemplo, lo uso para investigar la historia, arquitectura o contexto cultural de destinos de viaje, y para esos usos me resultó bastante práctico.
    • ¿Puedes compartir qué tiene Yi-34B que te pareció tan sorprendente? Todavía no tuve oportunidad de probarlo.
    • De acuerdo. Yi 34B y Mistral 7B son excelentes.
      Eso sí, hay que correr un modelo Yi ajustado de gama más alta en vez del modelo de chat base. Es mucho mejor. Si necesitas un Yi con contexto largo, recomiendo Xaboros/Cybertron, o varios merges de modelos que subí a Hugging Face.
    • Dijiste que sigues usando el modelo 7B original y sus derivados; ¿cómo se comparan con otros modelos? Me interesa especialmente la comparación con ChatGPT.

  • Mistral AI recibió mucha atención de la prensa desde el inicio porque publicó Mistral-7B, aun renunciando a ingresos de corto plazo.
    Para el ecosistema de IA en general, es mejor incentivar a las startups a construir negocios sobre software bueno y abierto, en vez de crear fosos y ecosistemas cerrados.

    • No creo que eso pueda considerarse open source. Como no compartieron detalles del entrenamiento, en la práctica es imposible reproducirlo.
      Se parece más a que una empresa SaaS publique un binario compilado que normalmente corre en sus servidores. Es mejor que nada, pero no encaja exactamente con el espíritu open source.
      No digo esto como una distinción quisquillosa, pero al final que la comunidad esté de acuerdo o no es otra cosa.
    • Otra razón es que el modelo tiene menos restricciones o censura. Según lo que dicen, están comprometidos con esa dirección y lo construyeron para que otros puedan crear encima.
      Los productos tipo GPT todavía no son un negocio acabado, y espero que la comunidad open source pueda ir más allá de sus éxitos iniciales.

  • ¿No es una forma sospechosa de valoración que Nvidia les dé dinero a las empresas y que ese dinero vuelva a gastarse en hardware de Nvidia de alto margen?

    • Es parecido a cuando MS le dio a OpenAI tantos créditos de Azure.
    • No entiendo por qué sería una forma sospechosa de valoración.
      Si un inversionista solo mira los ingresos o una sola parte de las finanzas, tal vez, pero si no es así, el dinero que sale y el aumento de ingresos se reflejarían juntos y no deberían distorsionar las ganancias.
    • Es un modelo de inversión de “si sale cara gano yo, si sale cruz pierdes tú”.
    • Este tipo de mecanismo es mucho más común de lo que la gente cree.

  • Como europeo, mi primer pensamiento fue: “¡Bien! Startup de la UE hasta la luna”, y el segundo fue: “Ah, son VC estadounidenses”.
    Supongo que esto es lo mejor que se puede conseguir por aquí.

    • El problema es que los VC europeos no tienen ese nivel de capital.
      Los VC europeos suelen gestionar cientos de millones de dólares, mientras que los VC de Silicon Valley gestionan miles de millones.
    • Puede parecer que hay pocas startups de la UE, y de hecho es cierto.
      Pero hay todavía menos VC de la UE.
    • En las rondas muy iniciales también invirtieron VC europeos, en particular franceses.
      Los fundadores también son franceses. Para mí eso basta para considerarla una empresa europea; no hace falta ponerse tan exigentes.

  • Me doy cuenta de lo vacías que se han vuelto últimamente las valoraciones de empresas.
    Se usan como indicador de éxito, pero si sirve al objetivo de alguien, siempre se puede encontrar a alguien dispuesto a escribir un cheque con una valoración más alta. Por ejemplo, ganancias contables por revalorización, señales de estatus, o ganar una operación antes que competidores más racionales en una carrera de inversión.
    No quiero decir que Mistral no valga nada ni que no haga cosas buenas. Solo que la métrica de valoración en sí se volvió vacía, y buena parte del financiamiento en IA parece orientado a compensar gastos en cloud y GPU. Puede que me critiquen, pero las noticias sobre valoraciones ya no se sienten como noticias.

    • Es solo humo. Pero donde hay humo, también hay algo de fuego.

  • Mistral tiene mucho potencial, pero sin una estrategia de monetización adecuada claramente corre el riesgo de no lograr rentabilidad sostenible a largo plazo.

    • Francia quiere fuertemente independencia, y el gobierno francés le dará grandes contratos en cuanto haya un producto que pueda justificarlo.
    • Yo también me preguntaba eso. ¿Cuál es exactamente el modelo de negocio? Casi parece un intento de Europa por decir “todavía somos relevantes”.
    • Cuando empiezas a operar un producto por el que los usuarios pagan, también aparece la preocupación de que puedas ser responsable por las cosas dudosas que hagan con el producto.
      Si solo publicas en Twitter un enlace torrent con los pesos del modelo, esa responsabilidad es mucho menor.
    • En el pitch deck decía que monetizarían ofreciendo sus modelos como servicio.
      Puede parecer que el foso es pequeño, porque cualquiera puede levantar una instancia en la nube con el mismo modelo, pero aun así es un punto de partida razonable. Probablemente también consigan muchos clientes de la UE que no pueden o no quieren usar proveedores estadounidenses.
    • No hay ninguna razón por la que no puedan lanzar una app de chat.

  • De verdad espero que una startup europea pueda competir con éxito contra las grandes empresas.
    No quiero ver que violaciones a la privacidad como que OpenAI use por defecto los prompts de usuarios para entrenamiento se vuelvan una práctica estándar.

  • Hay un dicho de los viejos maestros: no te enamores de tu propia creación.
    La industria de IA está cayendo en la trampa del marketing que ella misma creó. Los LLM son juguetes interesantes, pero su implementación consume muchos recursos y energía, y es opaca.
    Muchos problemas reales pueden resolverse con enfoques razonables. Para una persona con sed, lo más importante es el agua, no el tipo de vaso.

    • Si comparas la eficiencia de las máquinas de vapor de la Revolución Industrial con las de hoy, o la generación eléctrica de hace 100 años con la actual, o casi cualquier proceso químico, método de fabricación o tecnología agrícola en sus inicios con su estado actual, te sorprendería la diferencia.
      En algunos casos, la actividad actual era hace 100 años varios órdenes de magnitud más derrochadora.
      Basta con mirar cómo cambiaron el tamaño, el consumo de energía y la velocidad del hardware de computadoras en los últimos 70 años. Que la implementación actual “consuma muchos recursos y energía, y sea opaca” es algo común en muchas invenciones potentes en sus etapas iniciales.
      Es cierto que para una persona con sed el agua es lo más importante, pero aquí la situación se parece más a que un grupo vende un vaso de nanotecnología revolucionaria que mantiene el agua a la temperatura deseada indefinidamente y absorbe humedad del aire para rellenarse continuamente. A veces el tipo de vaso sí puede importar mucho, y por eso no sorprende que varios grupos intenten construirlo.

  • ¿Cuál es el modelo de negocio?

    • Lograr que el gobierno francés vierta una cantidad enorme de dinero con la soberanía como justificación.

  • Quien permita que un usuario “normal” de Mac instale y ejecute un LLM local va a obtener un enorme beneficio comercial.
    Por ejemplo, debería ser algo como descargar un DMG, hacer clic para instalar y ejecutarlo. Sin línea de comandos.
    No tiene sentido que haya 100 millones de computadoras capaces de correr bien un LLM, pero solo una fracción diminuta realmente lo haga.
    Incluso se podría hacer que se presten recursos de cómputo entre sí vía P2P. También se podrían crear LLM personalizados. Personalmente me parece una dirección muy interesante, pero parece que nadie lo está haciendo.