Command R+ de Cohere: un LLM escalable construido para empresas

• Un modelo de lenguaje grande (LLM) escalable, optimizado para tareas y casos de uso empresariales reales a gran escala
• Command R+ pertenece a la serie de LLM R, que mantiene un equilibrio entre alta eficiencia y gran precisión
• Ayuda a las empresas a llevar la IA a producción más allá de la prueba de concepto

Características principales de Command R+

• Cuenta con una ventana de contexto de 128k tokens y ofrece capacidades de primer nivel como:
  • generación aumentada por recuperación (RAG) avanzada con citas para reducir las alucinaciones
  • soporte multilingüe para 10 idiomas principales con el fin de respaldar operaciones comerciales globales
  • uso de herramientas para automatizar procesos empresariales complejos
• Mejora aún más el rendimiento general sobre las fortalezas clave de Command R
• Supera a modelos similares de la categoría de mercado escalable y compite con modelos mucho más costosos en funciones empresariales clave
• Ofrece el mismo nivel de compromiso con la privacidad y la seguridad de los datos

Colaboración con Microsoft Azure

• Se anunció una nueva colaboración con Microsoft Azure para la comunidad empresarial global
• Está enfocada en llevar los modelos más recientes de Cohere a Azure AI para acelerar la adopción de IA en las empresas
• Proporciona herramientas de IA integrales para que las empresas logren más mientras cumplen los estándares más altos de seguridad y cumplimiento
• Busca fomentar un futuro en el que la tecnología amplifique la capacidad humana y la innovación

Disponibilidad del modelo

• Desarrolladores y empresas pueden acceder desde hoy a los modelos más recientes de Cohere en Azure
• También estará disponible pronto en Oracle Cloud Infrastructure (OCI) y otras plataformas en la nube
• Está disponible de inmediato en la API alojada de Cohere

Solución RAG de nivel líder en la industria

• RAG se ha convertido en la base para que las empresas adopten LLM y los personalicen con sus propios datos propietarios
• Command R+ está optimizado para RAG avanzada con el objetivo de ofrecer una solución preparada para empresas, altamente confiable y verificable
• El nuevo modelo ofrece citas en línea que mejoran la precisión de las respuestas y mitigan las alucinaciones
• Esta capacidad ayuda a las empresas a escalar con IA y encontrar rápidamente la información más relevante para respaldar funciones de negocio en diversos sectores

Automatización de flujos de trabajo empresariales complejos mediante uso de herramientas

• Una de las principales promesas de los modelos de lenguaje grandes es su capacidad no solo para recopilar y generar texto, sino también para actuar como un motor central de razonamiento
• Es posible automatizar tareas difíciles que requieren inteligencia para tomar decisiones y resolverlas mediante herramientas
• Command R+ incluye capacidades de uso de herramientas accesibles mediante API y LangChain para automatizar sin fricciones flujos de trabajo empresariales complejos
• El nuevo Command R+ ahora también admite Multi-Step Tool Use, lo que permite al modelo combinar varias herramientas en múltiples pasos para realizar tareas difíciles

Soporte multilingüe para operaciones empresariales globales

• Command R+ fue diseñado para servir al mayor número posible de personas, organizaciones y mercados
• En conversaciones con empresas, respondió a una enorme demanda de capacidades multilingües que ayuden a las organizaciones a trabajar con mayor fluidez entre regiones y culturas
• Command R+ fue construido para ofrecer un desempeño sobresaliente en 10 idiomas clave de los negocios globales (inglés, francés, español, italiano, alemán, portugués, japonés, coreano, árabe y chino)
• Gracias a esta capacidad multilingüe, los usuarios pueden generar respuestas precisas a partir de amplias fuentes de datos sin importar su idioma nativo

Precio y disponibilidad

• Cohere trabaja con todos los principales proveedores de nube, así como con entornos on-premises para industrias reguladas y casos de uso sensibles a la privacidad, con el fin de hacer que el modelo esté disponible de forma universal
• El modelo más reciente Command R+ ya está disponible en el entorno de demostración de Cohere, ofreciendo una experiencia directa para probarlo mediante una interfaz de chat simple

Compromiso con la privacidad y la seguridad de los datos

• Con la familia de modelos Command R, la empresa trabaja para proteger los datos de los clientes, la privacidad y la seguridad, de modo que puedan usar IA con confianza
• Siempre ha construido sus productos con la privacidad de los datos como eje central y ofrece protección adicional a los clientes con una garantía de derechos de autor ante reclamaciones por infracción
• No accede a los datos de los clientes a menos que estos lo deseen
• Ofrece despliegue de LLM privados y opciones para excluirse del intercambio de datos

Opinión de GN⁺

• Command R+ es el modelo más reciente optimizado para RAG y diseñado para empresas; su punto clave es ofrecer alta precisión y eficiencia para ayudar a las organizaciones a pasar de la etapa de prueba de concepto a producción. Destaca especialmente por sus funciones optimizadas para el trabajo empresarial real, como RAG con datos propietarios de la empresa y soporte para 10 idiomas.
• Parece tener potencial para ser competitivo en el mercado de modelos de lenguaje grandes para empresas, pero se espera una competencia intensa con modelos rivales como la serie GPT de OpenAI o Claude de Anthropic, ya que la mejora de su rendimiento avanza con rapidez. En particular, será clave desarrollar factores de diferenciación propios de Cohere y validar el rendimiento en áreas especializadas.
• Al introducir modelos de lenguaje grandes en las empresas, además de precisión y eficiencia, también deben considerarse de forma integral factores como la privacidad de los datos, la seguridad y el sesgo del modelo. En especial, pueden surgir temas regulatorios relacionados con el manejo de datos, por lo que hace falta prepararse para ello. Es positivo que Cohere destaque sus esfuerzos por proteger la privacidad de los datos, pero las empresas clientes también deberán prestar mucha atención al uso de sus propios datos y a la construcción de un esquema sólido de seguridad del modelo.

[GN⁺]

Comentarios en Hacker News

• Un nuevo plugin agrega soporte para este modelo a la herramienta CLI llm.

  • La herramienta CLI llm, desarrollada por Simon Willison, es una utilidad de línea de comandos para acceder a modelos de lenguaje grandes.
  • Esta herramienta admite APIs remotas y modelos que pueden ejecutarse localmente, y permite ejecutar prompts desde la línea de comandos y construir un motor de búsqueda de imágenes.
  • Una de las funciones interesantes de los modelos de la API de Cohere es que pueden realizar búsquedas web y usar esos resultados para responder al prompt.
  • El plugin se agrega como un comando separado, lo que permite a los usuarios hacer preguntas sobre la herramienta CLI llm.

• La diferencia entre los modelos Command R y Command R+ es el precio.

  • El modelo Command R cuesta $0.50 por token de entrada y $1.50 por token de salida, mientras que el modelo Command R+ cuesta $3.00 por token de entrada y $15.00 por token de salida.

• El modelo Command-R fue construido para empresas, pero tiene una licencia CC-BY-NC.

  • Esta licencia es más flexible que la de DBRX, ya que DBRX prohíbe su uso para mejorar otros modelos de lenguaje grandes.

• Se señala que la elección de la tipografía del encabezado del sitio web no es buena, porque hace que el texto parezca tener manchas blancas.

• Hay un comentario que se pregunta si se puede usar esta herramienta para ingerir documentos como el acuerdo de usuario de la App Store y hacer preguntas sobre ellos.

• Se menciona que hace falta un término para distinguir entre usar un LLM dentro de la empresa para obtener respuestas y usar un LLM orientado al cliente.