OpenAI publica las API de ChatGPT y Whisper

• Ahora es posible usar las funciones de ChatGPT y Speech-To-Text dentro de sus propias apps
• Desde el anuncio de ChatGPT en diciembre, lograron una reducción de costos del 90% mediante optimización, y eso lo trasladan a los usuarios de la API

API de ChatGPT

• Usa el modelo gpt-3.5-turbo, el mismo que se utiliza actualmente en el producto ChatGPT
  • $0.002 por cada 1k tokens, 10 veces más barato que GPT-3.5 anterior
  • También es el mejor modelo para fines distintos al chat, y es fácil cambiar de text-davinci-003 a gpt-3.5-turbo (se recomienda la migración)
• La API recibe como entrada texto no estructurado compuesto por tokens
  • Internamente se renderiza como una secuencia de tokens llamada ChatML
• gpt-3.5-turbo se seguirá actualizando continuamente a la versión más reciente. Por ahora, gpt-3.5-turbo-0301 tendrá soporte hasta el 1/6
• Está previsto lanzar una nueva versión estable en abril
• También se ofrece Dedicated Instance por separado (soporta contextos más largos y es adecuado para usuarios que procesan más de 450 millones de tokens al día)

API de Whisper

• Modelo Speech-To-Text publicado como open source en septiembre de 2022
• Recibió buenas evaluaciones de la comunidad de desarrolladores, pero era difícil operarlo
• El modelo large-v2 puede usarse vía API, a $0.006/minuto
• Disponible en los endpoints transcriptions / translations
• Soporta los formatos m4a, mp3, mp4, mpeg, mpga, wav, webm

Empresas que lo están usando al inicio

• Snap: ofrece un chatbot basado en ChatGPT llamado My AI for Snapchat+. Hace recomendaciones y escribe poemas para amigos (haiku)
• Quizlet: aplicó ChatGPT a Q-Chat, un tutor de IA adaptativo que hace preguntas según lo que estudiaste
• Instacart: lo incorporó en la función Ask, donde puedes hacer preguntas sobre comida y recibir respuestas
• Shopify: incorporó una función de asistente de compras en la app Shop
• Speak (Corea): app de aprendizaje de idiomas que usa la API de Whisper.

[frogred8]

Parece que en el original aparece como $0.002 por cada 1k tokens.

It is priced at $0.002 per 1k tokens

Y como me dio curiosidad la definición de token, busqué un poco más y parece que se determina según la cantidad de caracteres de entrada/salida.

The number of tokens processed in a given API request depends on the length of both your inputs and outputs. As a rough rule of thumb, 1 token is approximately 4 characters or 0.75 words for English text.

[xguru]

Vaya, había un error tipográfico en una parte importante ;_; Ya lo corregí.

[lukaid]

Cada semana salen nuevas noticias de IA... me emocionan y también me dan miedo, pero tratar de no perder el ritmo de la tendencia también se siente bastante agotador.

[functor]

OpenAI de verdad es increíble.