Lanzamiento en HN: Human Layer (YC F24) – API de participación humana para sistemas de IA

• Introducción a HumanLayer

  • HumanLayer es una API que permite a los agentes de IA interactuar con humanos para recibir retroalimentación, entradas y aprobaciones.
  • Facilita el despliegue de sistemas de IA autónomos y seguros, y permite empezar fácilmente mediante SDK de Python y TypeScript.
  • Ofrece una prueba gratuita y una política de precios transparente basada en uso.

• Gestión de los riesgos de los sistemas de IA

  • Permite incorporar intervención humana cuando se necesita reducir los riesgos de los sistemas de IA.
  • Comenzó al desarrollar agentes de IA para equipos de datos, y los clientes se mostraban reacios a que los agentes de IA accedieran directamente a sistemas de producción.
  • Se creó un flujo básico de aprobación para que la IA obtenga aprobación humana antes de ejecutar tareas importantes.

• Funciones de HumanLayer

  • Al integrar el SDK de HumanLayer, los agentes de IA pueden solicitar aprobación humana en cualquier momento durante su ejecución.
  • Envía la solicitud a la persona adecuada, gestiona el estado mientras espera la respuesta y proporciona una trazabilidad de auditoría completa.
  • Además de las "solicitudes de aprobación", admite la función de "humano como herramienta", que puede exponerse a LLM o frameworks de agentes.

• Casos de uso de HumanLayer

  • Un SDR de IA redacta correos de ventas personalizados y obtiene aprobación humana en Slack antes del envío.
  • En un newsletter de IA, mantiene conversaciones por correo con suscriptores, mientras HumanLayer enruta los correos entrantes al agente y le proporciona herramientas de respuesta.
  • Se puede construir un agente de DevOps orientado a clientes que solicite aprobación humana para revisar PR, planificar migraciones de DB y ejecutarlas.

• Precios y soporte

  • Ofrece un nivel gratuito y una política de precios flexible basada en créditos.
  • Para equipos que construyen agentes orientados a clientes, ofrece white-labeling, funciones adicionales y soporte prioritario.

• Información adicional

  • Para integrar HumanLayer en un sistema, se puede consultar la documentación o revisarlo mediante una reserva de demo.
  • Está en una etapa temprana y reciben con gusto ideas y experiencias sobre agentes, confiabilidad y el equilibrio de cargas de trabajo entre humanos + IA.

[GN⁺]

Comentarios de Hacker News

• Hay opiniones de dueños de startups que quieren usar IA para crear servicios internos por su cuenta. Creen que sería mejor usar SaaS, pero que los precios son altos y no es algo sencillo. Consideran que, si aparece competencia, los precios bajarán

• Hay preocupación por el alto costo de los servicios de IA, y opiniones de que hace falta ofrecer créditos gratuitos o ajustar los precios

• Hay preocupación por el sesgo de automatización y la complacencia con la automatización, con el riesgo de que las personas aprueben sin cuestionar las decisiones de la IA

• Se propone la idea de usar agentes humanos para encargarse de tareas que los agentes de IA no pueden realizar

• Se señalan problemas en los frameworks para manejar llamadas a herramientas asíncronas o de larga duración. Hay ideas para resolverlo, pero se tratarán en otra publicación

• Hay opiniones de que hace falta esforzarse para mantenerse en la capa de la API

• Hay opiniones de que, en las primeras etapas de la IA, los humanos realizaban la lógica y luego, al quitarlos, la calidad se deterioró. Se plantea la analogía de que una empresa tercera vuelva a incorporar humanos como una solución temporal para resolverlo

• En las startups se valora la intervención humana, y se considera que hacen falta control y supervisión para convertir el potencial basado en LLM en valor real. Para ello, se construyeron workflows personalizados y procesos manuales

• Hay opiniones de que muchos sistemas ya permiten servicios que ofrecen funciones básicas de entrada y salida. Se cree que vale la pena probarlos antes de implementarlo directamente

• En una empresa de dispositivos médicos están considerando IA como agente de workflow, y planean usar LLM para respaldar procesos de aseguramiento de calidad ISO13485. Quieren conocer la opinión de otros usuarios de HN al respecto