Empecé a crear esto yo mismo porque en los días en que quería recibir consuelo no tenía con quién hablar. Estoy en el último año de preparatoria y lo diseño y opero solo.
Se puede conversar de inmediato como invitado, sin registrarse ni ingresar un correo. Al entrar, AIRU pregunta primero cómo estás y, como recuerda la conversación, cuando vuelves te llama por tu nombre y continúa con lo que habían hablado.
Diferencias con los servicios existentes
Los asistentes de propósito general como ChatGPT responden cada vez como si trataran con alguien que ven por primera vez, y los servicios tipo character chat muchas veces están diseñados para aumentar la inmersión y el tiempo de permanencia. AIRU va en la dirección contraria: toma la continuidad (memoria) como eje central, pero define el éxito como que el usuario necesite menos el servicio, y prohíbe expresiones y dark patterns que fomenten la dependencia.
Detalles técnicos
Puerta de reflexión refractada: si una frase como “ayúdame a entender por qué me siento así” se envía a búsqueda solo por ver una keyword (“ayúdame a encontrar”), se arruina un momento en el que la persona necesita consuelo. Por eso, solo las solicitudes que activan un disparador por keyword se reevalúan justo antes de ejecutarse mediante una llamada a un LLM ultrapequeño, y si se trata de una expresión conversacional, se cancela la búsqueda. Si falla la clasificación, se mantiene la decisión por keyword existente (fail-open). La estructura no es filtrado después de generar, sino reevaluación antes de ejecutar la herramienta.
Memoria: separé la memoria estructurada (nombre, preferencias, contexto en curso) del archivo de texto original (SQLite + búsqueda de similitud con 2-gramas en coreano), y las conversaciones sensibles no se guardan por defecto; el usuario puede consultarlas, modificarlas y eliminarlas directamente.
Seguridad: ante señales de crisis, se prioriza orientar a instituciones especializadas (número integrado de prevención del suicidio 109). Tanto en la pantalla como en la persona se mantiene el límite de que no es un servicio profesional de salud mental.
Stack: FastAPI + vanilla JS, modelos provistos vía API (model-agnostic), un solo droplet con Docker/Caddy, 296 pruebas de regresión y medición integrada de retención por cohortes anónimas.
Como es una beta temprana, todavía tiene muchas carencias. En particular, estoy mejorando la calidad de la primera conversación y la tasa de conversión de la pantalla de entrada. Si lo prueban y me cuentan qué partes se sienten raras, lo incorporaré. No veo el texto original de las conversaciones personales; solo reviso métricas anónimas.
Caso real
Una vez, cuando un usuario preguntó por una canción, AIRU hizo una búsqueda web pero siguió respondiendo cualquier cosa. Al revisar los logs, vi que la búsqueda se había ejecutado, pero el problema era la consulta. En la pregunta de seguimiento “dime cuál es el tema de esa canción”, estaba buscando “cuál es el tema de esa canción” sin incluir el término principal de la conversación anterior (el nombre de la canción). Ahora lo corregí para que, al detectar un pronombre demostrativo (“esa canción”), busque el término principal en el mensaje anterior y lo combine. Operándolo aprendí que generar consultas de búsqueda para preguntas de seguimiento es un desafío oculto en este tipo de servicios.
Mecanismos para operar solo
Como es una operación de una sola persona, hice que las reglas trabajen en lugar de personas. Automatización de snapshots de datos y verificación de integridad antes de desplegar, separación física de logs de tráfico de usuarios reales/evaluación/operador/bots (porque mis pruebas llegaron a contaminar las métricas) y ejecución completa de las pruebas de regresión antes de cada despliegue.
Aún no hay comentarios.