Cómo Arthur piensa

Arthur recupera conocimiento usando dos estrategias que corren en paralelo. BM25 (FTS5) destaca en precisión por palabras clave — términos exactos, jerga técnica, nombres de productos. La búsqueda vectorial KNN usa similitud coseno sobre embeddings densos para encontrar contenido semánticamente relacionado aunque las palabras no coincidan. Ambos resultados se fusionan con Reciprocal Rank Fusion (RRF) — un algoritmo que produce una lista top-k más precisa que cualquiera de las dos estrategias por separado.

La base de conocimiento se almacena en SQLite con sqlite-vec — una decisión deliberada frente a bases de datos vectoriales en la nube. Corre en el mismo proceso, cabe en un VPS de $6/mes y arranca en milisegundos. Para bases de conocimiento de pocos millones de chunks — lo que cubre cualquier PyME — el rendimiento es idéntico a Pinecone o Weaviate. Sin overhead de infraestructura, sin factura mensual adicional, sin dependencia externa.

Antes del pipeline de recuperación, cada consulta pasa por una caché en memoria. Las consultas entrantes se comparan con entradas en caché usando similitud coseno. Si el score supera el umbral, la respuesta en caché se devuelve instantáneamente — sin llamada al LLM, sin búsqueda vectorial. Esto reduce drásticamente la latencia y el costo de API para preguntas repetidas, que son comunes en flujos conversacionales. La caché tiene TTL configurable y evicción automática.

La capa LLM usa Gemini Flash con un system prompt que define el rol de Arthur, sus reglas y una señal de handoff integrada. Cuando un cliente describe un proyecto concreto, Arthur añade HANDOFF:true al final de su respuesta. La API parsea esta señal y la devuelve como campo booleano — suggest_handoff — activando la captura de email en el frontend en el momento preciso.