Construir el motor fue sencillo en código pero complejo en pensamiento. La implementación me ocupo una noche, pero la arquitectura me llevo meses, dos solicitudes de patente provisionales y muchos desvíos. Cuando el diseño encajo, publicar el proyecto fue lo fácil.
El problema que resolvemos es simple y a la vez profundo: la mayoría de las conversaciones con IA estan ancladas en el pasado de forma literal. Los sistemas de chat tratan las conversaciones como listas planas de mensajes y eso funciona hasta que deja de funcionar. Y cuando falla, lo hace rapido.
En la practica esto aparece en todas partes. Estas planeando un viaje a Paris, a medias preguntas por restaurantes, vuelves a vuelos, luego a hoteles y recuerdas que querias retomar el tema de restaurantes. El asistente no entiende a que te refieres; o incluye todo el historial en el contexto, lo que resulta caro, lento y ruidoso, o pierde el hilo por completo. Pregunta que decidimos sobre la cena y obtendras una respuesta inventada o un educado no tengo esa informacion.
La clave es entender que las conversaciones no son listas planas sino grafos. Los temas se ramifican, el contexto cambia y los hilos se reconectan. Una charla sobre comprar una casa se divide de forma natural en financiación ubicaciones colegios tiempos de desplazamiento y luego vuelve a fusionarse cuando comparas opciones.
Por eso construimos un sistema que las trata como grafos. El nucleo clasifica cada mensaje en tres decisiones de enrutamiento: STAY cuando sigue en la misma rama BRANCH cuando inicia un tema nuevo y ROUTE cuando vuelve a una rama anterior. El modelo de lenguaje decide la accion y el sistema mantiene la estructura de grafo. Ademas cada rama puede extraer hechos estructurados con procedencia para ayudar a contextualizar las llamadas LLM. El contexto se monta bajo demanda reuniendo mensajes relevantes y hechos relacionados ofreciendo 20 mensajes especificos en lugar de 1000 ruidosos.
Ventajas practicas: contexto mas focalizado menos coste y latencias reales aptas para chat en tiempo real por debajo de 500ms. La arquitectura intencionalmente se mantiene sencilla: clasificar mensaje en STAY ROUTE o BRANCH enviar el mensaje a la rama correspondiente extraer hechos en ROUTE o BRANCH y ensamblar contexto cuando el LLM lo requiera.
He abierto el nucleo para aprender en publico. Esta version es un MVP v0.1.0 funcional pero cruda: sin autenticacion sin multi tenant sin version alojada. Necesitas tu propio Postgres y tu clave de API Groq. El enrutamiento a veces tiende a sobre ramificar la extraccion de hechos es basica y no hay interfaz de usuario aun. Detras del codigo quedaron meses de ingenieria: maquinas de estado deteccion de deriva en dos ejes superposiciones semanticas asignacion de clustres promocion de merges y visualizacion basada en lentes. El nucleo liberado recoge la idea central para que usuarios reales lo prueben, lo rompan y nos den feedback.
Si te interesa aplicar esta aproximacion en proyectos productivos y necesitas desarrollo a medida o integracion con herramientas empresariales nuestra empresa Q2BSTUDIO puede ayudarte. Somos especialistas en desarrollo de software y aplicaciones a medida creando soluciones que incorporan inteligencia artificial y modelos de conversacion grafica. Podemos diseñar desde agentes IA y busquedas semanticas hasta pipelines que alimenten cuadros de mando en Power BI. Con experiencia en ciberseguridad y pentesting garantizamos que las integraciones cumplen requisitos de seguridad y cumplimiento.
Ofrecemos tambien migracion y despliegue en la nube con servicios cloud aws y azure y proyectos de inteligencia de negocio para transformar datos en decisiones mediante power bi. Si buscas construir una plataforma conversacional que vaya mas alla de las listas planas podemos desarrollar una solucion a medida. Conoce nuestros servicios de inteligencia artificial en la pagina de servicios de inteligencia artificial y si prefieres empezar por una aplicacion concreta podemos crear tus aplicaciones a medida integradas con agentes IA y pipelines seguros.
Palabras clave para encontrar estas soluciones: aplicaciones a medida software a medida inteligencia artificial ciberseguridad servicios cloud aws azure servicios inteligencia de negocio ia para empresas agentes IA y power bi. Si estas creando gestion de contexto para IA deja de luchar con listas planas. Trata las conversaciones como grafos y contactanos para construirlo juntos.