Trabajaba en un proyecto de hackathon un asistente de IA que te permite conversar con tu infraestructura usando RAG y MCP, como si mantuvieras un diálogo en tiempo real con todo tu entorno cloud.
Implementamos compatibilidad con múltiples proveedores de LLM como Gemini, Watsonx y Ollama. La lógica de cambio de proveedor existía, pero estaba muy incrustada en el código del proyecto.
Luego encontré un análisis en VentureBeat donde un vicepresidente de IA de IBM explicaba que muchas empresas usan varios proveedores y que el reto es alinear cada LLM con el caso de uso adecuado. Ese mensaje, disponible en este artículo de VentureBeat, validó lo que estábamos construyendo.
Durante el hackathon creamos un sistema de configuración que permitía especificar distintos proveedores y modelos, pasar claves por archivos de configuración o variables de entorno y fijar un proveedor por defecto. Funcionó muy bien para nuestro caso.
Para la entrega final ya soportábamos Anthropic, Gemini, Watsonx y Ollama. La misma aplicación, diferentes cerebros.
No entramos en la shortlist, pero no quise cerrar ahí la historia y seguí mejorando lo que sí estaba bajo mi control.
Me di cuenta de que habíamos creado algo valioso. Aquella lógica de cambio de proveedor, enterrada en el repositorio, resolvía un problema real. La extraje, la reorganicé, añadí más proveedores, incorporé utilidades de línea de comandos y la liberé como proyecto abierto con el nombre llmswap.
En lugar de duplicar bloques de código para cada proveedor, llmswap ofrece una interfaz única que lee la configuración desde archivos o variables de entorno y permite hacer preguntas o iniciar chats con la infraestructura sin modificar tu aplicación base.
Además sumé herramientas CLI que uso a diario para preguntas rápidas sobre infraestructura, sesiones de troubleshooting, diagnóstico de errores en plataformas como OpenStack y revisión de plantillas o scripts de despliegue. Solo esas utilidades ya nos evitan decenas de cambios de pestaña cada día.
Resultado inicial más que positivo con mas de 6000 descargas en el primer mes en PyPI, disponible en la página de llmswap en PyPI.
Moraleja del proyecto a producto abierto a veces las mejores contribuciones nacen al identificar piezas valiosas dentro de desarrollos más grandes y darles vida propia hasta convertirlas en herramientas que ayudan a miles de desarrolladores.
En Q2BSTUDIO impulsamos este tipo de soluciones desde la experiencia en aplicaciones a medida, software a medida, inteligencia artificial, ciberseguridad, servicios cloud aws y azure, servicios inteligencia de negocio y power bi, además de automatización de procesos, ia para empresas y agentes IA. Si tu organización quiere adoptar una estrategia multillm, integrar RAG en sus flujos o crear asistentes específicos de dominio, podemos ayudarte desde la definición técnica hasta el despliegue y la operación.
Si buscas un socio para crear productos de alto impacto con IA visita nuestra página de inteligencia artificial o cuéntanos tu idea para desarrollar software a medida y aplicaciones a medida que se conecten con tus sistemas y aceleren tus resultados.