L'adopció massiva d'agents basats en grans models de llenguatge (LLM) està transformant la manera com les empreses automatitzen fluxos de treball i prenen decisions basades en dades. Tanmateix, un dels obstacles més crítics per escalar aquestes solucions és gestionar eficientment l'accés a eines externes. El Protocol de Context de Model (MCP, per les sigles en anglès) s'ha consolidat com la interfície estàndard perquè els agents LLM invoquin sistemes externs, però la seva operació al núvol a gran escala presenta reptes significatius. En aquest article, explorem com superar aquestes limitacions mitjançant una arquitectura de passarel·la (gateway) que permet un accés escalable i eficient a centenars o milers d'eines, mantenint un rendiment òptim i un baix cost computacional.
Un dels problemes fonamentals sorgeix del model de connexió directa entre l'agent i cada eina. Quan una empresa necessita integrar desenes o centenars de serveis legacy —com bases de dades, APIs REST o sistemes de CRM—, cadascun requereix adaptacions específiques al protocol MCP. Això genera una càrrega de manteniment contínua, especialment perquè el propi protocol evoluciona ràpidament, introduint incompatibilitats entre versions. A més, des de la perspectiva de l'agent, el nombre d'eines accessibles està limitat per la finestra de context del LLM. Cada eina addicional consumeix tokens i incrementa la latència d'inferència, cosa que pot reduir la taxa d'èxit de la tasca final. Finalment, els backends MCP amb estat (stateful) que utilitzen múltiples rèpliques necessiten mantenir l'afinitat de sessió, afegint complexitat al costat del client.
Per abordar aquests desafiaments, proposem un sistema de passarel·la per a serveis MCP desplegat al núvol. Aquesta passarel·la actua com un intermediari al pla de dades, trencant el model de connexió directa. D'aquesta manera, s'externalitzen tasques com la integració de serveis legacy, la consolidació de variants incompatibles de MCP, el control d'accés, la recomanació d'eines i l'encaminament conscient de la sessió. En particular, el mòdul de recomanació d'eines utilitza una recuperació híbrida que combina tècniques de cerca semàntica i basada en atributs, aconseguint un 98% de recall al Top-15. Això permet que l'agent tingui accés a més de 3.000 eines amb una alta precisió de selecció, reduint el temps de selecció en un factor de 8,9x i l'ús de tokens en un 23,8x, amb una sobrecàrrega per crida mínima i estable fins i tot sota escalat horitzontal.
La implementació d'aquesta arquitectura no només resol els problemes tècnics, sinó que també obre la porta a noves possibilitats de negoci. Les empreses poden ara integrar catàlegs extensos d'eines sense comprometre el rendiment ni el cost. Per exemple, una organització que utilitzi agents LLM per automatitzar processos d'atenció al client pot connectar simultàniament motors de cerca, bases de coneixement, sistemes de ticketing i eines de BI com Power BI, tot amb una latència previsible. La capacitat de seleccionar l'eina més rellevant en temps real, basant-se en el context de la conversa, millora l'eficiència i la satisfacció de l'usuari.
En aquest context, empreses com Q2BSTUDIO ofereixen solucions de desenvolupament de programari a mida que permeten construir aquestes passarel·les MCP personalitzades. Amb experiència en tecnologies al núvol com AWS i Azure, així com en integració d'intel·ligència artificial, Q2BSTUDIO ajuda les organitzacions a dissenyar arquitectures escalables per a agents LLM. Per exemple, poden desenvolupar un sistema de recomanació d'eines basat en embeddings i recuperació híbrida, o implementar un control d'accés segur que compleixi amb els estàndards de ciberseguretat empresarial. A més, la integració amb eines de Business Intelligence com Power BI permet visualitzar en temps real les mètriques d'ús i rendiment dels agents.
La clau de l'èxit resideix en la capacitat d'adaptar la solució a les necessitats específiques de cada client. No totes les empreses requereixen el mateix nivell d'escalabilitat ni els mateixos tipus d'eines. Per això, la passarel·la ha de ser configurable per suportar diferents volums de peticions, polítiques de seguretat i requisits d'estat. Q2BSTUDIO ofereix serveis de consultoria i desenvolupament que abasten des de la definició de l'arquitectura fins a la implantació en entorns de producció al núvol, ja sigui a AWS, Azure o entorns multicloud.
Un aspecte crític és la ciberseguretat. En exposar una passarel·la centralitzada que gestiona autenticació, autorització i encaminament, es converteix en un punt únic de control. Implementar bones pràctiques de seguretat, com validació de tokens, xifrat de punta a punta i auditoria d'accessos, és fonamental per protegir les dades corporatives. Q2BSTUDIO compta amb experts en ciberseguretat que poden realitzar pentesting i anàlisi de vulnerabilitats per garantir que la solució sigui robusta davant d'atacs.
Un altre avantatge important de l'enfocament de passarel·la és la facilitat per integrar serveis legacy sense modificar el seu codi original. Mitjançant adaptadors que es connecten a la passarel·la, qualsevol API REST, base de dades relacional o sistema de missatgeria pot ser exposat com una eina MCP. Això redueix significativament el temps d'integració i els costos de manteniment, permetent a les empreses aprofitar les seves inversions existents en sistemes heretats. A més, en centralitzar la gestió de sessions a la passarel·la, s'elimina la necessitat que els clients mantinguin afinitat de sessió, simplificant la lògica de l'agent.
En el pla de la intel·ligència artificial, el mòdul de recomanació d'eines és un exemple de com combinar tècniques clàssiques de recuperació d'informació amb models de llenguatge. La recuperació híbrida, que combina cerca per similitud semàntica (mitjançant embeddings) i filtratge per atributs (tipus d'eina, permisos, etc.), aconsegueix un equilibri entre precisió i recall. Per a conjunts d'eines molt grans (més de 10.000), es pot aplicar un enfocament d'arbre de decisió o clustering per reduir l'espai de cerca, mantenint la baixa latència. Q2BSTUDIO pot implementar aquestes tècniques en plataformes al núvol, utilitzant serveis com Amazon Bedrock o Azure Cognitive Search, o bé desenvolupar solucions pròpies amb models open source.
Finalment, compartim algunes lliçons apreses de la posada en producció d'aquest tipus de passarel·la en entorns empresarials. Primer, és crucial monitoritzar tant la passarel·la com els serveis backend per detectar colls d'ampolla i fallades de manera primerenca. Segon, la configuració de polítiques de rate limiting i throttling ajuda a protegir els serveis legacy de pics de trànsit. Tercer, la documentació i el versionat de les eines exposades són essencials perquè els equips de desenvolupament d'agents puguin entendre i utilitzar correctament el catàleg. Finalment, la col·laboració entre els equips d'IA, núvol i seguretat és indispensable per garantir una implantació exitosa.
En conclusió, l'accés escalable a eines d'agents LLM al núvol és un repte que es pot resoldre mitjançant una arquitectura de passarel·la ben dissenyada. Aquesta solució no només millora el rendiment i redueix costos, sinó que també facilita la integració de sistemes legacy i proporciona un punt centralitzat de control i seguretat. Empreses com Q2BSTUDIO, amb la seva experiència en aplicacions a mida, cloud AWS/Azure, intel·ligència artificial i ciberseguretat, estan preparades per ajudar les organitzacions a fer aquest salt tecnològic. Si la seva empresa busca implementar agents LLM a gran escala, consideri adoptar una passarel·la MCP com a part fonamental de la seva arquitectura.
