La gobernanza de agentes de inteligencia artificial se ha convertido en uno de los desafíos más urgentes para las empresas que buscan escalar sus implementaciones. El dilema es conocido: cuanto más autónomo y capaz es un agente, más difícil resulta controlar sus acciones sin limitar su utilidad. Brex, la empresa fintech estadounidense, ha abordado este problema desde un ángulo poco convencional: en lugar de escribir políticas de seguridad basadas en reglas estáticas o permisos predefinidos, decidió observar lo que los agentes realmente hacen en producción y construir sus reglas a partir de ese comportamiento real. El resultado es CrabTrap, un proxy HTTP/HTTPS de código abierto que intercepta todo el tráfico de red de los agentes y, combinando reglas estáticas con un sistema de 'LLM como juez', decide en tiempo real qué solicitudes aprobar o denegar.
La idea central es que la capa de transporte es un punto de control infrautilizado. Cada petición que un agente envía a una API externa es una oportunidad para inspeccionar, razonar y aplicar una decisión política. En lugar de depender únicamente de guardrails a nivel de SDK, tokens de API o permisos por acción —soluciones que a menudo resultan frágiles ante ataques de inyección de instrucciones o que limitan excesivamente las capacidades—, CrabTrap opera como un punto centralizado donde convergen todas las comunicaciones salientes. Esto permite que sea independiente del framework de agentes, del lenguaje de programación y de la API concreta que se esté utilizando.
El enfoque de Brex para construir las políticas es lo que realmente lo diferencia. En lugar de partir de una página en blanco y especificar manualmente qué dominios, métodos HTTP o cuerpos de solicitud están permitidos, el equipo desarrolló un 'constructor de políticas' que funciona como un bucle agéntico. Primero, ejecutan los agentes en modo espejo (shadow mode), analizando el tráfico histórico para identificar patrones. Luego, el sistema muestrea las llamadas representativas y redacta automáticamente un borrador de política en lenguaje natural que refleja el comportamiento observado. Este borrador se valida mediante un sistema de evaluación que compara las entradas de auditoría históricas con la política propuesta, mostrando exactamente qué cambios se producirían. El proceso se repite en minutos gracias a la ejecución concurrente de las llamadas al juez LLM, que solo interviene en menos del 3% de las solicitudes —aquellas que caen fuera de los patrones conocidos o se dirigen a endpoints inusuales.
Uno de los mayores desafíos técnicos que resolvieron fue la latencia. Colocar un modelo de lenguaje entre el agente y cada petición podría ralentizar el sistema. Sin embargo, al restringir la intervención del LLM a una fracción muy pequeña de las solicitudes y utilizar modelos ligeros como Claude Haiku, el impacto en el rendimiento resultó despreciable. Además, el sistema se beneficia del hecho de que los agentes, una vez en producción, tienden a establecer patrones de tráfico predecibles, que se convierten en reglas estáticas después de ser observados. Otro problema crítico fue la inyección de instrucciones en el propio juez LLM. Dado que el juez recibe la solicitud HTTP completa —incluyendo URL, cabeceras y cuerpo—, un atacante podría manipular esos campos para alterar la decisión. La solución fue estructurar la solicitud como un objeto JSON antes de enviarla al modelo, escapando todo el contenido controlado por el usuario en lugar de interpolarlo como texto plano.
Los resultados internos han sido notables. Según Pedro Franceschi, cofundador y CEO de Brex, la métrica más significativa ha sido la 'confianza organizacional'. Antes de CrabTrap, el equipo dudaba en desplegar agentes autónomos en áreas críticas del negocio por miedo a que los guardrails existentes no ofrecieran garantías suficientes. Ahora cuentan con una capa de control que les permite expandir el uso de agentes a más departamentos y delegar la configuración de políticas a los propios usuarios. Además, el proxy ha revelado la enorme cantidad de tráfico innecesario que generan los agentes: llamadas a APIs que no se utilizan, solicitudes redundantes o endpoints que consumen tiempo y tokens. Esto ha permitido no solo afinar las políticas, sino también optimizar los propios agentes, eliminando herramientas enteras que no aportaban valor.
La lección más importante para otras empresas es que los vacíos de infraestructura no deben convertirse en excusas para esperar. Brex decidió construir su propia solución porque el mercado no ofrecía una herramienta que satisficiera sus necesidades. El enfoque de 'observar antes que reglamentar' puede aplicarse a muchos otros ámbitos de la inteligencia artificial y la ciberseguridad. En lugar de imponer restricciones a ciegas, las organizaciones pueden dejar que los agentes —y los usuarios— muestren primero cómo trabajan, y luego ajustar las políticas en función de los datos reales.
En Q2BSTUDIO entendemos que cada empresa tiene necesidades únicas cuando se trata de integrar soluciones de IA en sus procesos. La experiencia de Brex demuestra que la gobernanza de agentes no es un problema que se resuelva únicamente con tecnología, sino con una estrategia que combine observación, automatización y capas de seguridad superpuestas. Por eso ofrecemos servicios de ciberseguridad y desarrollo de aplicaciones a medida que ayudan a las empresas a implementar este tipo de controles de forma personalizada. Ya sea a través de proxies inteligentes, políticas dinámicas o integraciones con plataformas cloud como AWS o Azure, nuestro equipo puede colaborar con usted para diseñar un sistema de gobierno de agentes que se adapte a su realidad operativa, en lugar de forzar su operativa a un molde predefinido.
El futuro de la gobernanza de agentes, como apunta Brex, pasa por alejarse de los permisos estáticos a nivel de SDK y avanzar hacia un plano de control de red centralizado que aprenda del comportamiento real. CrabTrap es solo el principio. Con la comunidad open-source contribuyendo, veremos cómo surgen funcionalidades como autenticación SSO, control de acceso basado en roles, flujos de escalado para que los agentes soliciten permisos adicionales, o incluso políticas generadas automáticamente a partir de patrones de denegación. La filosofía de 'construir en abierto' permite que estas innovaciones lleguen más rápido a quienes las necesitan. La pregunta que toda empresa debería hacerse no es si necesita un sistema similar, sino cuándo empezará a observarse a sí misma para descubrir qué reglas debería tener.
