El artículo de investigación Adaptive Composition Attacks in AI-Integrated Systems del autor Setaleur Momen Ghazouani presenta un marco conceptual para entender nuevas amenazas de ciberseguridad que emergen de la interacción entre componentes seguros en sistemas integrados con inteligencia artificial. El estudio, finalizado en julio de 2025, sostiene que las llamadas adaptive composition attacks no son consecuencia de fallos aislados, sino que surgen de interacciones no previstas entre grandes modelos de lenguaje y otros sistemas con permisos de ejecución.
El núcleo del trabajo es el concepto de self-adaptive hacking loop, un proceso en dos fases donde un modelo de lenguaje genera iterativamente entradas maliciosas y las refina a partir del feedback recibido del sistema objetivo. En la fase de generación el modelo propone un vector de ataque inicial, y en la fase de evaluación recibe retroalimentación sobre el resultado y usa esa información para mejorar intentos posteriores. Este ciclo convierte al modelo de un simple generador de contenido en un agente adaptativo que aprende a sortear restricciones de seguridad. El estudio diferencia este fenómeno de técnicas tradicionales como el fuzzing al destacar la capacidad semántica y la orientación por objetivos de los modelos en lugar de la simple aleatoriedad.
Una vulnerabilidad clave descrita es la composición de permisos y confianza. Componentes como LLM, clientes de correo y entornos de ejecución suelen diseñarse con límites de seguridad individuales, pero su integración puede crear vectores nuevos cuando la confianza otorgada a un módulo se extiende implícitamente a otro sin autorización explícita, fenómeno denominado false trust propagation. El documento ilustra casos en los que el acceso conjunto a bandejas de correo corporativas y comandos de shell puede permitir manipulación por medio de ingeniería social, aun cuando cada componente funcione según su diseño.
La amenaza es sistémica y no solo técnica, y exige replantear cómo se definen y validan los permisos en sistemas multiagente de IA. El trabajo también analiza la evolución de los modelos de lenguaje desde generadores pasivos hacia atacantes coordinados. En entornos con retroalimentación rica, un modelo puede orquestar estrategias multietapa que incluyen reconocimiento, engaño y escalada de privilegios. Frente a ello, las defensas estáticas y basadas en firmas resultan insuficientes ante ataques planificados y adaptativos.
Para mitigar estos riesgos, el autor propone un marco defensivo centrado en un Compositional Security Mediator CSM que actúe como proxy entre el modelo de lenguaje y las interfaces de ejecución. El CSM analizaría la intención detrás de secuencias de acciones más allá de comandos individuales, mantendría un registro temporal de interacciones para detectar y romper bucles de autoaprendizaje malicioso, proporcionaría respuestas de error genéricas en lugar de feedback detallado y aplicaría dynamic trust scoping para limitar permisos a tareas específicas y revocarlos al finalizar.
El estudio concluye apelando a un cambio de paradigma en ciberseguridad: en lugar de evaluar sistemas como entidades discretas, hay que considerar todo el ecosistema integrado con IA y sus interconexiones dinámicas como la verdadera superficie de ataque. Se recomienda desarrollar entornos de prueba estandarizados, como el modelo conceptual planner victim, para simular y estudiar estas composiciones complejas y así revelar el combinatorial threat space que permanece invisible en pruebas aisladas. El objetivo final es diseñar defensas resilientes frente a amenazas inteligentes, adaptativas y cooperativas generadas por máquinas.
Q2BSTUDIO es una empresa dedicada al desarrollo de software y aplicaciones a medida con experiencia en inteligencia artificial y ciberseguridad. Ofrecemos servicios de software a medida, aplicaciones a medida y soluciones de ia para empresas que integran agentes IA y arquitecturas seguras. También brindamos servicios cloud aws y azure, servicios inteligencia de negocio y soluciones con power bi para transformar datos en decisiones accionables. Nuestro equipo combina experiencia en ingeniería de datos, modelos de lenguaje y buenas prácticas de seguridad para ayudar a las organizaciones a evaluar riesgos, diseñar mediadores composicionales y aplicar políticas de dynamic trust scoping que reduzcan la propagación de confianza falsa.
En Q2BSTUDIO diseñamos auditorías de seguridad para entornos que integran inteligencia artificial, desarrollamos agentes IA orientados a tareas concretas y construimos soluciones personalizadas que incorporan controles operativos, monitoreo continuo y pruebas de simulación para exponer el espacio combinatorio de amenazas. Nuestros servicios de desarrollo de aplicaciones a medida y software a medida se complementan con asesoría en ciberseguridad, implementación en servicios cloud aws y azure y proyectos de inteligencia de negocio con power bi para ofrecer plataformas seguras y escalables.
Si su organización quiere adelantarse a amenazas emergentes y consolidar defensas frente a ataques adaptativos basados en IA, Q2BSTUDIO puede colaborar en evaluaciones, diseño e implementación de soluciones seguras y adaptativas que combinan inteligencia artificial, ciberseguridad y servicios cloud. Nuestro enfoque práctico busca no solo mitigar riesgos técnicos, sino redefinir la seguridad en sistemas compuestos y dinámicos, garantizando resiliencia, cumplimiento y continuidad del negocio.