Pruebas de seguridad para aplicaciones y agentes con IA

¿Qué es Seguridad de aplicaciones y sistemas de IA?

Las aplicaciones que incorporan inteligencia artificial introducen superficies de ataque nuevas que el pentesting tradicional no cubre: prompt injection (directa e indirecta), exfiltración de datos a través del contexto del modelo, abuso de herramientas y acciones que el agente puede ejecutar, supply chain de modelos y dependencias IA, y comportamiento emergente no previsto en el diseño. Este servicio es un security assessment técnico: realizamos threat modeling y pruebas autorizadas sobre aplicaciones, agentes y pipelines que usan modelos de lenguaje u otros sistemas de IA.

El proceso comienza con threat modeling: identificamos activos (datos, acciones, reputación), actores de amenaza (usuarios maliciosos, contenido envenenado, proveedores comprometidos), fronteras de confianza (qué componente confía en cuál), flujos de datos (qué entra al modelo, qué sale, qué se almacena) y escenarios de abuso relevantes para el contexto específico de la aplicación. No aplicamos un checklist genérico: el modelo de amenazas se adapta a la arquitectura, el caso de uso y el perfil de riesgo del sistema evaluado.

Las pruebas autorizadas cubren los vectores específicos de IA: prompt injection directa (el usuario intenta manipular instrucciones) e indirecta (contenido externo que el sistema consume intenta alterar el comportamiento), exfiltración de datos del contexto (system prompt, datos de otros usuarios, información privilegiada accesible al modelo), escalado de acciones en agentes (el agente ejecuta herramientas con permisos que el usuario no debería tener directamente), abuso de herramientas y APIs (parámetros manipulados, rate limit, acciones irreversibles sin confirmación), supply chain de modelos (dependencias, artefactos, procedencia, modelos troyanizados) y bypass de controles (filtros de contenido, guardrails, sistemas de detección).

También revisamos la seguridad tradicional de la aplicación que aloja la IA: autenticación, autorización, gestión de secretos, inyección clásica (SQL, command), XSS, SSRF, deserialización, logging, gestión de sesiones y configuración de infraestructura. Las vulnerabilidades clásicas siguen siendo relevantes y pueden amplificarse cuando un modelo tiene acceso a recursos internos.

Cada hallazgo se documenta con: descripción técnica, evidencia reproducible (pasos, payloads, respuestas), severidad contextualizada, impacto potencial, causa raíz y recomendación de remediación priorizada. No entregamos listas genéricas de OWASP Top 10 for LLMs sin contexto: cada hallazgo es específico al sistema evaluado y verificable.

El alcance se define antes de actuar: qué sistemas se prueban, con qué cuentas, en qué ventanas, con qué datos de prueba, con qué límites (no modificar producción real, no exfiltrar datos reales más allá de la evidencia, no afectar disponibilidad). Las pruebas son autorizadas: existe acuerdo formal, entorno definido y comunicación durante la ejecución.

Ninguna prueba de seguridad garantiza ausencia total de vulnerabilidades. Entregamos evidencia del estado actual dentro del alcance acordado; los riesgos residuales (fuera de alcance, futuros, dependientes de contexto) se señalan explícitamente. Esto no es una certificación: es un assessment técnico puntual. Para programa continuo de riesgo se necesita repetición, ampliación de alcance y, posiblemente, consultoría de Gobierno de IA.

Este servicio NO sustituye Gobierno de IA: ese alcance (modelo operativo organizativo, políticas, roles, catálogo de casos, aprobación y controles de gobierno) es consultoría de gobierno, no el pentesting/assessment técnico de este subservicio. Ambos pueden complementar un programa de riesgo, pero responden a intenciones de búsqueda y necesidades de compra distintas. El assessment aporta evidencia técnica; el gobierno define cómo la organización decide y controla.

Opcionalmente ofrecemos retest tras la remediación para verificar que los hallazgos se han corregido efectivamente, y sesión técnica con el equipo de desarrollo para profundizar en causas y prevención.