.jpg)
Google ha desplegado un segundo modelo de inteligencia artificial para supervisar su agente de navegación en Chrome potenciado por Gemini tras reconocer que el agente podía ser engañado para realizar acciones no autorizadas mediante ataques de inyección de instrucciones conocidos como prompt injection. Este agente, lanzado en septiembre y aún en vista previa, puede navegar por sitios web, pulsar botones y rellenar formularios mientras el usuario está autenticado en correo, banca o sistemas corporativos, lo que aumenta el riesgo de que instrucciones maliciosas ocultas en páginas, iframes o contenido generado por usuarios provoquen transacciones financieras no deseadas o la exfiltración de datos sensibles.
Para mitigar ese riesgo Google ha introducido un critic de alineamiento con el usuario que actúa como una segunda IA independiente. El modelo principal analiza el contenido web y plantea acciones. El critic revisa solo metadatos sobre las acciones propuestas y no ve el contenido web sin filtrar, con lo que no puede ser envenenado directamente desde la web. Si el critic determina que una acción no coincide con lo solicitado por el usuario la bloquea y devuelve retroalimentación al planificador para reformular la propuesta. Este enfoque sigue patrones de seguridad conocidos como dual LLM y la investigación CaMeL de DeepMind, e incluye controles de origen que limitan en qué sitios el agente puede leer y en cuáles puede ejecutar acciones.
Además de la doble IA y los origin sets Chrome exige confirmación del usuario antes de que el agente acceda a sitios bancarios o médicos, use contraseñas guardadas o complete compras. Funciona un clasificador paralelo que detecta intentos de inyección de instrucciones y se han creado sistemas automáticos de red teaming que generan sitios de prueba maliciosos, priorizando vectores como contenido generado por usuarios en redes sociales y redes de publicidad.
La inyección de instrucciones es un problema complejo y todavía no resuelto. Autoridades como la agencia nacional de ciberseguridad del Reino Unido han advertido que puede no mitigarse por completo porque los modelos grandes de lenguaje tienen dificultades para distinguir entre instrucciones y datos, lo que crea una vulnerabilidad tipo confused deputy. Consultoras de seguridad han mostrado ataques en entornos empresariales donde agentes se manipulan mediante campos de formulario o documentos maliciosos para filtrar información o desactivar controles de seguridad.
En Q2BSTUDIO, empresa especializada en desarrollo de software y aplicaciones a medida, inteligencia artificial, ciberseguridad y servicios cloud, entendemos estos riesgos y ofrecemos soluciones integradas para proteger despliegues de agentes IA y aplicaciones conectadas. Diseñamos software a medida y servicios de IA para empresas que incluyen controles de acceso, separación de responsabilidades entre modelos, auditoría y pentesting continuo. Si necesita estrategias para implantar agentes IA de forma segura ofrecemos servicios de ciberseguridad y pentesting que analizan vectores de inyección y validan defensas esencialmente centradas en diseño y privilegios mínimos ver servicios de ciberseguridad.
También acompañamos a las organizaciones en la adopción de inteligencia artificial aplicada y en la integración de herramientas de análisis como power bi y servicios de inteligencia de negocio para convertir datos en decisiones, así como en la migración y operación en entornos cloud. Ofrecemos proyectos de IA para empresas y agentes IA diseñados a medida que respetan las mejores prácticas de seguridad y cumplimiento. Con soluciones en la nube certificadas para servicios cloud aws y azure y capacidades de desarrollo de aplicaciones a medida, podemos ayudar a construir arquitecturas seguras y escalables consultar servicios de inteligencia artificial.
La recomendación para empresas es asumir que los sistemas de IA serán atacados y limitar privilegios, auditar accesos y diseñar mitigaciones desde la fase de arquitectura. Si necesita asesoramiento para desplegar agentes IA con garantías de seguridad o para desarrollar software a medida, nuestros equipos combinan experiencia en inteligencia artificial, ciberseguridad, servicios cloud y business intelligence para ofrecer soluciones completas y seguras desde la idea hasta la operación.
