La proliferació d'agents basats en models de llenguatge (LLM) ha obert noves fronteres en l'automatització intel·ligent, però també ha exposat vulnerabilitats crítiques. Els atacs a aquests sistemes ja no es limiten a una sola sessió o a un únic agent; els adversaris distribueixen els seus intents d'explotació a través de múltiples agents, equips i entorns d'execució. Aquesta fragmentació dificulta que els sistemes de defensa locals, que només veuen una part de l'atac, puguin identificar la campanya subjacent. Sorgeix així un nou repte: l'atribució de campanyes entre agents, és a dir, la capacitat de vincular sessions asíncrones que pertanyen a un mateix atac coordinat, sense compartir estat d'execució ni etiquetes de campanya. En aquest article explorem aquesta problemàtica des d'una perspectiva tècnica i empresarial, i mostrem com solucions innovadores, com les que desenvolupa Q2BSTUDIO, poden integrar capes de defensa avançades en sistemes d'intel·ligència artificial.
Quan parlem d'agents LLM desplegats en entorns empresarials, ens referim a assistents virtuals, xatbots, automatitzacions de processos i sistemes de suport que interactuen amb usuaris o amb altres sistemes. Un atac típic pot consistir a injectar instruccions malicioses (prompt injection) o explotar vulnerabilitats contextuals. El que abans es detectava com un incident aïllat ara pot ser part d'una campanya orquestrada on l'atacant envia senyals febles a diferents agents, evitant sospites locals. L'atribució de campanyes asíncrones esdevé així una capa de seguretat indispensable, complementària als detectors per sessió.
Investigacions recents han formalitzat aquest problema amb el nom de cross-agent asynchronous campaign attribution. Es tracta de vincular sessions d'atac sense disposar d'un estat compartit, sense etiquetes de campanya i sense un oracle que identifiqui l'atacant. Per a això s'han proposat els vectors d'empremta d'atribució asíncrona (Asynchronous Attribution Fingerprint Vectors, o A²FV), un protocol lleuger del costat del proxy que calcula la similitud entre campanyes a partir de traces observables: patrons d'ús d'eines, temporització i residus dels missatges (prompt residue). Aquesta aproximació permet puntuar la probabilitat que dues sessions pertanyin al mateix atac, fins i tot quan aquestes ocorren en moments diferents i en agents diferents.
Per validar l'efectivitat d'aquests mètodes s'ha creat un banc de proves controlat, denominat SCD-v1, que inclou trànsit benigne, atacs aïllats, campanyes multi-sessió i estratègies d'evasió. Els resultats mostren que els A²FV assoleixen un AUC de 0,82 en la tasca de vinculació de campanyes, mentre que els detectors per sessió tradicionals i els jutges LLM fragmentats amb prou feines superen l'atzar. El senyal més robust prové de les característiques estructurals i estilomètriques dels missatges, mentre que els patrons temporals actuen com un canal diagnòstic complementari. A més, els tests d'estrès demostren que la separabilitat entre campanyes es manté fins i tot davant d'intents d'evasió controlats.
Des d'un punt de vista empresarial, la capacitat d'atribuir campanyes entre agents té un impacte directe en la ciberseguretat de les organitzacions. Permet correlacionar incidents aparentment aïllats, millorar la resposta davant d'amenaces i optimitzar els recursos de defensa. Les empreses que despleguen agents LLM al núvol, ja sigui a AWS o Azure, necessiten solucions que vagin més enllà de les anàlisis per sessió. Q2BSTUDIO, com a empresa especialitzada en desenvolupament de programari i tecnologia, ofereix serveis d'aplicacions a mida que integren capes d'intel·ligència artificial, ciberseguretat i automatització. Per exemple, es poden implementar sistemes de monitorització d'agents que capturin les traces necessàries per a l'atribució de campanyes, combinant tècniques de processament del llenguatge natural amb anàlisi de comportament.
L'atribució entre agents no és només un problema tècnic; també implica dissenyar arquitectures que recullin les dades adequades sense violar la privadesa ni generar sobrecàrrega. Els vectors A²FV són lleugers i poden executar-se en temps real, cosa que els fa idonis per a entorns productius. A més, es poden combinar amb quadres de comandament de Business Intelligence (Power BI) per visualitzar patrons d'atac i prendre decisions informades. Q2BSTUDIO compta amb experiència en la integració de BI/Power BI en solucions empresarials, permetent als seus clients obtenir una visió holística de la seguretat dels seus agents LLM.
Un altre aspecte rellevant és l'ús de serveis al núvol per escalar la recollida i anàlisi de traces. Les empreses poden desplegar agents a AWS o Azure, i des d'allà centralitzar els registres en un llac de dades. Després, amb eines d'IA i aprenentatge automàtic, es poden entrenar models d'atribució que millorin amb el temps. Q2BSTUDIO ofereix consultoria i desenvolupament en entorns al núvol, adaptant-se a les necessitats específiques de cada client. La combinació de núvol, IA i ciberseguretat és una tendència imparable, i l'atribució de campanyes entre agents se situa a la intersecció d'aquestes disciplines.
En la pràctica, implementar una capa d'atribució de campanyes implica diversos passos. Primer, s'ha d'instrumentar cada agent LLM perquè generi registres de les interaccions, incloent marques de temps, prompts, respostes i ús d'eines. Segon, es desplega un proxy o middleware que reculli aquests registres de forma centralitzada. Tercer, s'apliquen els algorismes d'empremta (com A²FV) per calcular similituds entre sessions. Finalment, s'estableixen llindars d'alerta que activin respostes automatitzades, com bloquejar un agent sospitós o notificar l'equip de seguretat. Q2BSTUDIO pot ajudar en cadascuna d'aquestes fases, des del disseny de l'arquitectura fins a la implementació del programari a mida.
Els resultats de la investigació mostren que l'atribució entre agents és viable fins i tot sense etiquetes de campanya i sense accés a l'estat intern dels agents. Això obre la porta a sistemes de defensa més robustos per a entorns on els agents LLM operen de forma descentralitzada. Empreses de sectors com banca, salut, comerç electrònic o serveis públics poden beneficiar-se'n enormement. A més, la metodologia és extensible a altres tipus d'agents intel·ligents, no només els basats en LLM. La clau està a capturar les empremtes que cada atac deixa, per febles que siguin, i correlacionar-les amb intel·ligència.
En conclusió, l'atribució de campanyes entre agents representa un avenç significatiu en la seguretat dels sistemes d'intel·ligència artificial. No es tracta de substituir els detectors per sessió, sinó d'afegir una capa addicional que permeti veure el bosc en lloc dels arbres. Q2BSTUDIO, amb la seva experiència en desenvolupament d'aplicacions a mida, ciberseguretat, núvol i IA, està preparada per ajudar les empreses a implementar aquestes solucions. La protecció dels agents LLM en producció és un repte creixent, i comptar amb un soci tecnològic que entengui tant la teoria com la pràctica és fonamental per mantenir-se a l'avantguarda. Si la vostra organització desplega agents intel·ligents, no dubteu a contactar Q2BSTUDIO per explorar com podem enfortir la vostra postura de seguretat.
