.jpg)
En l’àmbit de l’aprenentatge federat, una de les amenaces més subtils i perilloses són els atacs de porta del darrere (backdoor), on un client maliciós aconsegueix que el model global aprengui una conducta oculta que només s’activa davant de certs estímuls. Tradicionalment, les auditories d’aquests atacs en entorns horitzontals es basen en mètriques agregades com la precisió neta (clean accuracy) o la taxa mitjana d’èxit de l’atac (ASR). No obstant, aquestes mètriques poden emmascarar una fallada crítica: que un únic objectiu d’etiqueta sigui desencadenat per una àmplia varietat de realitzacions del disparador. Per abordar aquesta limitació, investigadors han proposat FLAT, una prova d’estrès de fiabilitat condicionada per variables latents que exposa vulnerabilitats ocultes en models federats. En lloc de preguntar-se si un únic disparador conegut funciona, FLAT examina com varia el comportament maliciós entre diferents objectius, mostres latents, defenses del servidor i rondes posteriors al cessament de l’atac. Els resultats en conjunts com CIFAR-10, CIFAR-100 i Tiny-ImageNet mostren que és possible assolir taxes d’èxit superiors al 99 % en un sol objectiu amb atacs FedAvg, mentre es manté la utilitat neta del model. El més revelador és que les defenses del servidor poden suprimir un mode d’atac però deixar-ne un altre completament actiu, cosa que exigeix auditories més detallades: informar per objectiu, cobertura d’etiquetes, comportament amb mostres latents, persistència post-parada i resposta a defenses.
Per a les empreses que desenvolupen solucions d’intel·ligència artificial federada, aquesta realitat implica que una simple mètrica de rendiment no n’hi ha prou per garantir la seguretat. Cal implementar processos d’auditoria contínua i eines de ciberseguretat especialitzades. A Q2BSTUDIO, com a empresa de desenvolupament de programari i tecnologia, oferim serveis d’intel·ligència artificial per a empreses que integren avaluacions de robustesa contra atacs adversaris. El nostre equip combina ciberseguretat i pentesting amb tècniques avançades de machine learning per identificar i mitigar aquest tipus de fallades ocultes. A més, desenvolupem aplicacions a mida i programari a mida que incorporen protocols de defensa adaptatius, ja sigui desplegats en plataformes cloud com a serveis cloud AWS i Azure o gestionats a través de serveis d’intel·ligència de negoci amb Power BI per monitoritzar en temps real la salut del model. La utilització d’agents IA permet automatitzar la detecció d’anomalies en el comportament del model federat, mentre que les nostres solucions d’automatització de processos faciliten la implementació de cicles d’auditoria continus. Així, les empreses poden confiar que els seus sistemes d’aprenentatge federat no només són precisos, sinó també resistents a amenaces que la mètrica mitjana no revela. La lliçó que ens deixa FLAT és clara: en intel·ligència artificial, allò que no es mesura adequadament pot convertir-se en l’enllaç més feble de la cadena de seguretat.
