En l'ecosistema actual d'intel·ligència artificial, la detecció de dades fora de distribució (OOD) és un pilar crític per garantir la robustesa i seguretat dels models. Tanmateix, una descoberta recent en l'àmbit dels benchmarks Near-OOD ha revelat una vulnerabilitat subtil però devastadora: la fuga d'etiquetes entre conjunts d'entrenament i prova. Aquest fenomen, identificat com a 'empremta de fuga', es manifesta quan un detector supervisat és capaç de decodificar perfectament el senyal OOD (AUROC proper a 1), mentre que qualsevol mètode no supervisat col·lapsa per sota de 0,65. Aquesta contradicció no és un error estadístic menor; és un avís que molts dels benchmarks que utilitzem per avaluar sistemes d'IA podrien estar contaminats, invalidant anys de recerca i desenvolupament.
El problema rau en la construcció de conjunts de dades per a OOD: de vegades, sense voler, s'hi inclouen instàncies de la classe objectiu dins del conjunt d'entrenament. Quan això passa, el detector és penalitzat per reconèixer correctament exemples familiars com a familiars, enfonsant mètriques com l'AUROC per sota de l'atzar (0,5). La correcció no és trivial: eliminar la classe contaminada i reentrenar desenes de models pot restaurar la mètrica a nivells propers a 0,91, però el dany a la literatura ja està fet.
Per a les empreses que depenen de solucions d'IA robustes —com les que ofereix Q2BSTUDIO en l'àmbit de la intel·ligència artificial aplicada— aquesta situació implica que no podem refiar-nos cegament dels benchmarks estàndard. Cal implementar diagnòstics de fuga que actuïn com un detector de mentides per a les pròpies dades d'avaluació. L'empremta de fuga proposada —alta decodificabilitat supervisada i baixa detectabilitat no supervisada— s'ha validat en 52 configuracions controlades (20 amb fuga, 32 netes) utilitzant ResNet-50 i ViT-B/16 sobre CIFAR-10/100, amb una sensibilitat de 18/20 i una especificitat de 31/32. Això demostra que és un indicador fiable, però també que les construccions estàndard entre conjunts de dades (cross-dataset) són netes, la qual cosa és una bona notícia per a la comunitat.
No obstant això, la lliçó més important va més enllà de la detecció OOD. Ens enfrontem a un problema estructural en la manera com avaluem models d'aprenentatge automàtic. Si els benchmarks poden tenir fuites, llavors qualsevol mètrica derivada d'ells —incloent-hi les utilitzades per comparar aplicacions a mida basades en IA— ha de ser examinada amb lupa. A Q2BSTUDIO, com a empresa de desenvolupament de programari i tecnologia, entenem que la qualitat d'un sistema d'IA no depèn només de l'algorisme, sinó de la integritat de les dades amb què s'entrena i avalua. Per això, als nostres projectes de ciberseguretat, cloud AWS/Azure, BI/Power BI i agents d'IA, sempre apliquem processos rigorosos de validació que inclouen anàlisi de fuites als conjunts de prova.
La recerca també revela que, sota un protocol corregit, els senyals de pertorbació —com els usats en mètodes OOD basats en soroll— són decodificables però no detectables: un lector supervisat recupera el senyal (AUROC 0,87-1,00) mentre que cap detector no supervisat ho aconsegueix. A més, el mètode de pertorbació no millora la distància de Mahalanobis estàndard. Això suggereix que molts dels avenços reportats en detecció OOD podrien ser artefactes de fuites als benchmarks, més que millores reals en la capacitat de generalització.
Per a les companyies que busquen integrar intel·ligència artificial als seus processos, aquest coneixement és or. No es tracta només de triar el millor model, sinó d'assegurar que les dades de validació reflecteixin fidelment el món real. Aquí és on serveis com els de Q2BSTUDIO marquen la diferència: oferim solucions de cloud computing (AWS, Azure) per escalar pipelines de dades, eines de BI amb Power BI per visualitzar la qualitat dels conjunts, i agents d'IA que monitoritzen contínuament la distribució de les dades en producció. Tot això sobre una base d'aplicacions a mida que garanteixen que no hi hagi fuites entre entorns de desenvolupament i producció.
En conclusió, l'empremta de fuga en benchmarks Near-OOD ens recorda que la transparència i la reproducibilitat són valors no negociables en l'enginyeria d'IA. Les empreses que inverteixen en tecnologia han d'exigir als seus proveïdors —com Q2BSTUDIO— que implementin controls de qualitat de dades exhaustius. Perquè un model que funciona bé sobre un benchmark contaminat no és més que una il·lusió. I en el món de la ciberseguretat, la IA o el BI, les il·lusions poden costar molt cares.
