A la indústria del vehicle autònom, comprendre quins elements d'una escena influeixen realment en les decisions de planificació del model és un repte crític per a la seguretat i la confiança. Tècniques com l'anàlisi contrafactual permeten aïllar l'efecte causal d'objectes individuals en la ruta prevista, un enfocament que els investigadors han explorat mitjançant l'eliminació selectiva d'objectes en imatges amb tècniques d'inpainting generatiu. Aquesta metodologia, similar al marc proposat a Counterfactual Vision Action Analysis, revela que els vehicles i vianants dins de la trajectòria esperada del model tenen una influència dominant, mentre que elements com els semàfors mostren un efecte desproporcionat respecte a la seva mida a la imatge. No obstant això, també apareixen sorpreses: el model pot reaccionar fortament davant d'objectes que un conductor humà consideraria irrellevants, cosa que planteja preguntes profundes sobre la representació interna del sistema.
Des d'una perspectiva empresarial, aquestes troballes subratllen la necessitat de comptar amb sistemes d'intel·ligència artificial explicables i auditables. A Q2BSTUDIO, empresa especialitzada en desenvolupament de programari i tecnologia, treballem perquè organitzacions de totes les mides puguin implementar solucions d'IA transparents, ja sigui en aplicacions a mida per a mobilitat autònoma o en sistemes d'anàlisi predictiva. El nostre equip integra metodologies contrafactuals i d'interpretabilitat mecànica per auditar models de xarxes neuronals, identificant quines característiques –més enllà d'objectes llegibles per humans– estan realment codificades a les capes internes. Aquest tipus d'anàlisi és fonamental quan es despleguen agents d'IA en entorns crítics, com la conducció autònoma o la robòtica industrial, on un error d'interpretació pot tenir conseqüències greus.
La combinació de tècniques de visió per ordinador amb intel·ligència artificial generativa permet crear conjunts de dades contrafactuals, com els que es generen en eliminar objectes d'escenes reals mitjançant inpainting. En aquests escenaris, el model revela biaixos ocults: per exemple, pot donar pes a senyals de trànsit irrelevants o ignorar vianants parcialment ocluïts. Per abordar això, a Q2BSTUDIO proposem solucions que integren infraestructura al núvol d'AWS i Azure, permetent entrenar i avaluar models amb grans volums de dades contrafactuals, garantint escalabilitat i rendiment. El nostre servei de cloud AWS/Azure ofereix l'entorn ideal per processar datasets com Counter-nuScenes, on cada imatge requereix un pipeline d'inpainting amb models generatius com Stable Diffusion o GANs, i posterior anàlisi estadística de les diferències en les prediccions.
Més enllà de la mobilitat, la filosofia contrafactual s'aplica a sectors com la salut, les finances i la logística. Quan una empresa necessita entendre per què un model de credit scoring va rebutjar una sol·licitud, o per què un sistema de recomanació va prioritzar un producte sobre un altre, l'anàlisi contrafactual ofereix respostes clares. A Q2BSTUDIO integrem aquests principis a les nostres solucions de Business Intelligence amb Power BI, permetent als analistes visualitzar no només què prediu un model, sinó també com canviaria la predicció si es modifiqués una variable específica. Això és particularment útil en entorns regulats on l'explicabilitat és un requisit legal, com en l'avaluació de riscos de ciberseguretat o en l'auditoria d'algoritmes d'IA.
La ciberseguretat és un altre àmbit on la mirada contrafactual resulta poderosa. En simular atacs o eliminació de nodes en una xarxa, es pot determinar quins actius són crítics per a la seguretat del sistema. A Q2BSTUDIO oferim serveis de ciberseguretat i pentesting que inclouen anàlisi de models d'IA, avaluant la seva robustesa davant manipulacions adversàries. A més, les nostres solucions d'agents IA basats en intel·ligència artificial permeten automatitzar respostes a incidents, aprenent de patrons contrafactuals per millorar la detecció d'anomalies.
En definitiva, la pregunta 'Què veuen els vehicles autònoms?' transcendeix l'àmbit acadèmic i es converteix en un imperatiu industrial. Les empreses que aposten per la transparència en els seus sistemes d'intel·ligència artificial no només construeixen confiança, sinó que també redueixen riscos operatius i legals. Des de Q2BSTUDIO, ajudem els nostres clients a dissenyar, auditar i optimitzar models amb tècniques contrafactuals, integrant capacitats d'IA, cloud, ciberseguretat i Business Intelligence. Ja sigui mitjançant aplicacions a mida per a visió artificial o plataformes d'anàlisi al núvol, el nostre objectiu és que cada decisió automatitzada sigui tan comprensible com precisa. El futur de la mobilitat autònoma depèn que la tecnologia no només funcioni, sinó que també pugui explicar-se. I en aquesta tasca, l'anàlisi contrafactual és una eina indispensable.
