La intel·ligència artificial ha aconseguit avenços sorprenents en la generació de contingut multimèdia, però la investigació acadèmica sobre deepfakes pateix un desajust crític: mentre la majoria d’estudis se centren en els danys epistèmics —com fraus, notícies falses o enganys electorals—, s’ignora pràcticament la problemàtica de les imatges íntimes no consentides generades per IA (AIG-NCII). Aquestes últimes causen un patiment real i profund a les víctimes, erosionant la seva dignitat, privacitat i benestar psicològic. El desajust no és trivial: les eines tècniques més citades a la literatura es limiten a detectar si un vídeo o imatge és autèntic, un enfocament que beneficia l’espectador que vol evitar ser enganyat, però no protegeix la persona la imatge de la qual ha estat manipulada sense consentiment.
Aquest fenomen revela una bretxa fonamental en l’ecosistema d’investigació. En analitzar els treballs més influents de l’àrea, queda clar que les intervencions tècniques —marques d’aigua, anàlisi forense, detectors de deepfakes— estan dissenyades per ser 'centrades en l’espectador'. Resolen la pregunta És real? però no aborden el dany que pateix el subjecte de la imatge. Pitjor encara, saber que una imatge és sintètica no mitiga el perjudici; en alguns casos pot fins i tot agreujar-lo en validar l’existència d’un contingut vexatori que circula públicament. La víctima no necessita un segell de 'fals', necessita que la imatge desaparegui, que es previngui la seva creació i que es persegueixin els responsables.
La literatura actual classifica els danys dels deepfakes en dues categories: epistèmics (relacionats amb la veritat) i de dignitat (relacionats amb l’autonomia i el respecte). No obstant això, la balança s’inclina de manera aclaparadora cap als primers. Això no és casual: els sistemes de finançament i interès públic prioritzen amenaces com la desinformació política o els fraus financers, mentre que l’abús sexual mediat per IA queda relegat a un segon pla. Per corregir aquest desequilibri, cal actualitzar els models d’amenaça en la investigació d’IA, incorporant explícitament els danys centrats en el subjecte, i establir col·laboracions amb experts en prevenció de violència sexual.
En aquest context, les empreses de desenvolupament de programari tenim una responsabilitat i una oportunitat úniques. A Q2BSTUDIO, entenem que la tecnologia ha de servir a les persones, no al revés. Per això, oferim aplicacions a mida que van més enllà dels detectors d’autenticitat. Creem sistemes d’intel·ligència artificial que analitzen el context complet d’una imatge —metadades, patrons de difusió, historial de publicació— per identificar continguts vexatoris i prioritzar la seva eliminació. També desenvolupem agents d’IA capaços d’automatitzar denúncies davant les plataformes, reduint la càrrega emocional i logística de les víctimes.
La ciberseguretat és un altre pilar fonamental. Les víctimes d’AIG-NCII sovint pateixen campanyes d’assetjament amplificades, i les seves dades personals poden estar en risc. Per això, a Q2BSTUDIO implementem solucions robustes de ciberseguretat que protegeixen tant els subjectes com els investigadors que manegen aquest material sensible. A més, la nostra experiència en cloud AWS i Azure permet desplegar infraestructures escalables i segures per processar grans volums d’imatges sense comprometre la privacitat.
La intel·ligència de negoci té un paper clau en la mesura de l’impacte. Amb eines de BI com Power BI, ajudem les organitzacions a monitoritzar en temps real la proliferació d’aquest tipus de contingut, identificar patrons d’abús i avaluar l’efectivitat de les mesures preventives. La combinació d’agents d’IA, ciberseguretat avançada i anàlisi de dades permet construir un ecosistema de protecció veritablement centrat en la víctima.
Des d’una perspectiva empresarial, les companyies que desenvolupen models generatius han d’integrar salvaguardes ètiques des de la fase de disseny. No n’hi ha prou amb afegir filtres posteriors; cal repensar els conjunts de dades, els pipelines d’entrenament i els mecanismes de control. Q2BSTUDIO col·labora amb startups i corporacions per auditar els seus sistemes d’IA, implementar polítiques de seguretat per defecte i formar equips en bones pràctiques de privacitat. El nostre enfocament és tècnic però humà: cada solució d’IA que desenvolupem contempla l’impacte real en les persones.
En conclusió, el desajust entre la investigació de deepfakes i la realitat de l’abús sexual mediat per IA exigeix una correcció urgent. Els detectors d’autenticitat són útils, però insuficients. Necessitem eines que previnguin la creació, aturin la difusió i restitueixin la dignitat de les víctimes. A Q2BSTUDIO estem compromesos a construir aquest futur, oferint serveis de desenvolupament de programari a mida, consultoria en ciberseguretat, infraestructura cloud i analítica avançada. Només amb un enfocament multidisciplinar i centrat en el subjecte aconseguirem que la intel·ligència artificial sigui un espai segur per a tothom.
