La irrupció dels grans models de llenguatge ha portat amb si un fenomen de seguretat fins ara poc explorat: el 'phantom squatting' o aprofitament de dominis al·lucinats per intel·ligència artificial. Quan un sistema d’IA genera respostes que inclouen enllaços a llocs web que no existeixen realment, els ciberdelinqüents han après a registrar aquests dominis ficticis abans que ningú ho faci, creant pàgines de phishing que capturen el trànsit dirigit per les mateixes eines d’IA. Aquesta tècnica, documentada recentment per equips de recerca en ciberseguretat, representa una evolució perillosa del conegut typosquatting, però amb un component generatiu que multiplica el seu abast.
Per a les empreses, aquest risc subratlla la necessitat de disposar d’estratègies sòlides de protecció digital. No n’hi ha prou amb desplegar firewalls o antivirus: la superfície d’atac ara inclou les respostes que generen els assistents d’IA corporatius, els chatbots d’atenció al client o fins i tot els motors de cerca interns alimentats per models de llenguatge. Cada vegada que una intel·ligència artificial recomana un recurs inexistent, s’obreix una finestra perquè un atacant l’ocupi. Per això, la ciberseguretat ha d’abordar tant la infraestructura tècnica com la governança de les dades i models utilitzats.
En aquest context, disposar d’un soci tecnològic que comprengui les complexitats de l’ecosistema actual és fonamental. A Q2BSTUDIO desenvolupem aplicacions a mida que integren controls de seguretat des del disseny, ajudant les organitzacions a mitigar amenaces com el phantom squatting. A més, oferim serveis de ciberseguretat i pentesting que inclouen auditories específiques sobre el comportament dels sistemes d’IA, identificant possibles fuites d’informació o generació d’URL no validades.
Més enllà de la seguretat puntual, la prevenció del phantom squatting exigeix una visió integral. Les companyies que adopten intel·ligència artificial per a empreses han d’assegurar-se que els models no al·lucinin adreces web sense control. Per això, combinem l’ús de serveis cloud AWS i Azure amb tècniques de validació en temps real, i despleguem agents d’IA entrenats per contrastar les seves sortides amb bases de dades de dominis registrats. Així mateix, les nostres solucions de serveis d’intel·ligència de negoci amb Power BI permeten monitoritzar patrons de trànsit sospitosos que podrien indicar intents d’explotació de dominis al·lucinats.
Des d’un enfocament pràctic, recomanem a les àrees de TI i seguretat que implementin processos de revisió automàtica de les URL generades per qualsevol sistema d’IA, així com el registre proactiu de dominis similars als que l’organització utilitza internament. El desenvolupament de programari a mida amb capacitats d’anàlisi semàntica pot reduir dràsticament la finestra d’oportunitat per als atacants. En última instància, el phantom squatting ens recorda que la innovació tecnològica avança més ràpid que les defenses tradicionals, i només un enfocament multidisciplinari, que abasti des del núvol fins a la governança de dades, podrà mantenir segura la informació corporativa.
