.jpg)
L'ajust fi de models de llenguatge de gran escala s'ha convertit en una pràctica indispensable per adaptar-los a tasques específiques, però comporta un risc silenciós: l'oblit catastròfic de les capacitats ja adquirides. Tradicionalment, les estratègies de preservació s'han recolzat en proxies com la distància entre paràmetres, penalitzacions per importància o la projecció sobre direccions singulars dominants dels pesos. No obstant això, un enfocament més prometedor emergeix en preguntar-se no per la geometria de la matriu de pesos, sinó per les direccions d'activació en què la capacitat preservada es manifesta. És aquí on FORA (Function-space Orthogonal Residual Adaptation) proposa un canvi de paradigma: protegir l'espai funcional de la xarxa, és a dir, el subespai d'activacions que defineix el comportament d'una habilitat concreta. En lloc de limitar-se a restringir els pesos, FORA estima, a partir d'entrades de calibració no etiquetades, les direccions principals de la covariància de les activacions d'entrada per capa, i construeix un projector dret que bloqueja la lectura d'aquestes direccions funcionals durant l'actualització. Aquest disseny permet un canal d'alta capacitat que estructuralment no pot tocar les funcions rellevants, juntament amb un canal espectral estret que aporta plasticitat controlada. Els experiments en models com Qwen3-1.7B demostren que aquesta protecció en l'espai de funcions supera clarament les projeccions tradicionals sobre l'espai de pesos, amb una pèrdua mínima en el rendiment de la nova tasca. La clau no està en la projecció en si, sinó en que les direccions de projecció provenen de les activacions de la capacitat que es vol preservar, no de la descomposició dels pesos.
Des d'una perspectiva empresarial, aquesta distinció és crucial. Quan una organització decideix afinar un model base per a una aplicació vertical —per exemple, un assistent d'atenció al client que entengui tant preguntes tècniques com col·loquials—, no pot permetre's perdre la fluïdesa lingüística general que el model ja posseeix. La solució no és simplement congelar capes o aplicar regularització genèrica; es necessita una arquitectura que entengui què fa cada capacitat i com protegir-la. FORA representa un avenç significatiu en el desenvolupament del que podríem anomenar intel·ligència artificial més robusta i fiable per a entorns productius. En aquest context, empreses com Q2BSTUDIO, especialitzades en desenvolupament de programari i tecnologia, ofereixen serveis que van des d'aplicacions a mida fins a solucions de núvol i ciberseguretat, integrant aquestes tècniques d'avantguarda en projectes reals. La capacitat de preservar coneixements previs mentre s'incorporen noves habilitats és particularment rellevant en el desenvolupament de programari a mida per a sectors com la banca, la salut o la logística, on els models s'han d'adaptar sense oblidar normatives o contextos històrics. A més, l'enfocament funcional de FORA obre la porta a una nova generació d'agents IA que puguin aprendre tasques addicionals sense perdre la seva identitat original, una cosa que encaixa perfectament amb la visió de Q2BSTUDIO d'oferir serveis d'intel·ligència de negoci i agents IA personalitzats, recolzats en infraestructures com serveis cloud aws i azure i eines d'anàlisi com power bi.
La metodologia de FORA també ens convida a reflexionar sobre l'enginyeria de models en entorns empresarials. No n'hi ha prou amb ajustar; cal entendre què s'està protegint. El concepte de subespais d'activació ofereix una metàfora útil: cada capacitat del model ocupa una regió en l'espai de representacions. Si volem afegir una de nova, ho hem de fer en una direcció ortogonal a aquesta regió, no simplement reduir la magnitud dels canvis en els pesos. Aquesta idea té aplicacions directes en l'automatització de processos, on un model entrenat per classificar documents legals podria ampliar-se per gestionar també factures, sempre que el nou aprenentatge no interfereixi amb les lleis i regulacions ja assimilades. La implementació pràctica d'aquests enfocaments requereix, no obstant això, un acompanyament tècnic qualificat. Per això, aliances amb empreses com Q2BSTUDIO permeten integrar aquestes innovacions en projectes de programari a mida, assegurant que cada capa de protecció —ja sigui en l'espai de funcions o en la infraestructura cloud— es desplegui amb les millors pràctiques de ciberseguretat i governança de dades. En definitiva, FORA no és només un avenç acadèmic; és una eina conceptual que, ben aplicada, pot transformar la manera com les empreses desenvolupen i mantenen els seus sistemes d'intel·ligència artificial, fent que l'aprenentatge continu deixi de ser una amenaça per convertir-se en una oportunitat estratègica.
