L'auge dels models de llenguatge grans (LLMs) ha portat tècniques d'ajust eficient com LoRA (Low-Rank Adaptation), que permet adaptar models amb pocs paràmetres addicionals. No obstant, un estudi recent revela una limitació crítica: LoRA falla sistemàticament en tasques que requereixen coneixement procedimental, és a dir, la capacitat de seguir procediments complexos amb múltiples passos, bifurcacions condicionals i estats terminals. Aquesta troballa té implicacions profundes per al desenvolupament d'agents d'IA i aplicacions empresarials on la precisió en l'execució de fluxos de treball és essencial.
La investigació, realitzada sobre un conjunt de tasques procedimentals que inclouen reserves de viatges (14 nodes), suport tècnic a Zoom (14 nodes) i gestió de reclamacions d'assegurances (55 nodes), mostra que LoRA, fins i tot amb rangs elevats (r = 128), no aconsegueix igualar els resultats de l'ajust complet. En la tasca de reserves, totes les configuracions de LoRA van obtenir una puntuació d'èxit inferior a 2.54 enfront de 4.11 de l'ajust complet, amb significació estadística (p < 0.001). El més sorprenent és que, tot i mantenir taxes de finalització de conversa del 95-99%, el rendiment en la tasca procedimental era deficient. Això indica que LoRA captura bé l'estructura superficial del diàleg però perd la capacitat de seguir correctament les regles del procediment.
L'anàlisi de descomposició en valors singulars (SVD) dels canvis de pes produïts per l'ajust complet ofereix una explicació clara: el rang efectiu de les actualitzacions se situa entre 761 i 1026, depenent del domini i la mida del model (3B o 8B). Amb un rang de 128, LoRA captura només entre el 43% i el 51% de la norma de Frobenius al quadrat. És a dir, la informació necessària per modelar procediments complexos no és de baix rang; en truncar la informació, LoRA perd detalls crucials per a la presa de decisions a cada pas.
Aquest fenomen té conseqüències directes per a les empreses que busquen implementar agents d'IA en entorns productius. Per exemple, un assistent d'atenció al client que ha de gestionar reclamacions d'assegurances seguint un procediment de diversos passos podria fallar en completar la gestió correctament si s'utilitza LoRA com a mètode d'ajust. La diferència de rendiment pot traduir-se en errors costosos, insatisfacció del client i pèrdua de confiança en l'automatització.
A Q2BSTUDIO, com a empresa de desenvolupament de programari especialitzada en intel·ligència artificial, som conscients que no existeix una solució única per a tots els problemes. Per això, quan abordem projectes que impliquen processos procedimentals, optem per estratègies d'ajust complet o arquitectures híbrides que combinen LoRA amb components simbòlics. El nostre servei de desenvolupament d'aplicacions a mida permet integrar models de llenguatge amb lògica de negoci complexa, garantint que cada pas del procediment s'executi correctament.
A més, la infraestructura al núvol juga un paper fonamental. Els models ajustats completament requereixen major capacitat computacional, però amb serveis cloud a AWS i Azure podem escalar recursos de forma eficient, oferint desplegaments robustos i rendibles. La ciberseguretat també és crítica: en gestionar dades sensibles en fluxos procedimentals, les nostres solucions incorporen protocols de seguretat avançats, com els que oferim a través dels nostres serveis de ciberseguretat i pentesting.
Un altre aspecte clau és la intel·ligència de negoci. En molts casos, els procediments generen dades que han de ser analitzades per millorar els processos. Amb les nostres capacitats en Power BI i Business Intelligence, transformem aquestes dades en informació accionable, permetent a les empreses optimitzar els seus fluxos de treball. I per a aquells processos repetitius, oferim automatització de processos que, combinada amb IA, aconsegueix eficiències sense precedents.
La investigació també ressalta la importància de no subestimar la complexitat de les tasques procedimentals en el desenvolupament d'agents. Els agents d'IA, cada cop més populars en aplicacions empresarials, necessiten executar seqüències d'accions amb precisió. Si el model subjacent no pot representar adequadament la lògica procedimental, l'agent esdevé poc fiable. Per això, a Q2BSTUDIO dissenyem agents que integren models de llenguatge amb sistemes de regles i bases de coneixement, garantint que cada decisió estigui recolzada per la lògica del negoci.
En conclusió, LoRA és una eina valuosa per a tasques de baix rang, però no és adequada per al coneixement procedimental. Les empreses que desenvolupen aplicacions crítiques han de considerar alternatives com l'ajust complet o enfocaments híbrids. A Q2BSTUDIO, combinem experiència en IA, núvol, ciberseguretat i BI per oferir solucions que realment funcionen en entorns reals. Si el teu negoci necessita automatitzar processos complexos amb precisió, no dubtis a contactar-nos. Estem preparats per ajudar-te a construir la pròxima generació d'aplicacions intel·ligents.
