En els darrers anys, els grans models de llenguatge (LLMs) han demostrat capacitats sorprenents en raonament de zero dispars, però el seu elevat cost computacional i l'impacte ambiental els fan poc sostenibles per a molts escenaris empresarials. Els models de llenguatge petits (SLMs), com Gemma 3 (1B i 4B) o Llama 3.2 (3B), ofereixen una alternativa molt més eficient, tot i que el seu rendiment en tasques de raonament complex i multi-salt continua sent limitat. La combinació de tècniques simbòliques i connexionistes, coneguda com a neuro-simbòlica, pot ser la clau per potenciar aquests models sense disparar els recursos.
En aquest context, un estudi recent sobre el benchmark CLUTRR (un conjunt de dades de raonament sobre relacions familiars) explora com un marc agèntic neuro-simbòlic pot millorar la capacitat dels SLMs. La idea central és convertir el model en un agent minimalista que utilitza dues eines especialitzades: una per extreure fets en format simbòlic (triplets) i una altra per obtenir pistes de raonament expert a través d'una xarxa convolucional de grafs relacionals (RGCN). Els resultats mostren que, tot i que les pistes del RGCN poden duplicar el rendiment respecte a la línia base (d'1,5 a 2 vegades), el sistema es veu limitat pel coll d'ampolla d'extracció i la fragilitat deductiva seqüencial: els errors primerencs s'amplifiquen en cadenes de múltiples passos.
Aquesta troballa és especialment rellevant per a empreses que busquen implementar solucions d'IA eficients i personalitzades. La capacitat de raonar amb pocs recursos obre la porta a assistents virtuals, sistemes de recomanació o processos de presa de decisions que funcionin fins i tot en entorns amb limitacions de maquinari, com dispositius edge o sistemes encastats. Tanmateix, l'estudi també revela un efecte de distracció: quan els fets autoextrets són sorollosos, el rendiment pot degradar-se malgrat tenir pistes expertes. Això subratlla la importància d'una verificació iterativa en els pipelines agèntics.
Des d'una perspectiva empresarial, l'adopció de SLMs millorats amb grafs de coneixement pot suposar un estalvi significatiu en costos d'infraestructura cloud. En lloc de dependre de costosos LLMs allotjats en servidors externs, una companyia podria executar models lleugers localment, combinats amb una base de coneixement simbòlica pròpia. Per exemple, en un sistema d'atenció al client, un SLM podria extreure fets de la conversa i consultar un graf de coneixement intern per inferir la millor resposta, reduint la latència i el consum de recursos.
A Q2BSTUDIO, empresa especialitzada en desenvolupament de programari a mida, entenem que la clau està en dissenyar arquitectures que integrin de forma intel·ligent models de llenguatge amb bases de coneixement. Els nostres serveis abasten des de la implementació de sistemes d'IA explicables fins a la integració amb plataformes cloud com AWS o Azure, passant per solucions de ciberseguretat i BI amb Power BI. En particular, l'enfocament neuro-simbòlic encaixa perfectament amb la nostra oferta d'agents IA: assistents que raonen, planifiquen i executen tasques complexes combinant llenguatge natural i lògica formal.
Per a les organitzacions que ja utilitzen serveis cloud, la possibilitat de migrar a models més lleugers sense perdre capacitat de raonament és un factor diferencial. Treballem amb clients que necessiten cloud AWS/Azure per gestionar grans volums de dades, i els ajudem a optimitzar els seus pipelines d'IA utilitzant SLMs en lloc de LLMs quan el context ho permet. A més, oferim anàlisi de dades amb Power BI i quadres de comandament que integren resultats de raonament simbòlic, aportant transparència a les decisions automatitzades.
L'estudi també destaca la importància de la ciberseguretat en els sistemes agèntics. Un model que extreu i processa fets s'ha de protegir contra injeccions de dades malicioses o manipulació de la base de coneixement. A Q2BSTUDIO, els nostres serveis de ciberseguretat inclouen auditories d'aquests pipelines i proves de penetració per garantir que la informació simbòlica no pugui ser corrompuda. Així mateix, l'automatització de processos —des de l'extracció de triplets fins a la consulta al graf— pot beneficiar-se de les nostres solucions d'automatització, que redueixen la intervenció manual i els errors humans.
En l'àmbit del Business Intelligence, combinar SLMs amb grafs de coneixement obre noves possibilitats. Per exemple, un sistema de BI podria rebre consultes en llenguatge natural, extreure els fets rellevants d'un graf corporatiu i generar informes en Power BI sense necessitat d'intermediaris. Això democratitza l'accés a les dades i accelera la presa de decisions. El nostre equip integra aquestes capacitats en plataformes ja existents, minimitzant l'esforç d'adopció.
En resum, la millora del raonament en models de llenguatge petits mitjançant grafs de coneixement és una línia prometedora que combina eficiència i potència. Tot i que persisteixen reptes com el coll d'ampolla d'extracció i la fragilitat deductiva, les empreses poden aprofitar aquests avenços per construir sistemes més sostenibles, segurs i propers al negoci. A Q2BSTUDIO, estem preparats per acompanyar els nostres clients en aquest camí, oferint solucions d'IA, cloud, ciberseguretat i BI que transformen la tecnologia en valor real.
