En el panorama actual del desenvolupament de programari, la demanda d’agents intel·ligents capaços d’interactuar amb entorns complexos i executar tasques de programació de forma autònoma ha crescut exponencialment. La tècnica d’ajustament supervisat (SFT) sobre models de llenguatge oberts, com el Qwen2.5-Coder-7B-Instruct, s’ha consolidat com un enfocament prometedor per construir agents de codi sense dependre d’APIs propietàries. No obstant això, un dels factors crítics que determinen l’èxit d’aquest procés és la qualitat i la quantitat de les trajectòries d’entrenament —seqüències d’accions realitzades per un agent expert— que s’utilitzen durant l’ajustament. En aquest article, analitzem en profunditat un estudi sistemàtic sobre la curació de trajectòries per a LoRA (Low-Rank Adaptation) aplicat a agents de codi, extraient lliçons clau que qualsevol equip d’enginyeria hauria de considerar en implementar solucions d’IA als seus fluxos de treball.
La investigació subjacent es basa en el conjunt de dades SWE-trajectory, que conté 67.074 trajectòries, de les quals 32.161 estan etiquetades com a “resoltes”. L’objectiu era entendre com la qualitat i la quantitat d’aquestes trajectòries influeixen en el rendiment del model després d’un ajustament amb LoRA. Per això, els autors van proposar un marc de puntuació de qualitat en dos eixos principals: Eficiència i Estil. El primer eix avalua si l’agent completa la tasca amb el menor nombre de passos possible, mentre que el segon mesura la coherència i l’estructura de les accions, valorant que el procés sigui replicable i mantenible. Aquest enfocament va permetre classificar les trajectòries en nivells de qualitat i experimentar amb diferents subconjunts d’entrenament.
Els resultats van revelar una interacció no trivial entre la qualitat i l’escala. A petita escala (per exemple, 500 trajectòries), duplicar el conjunt de dades produeix una reducció significativa de la pèrdua d’entropia creuada (aproximadament un 12,7%). No obstant això, en augmentar la quantitat, la influència de la qualitat es torna més rellevant: amb 2.000 trajectòries, la diferència entre usar les trajectòries de major qualitat i un subconjunt aleatori arriba al 3,6% (p = 0,016). Això suggereix que, per a pressupostos de dades limitats, és més eficient invertir en augmentar la quantitat, mentre que quan es disposa de més recursos, la qualitat es converteix en el factor diferencial.
A més, l’estudi va desglossar l’impacte de cada subdimensió del marc de qualitat. La taxa de reintents per errors (error-retry rate) va resultar ser la dimensió dominant, ja que per si sola igualava el rendiment del compost complet amb una diferència inferior al 0,2%. Aquesta troballa és crucial perquè simplifica enormement la tasca de curació: en lloc d’aplicar múltiples mètriques, els equips poden centrar-se a eliminar trajectòries que continguin massa reintents o correccions innecessàries, accelerant així el cicle d’entrenament sense sacrificar rendiment.
Des d’una perspectiva pràctica, aquests resultats tenen implicacions directes per a empreses com Q2BSTUDIO, que integra solucions d’intel·ligència artificial en els seus serveis de cloud AWS/Azure. Per exemple, en desenvolupar agents de codi per automatitzar tasques de manteniment de programari, la capacitat de seleccionar trajectòries d’entrenament eficients pot reduir significativament el temps de còmput al núvol i, per tant, els costos operatius. A més, la integració d’aquests agents amb plataformes de Business Intelligence com Power BI permet generar informes dinàmics sobre el rendiment del programari, mentre que la ciberseguretat es beneficia d’agents capaços de detectar i respondre a vulnerabilitats de forma autònoma.
Q2BSTUDIO, com a empresa de desenvolupament de programari a mida, ha adoptat aquest tipus de tècniques per oferir als seus clients solucions més robustes i escalables. L’aplicació de LoRA amb trajectòries curades no només millora la precisió dels agents, sinó que també permet que models de 7B paràmetres assoleixin un rendiment competitiu sense necessitat d’infraestructures massives. Això democratitza l’accés a la IA generativa, permetent a empreses mitjanes i petites implementar assistents de codificació personalitzats sense dependre de recursos hiperescalables.
Finalment, l’estudi valida un protocol d’avaluació alternatiu per a models d’escala 7B, on la taxa de resolució en benchmarks com SWE-bench és pràcticament nul·la. Els autors demostren que la pèrdua d’entropia creuada en trajectòries retingudes correlaciona perfectament amb la qualitat de la primera acció generada (ROUGE-L, Spearman ρ = -1,00), cosa que proporciona una mètrica proxy fiable per guiar el procés d’ajustament. Aquest enfocament és especialment útil en entorns empresarials on els cicles d’experimentació han de ser ràpids i econòmics.
En conclusió, la curació de trajectòries per a LoRA en agents de codi és un component estratègic que combina art i ciència. Les empreses que inverteixen en IA, com Q2BSTUDIO, han de considerar tant la quantitat com la qualitat de les seves dades d’entrenament, prioritzant la reducció de reintents erronis quan els recursos són limitats. Amb les eines adequades —des del núvol fins a la intel·ligència artificial—, és possible construir agents de codi que no només resolguin tasques, sinó que ho facin de manera eficient, segura i alineada amb els objectius de negoci.
