En el vertiginós món del desenvolupament de programari, els agents de codi basats en intel·ligència artificial estan redefinint com s'escriuen i mantenen les aplicacions. Tanmateix, un dels desafiaments més persistents és la seva capacitat per integrar respostes d'eines externes (com APIs, bases de dades o serveis al núvol) en un raonament continu i coherent. Un enfocament recent, basat en l'entrenament intermedi amb consciència de funcions, proposa una solució elegant: aprofitar l'estructura de crides a funcions present al codi font per entrenar models de llenguatge de manera autosupervisada. Aquesta tècnica no només millora el rendiment en tasques d'enginyeria de programari, sinó que també estableix les bases per a agents més robustos i versàtils.
La idea central és que el bucle acció-observació-continuació d'un agent de codi és isomorf a un punt de crida a funció. En el codi tradicional, un invocador enllaça arguments, una funció retorna un valor calculat en un altre lloc, i el codi consumidor utilitza aquest valor. Aquest patró és ubic en repositoris públics. L'entrenament intermedi amb farciment enmig conscient de funcions (function-aware fill-in-the-middle) explota aquesta estructura mitjançant un objectiu autosupervisat que emmascara funcions seleccionades a través d'una anàlisi de grafs de dependències del programa i un doble criteri de complexitat i inferibilitat. En exposar el model a milions d'exemples d'aquest flux, es reforça la capacitat de raonar sobre crides entrants i sortints.
Els resultats empírics són contundents. Models com Qwen2.5-Coder-Instruct (7B i 14B) i Qwen3-8B, després de ser sotmesos a aquest entrenament intermedi amb un corpus de 2.6 mil milions de tokens extrets de 968 repositoris de GitHub (acuradament descontaminats), van mostrar millores significatives en benchmarks com SWE-Bench-Verified (+2.8/+3.0 punts) i SWE-Bench-Lite (+3.7/+4.0/+5.4). El més interessant és que aquests guanys es mantenen independentment del pipeline de post-entrenament agentic utilitzat (R2E-Gym, SWE-Smith) i també s'observen en bases no Qwen, com Qwen3-8B amb SWE-Lego. A més, la tècnica mitiga l'erosió de capacitats que el post-entrenament agentic sol infligir en tasques no agentic, com LiveCodeBench, tau-bench i BFCL. Fins i tot entrenant només amb codi Python, el biaix inductiu de crides a funcions sobreviu al post-entrenament i produeix millores consistents.
Per a una empresa com Q2BSTUDIO, especialitzada en desenvolupament de programari i tecnologia, aquestes innovacions tenen implicacions directes. La capacitat de construir agents d'IA que entenguin i generin codi amb un raonament més proper a l'humà permet oferir solucions més precises i eficients a clients que busquen aplicacions a mida. Imagineu un assistent de codificació que no només completa línies, sinó que comprèn el context d'una funció sencera, sap què espera un servei extern i com integrar la seva resposta sense trencar el flux lògic. Això és especialment valuós en entorns on la IA es combina amb el núvol, la ciberseguretat o l'analítica de dades.
Per exemple, en un projecte d'intel·ligència artificial personalitzada, l'agent podria interactuar amb serveis AWS o Azure per obtenir dades de sensors, processar-les i retornar resultats a una interfície d'usuari. La robustesa que proporciona l'entrenament intermedi amb consciència de funcions redueix significativament els errors d'integració. De la mateixa manera, en l'àmbit de la ciberseguretat, un agent de codi podria analitzar logs de seguretat, invocar eines de pentesting i generar pedaços de forma autònoma, tot amb una comprensió precisa de les dependències. El núvol (AWS/Azure) es beneficia d'agents que poden gestionar desplegaments complexos amb múltiples microserveis, mentre que en business intelligence amb Power BI, un agent podria generar consultes SQL o scripts de transformació que respectin la lògica de negoci subjacent.
L'enfocament no només millora les mètriques acadèmiques, sinó que aborda un problema pràctic: la degradació d'habilitats generals de codificació després de l'ajust fi per a tasques agentic. Això és crucial per a empreses que volen invertir en agents d'IA sense sacrificar la qualitat del codi base. Amb l'entrenament intermedi, es preserva la capacitat de generar codi net, documentat i segur, alhora que s'adquireix una destresa especialitzada en crides a funcions externes. Per a Q2BSTUDIO, això significa poder oferir serveis d'automatització de processos i desenvolupament de programari que no només siguin ràpids, sinó també fiables i mantenibles a llarg termini.
En conclusió, l'entrenament intermedi amb consciència de funcions representa un avenç significatiu en la formació d'agents de codi. En aprofitar l'omnipresent estructura de crides a funcions en el programari real, els models aprenen a raonar de manera més holística, integrant eines externes sense perdre coherència. Per a les empreses tecnològiques que busquen liderar la propera onada d'automatització intel·ligent, incorporar aquestes tècniques als seus fluxos de treball és una decisió estratègica. A Q2BSTUDIO, ja estem explorant com aplicar aquests conceptes per potenciar les nostres solucions d'aplicacions a mida, IA, núvol i ciberseguretat, assegurant que els nostres clients obtinguin el màxim valor de la revolució dels agents de codi.
