Durant els darrers mesos, el discurs al voltant dels agents d'intel·ligència artificial ha girat quasi obsessivament al voltant de la velocitat de generació de codi. S'ha naturalitzat la idea que un model de llenguatge pot produir línies i línies en segons, superant amb escreix el ritme humà. Tanmateix, els que treballem en entorns regulats —banca, salut, indústria, telecomunicacions— sabem que aquesta velocitat és, en si mateixa, una trampa. El coll d'ampolla mai no va ser la generació. Ho és la capacitat de governar allò generat.
La paradoxa és evident: com més ràpid escriu un agent, més ràpid acumula deute tècnic. I no qualsevol deute: un deute arquitectònic que no apareix en els tests unitaris ni en les revisions superficials. Apareix quan un mòdol que havia de romandre independent acaba acoblat per un canvi innocent; quan les fronteres d'injecció de dependències es trenquen sense que ningú ho noti fins a la següent versió major. Aquest fenomen té nom —deute tècnic agèntic— i ja no és una sospita, és un fet contrastat per múltiples estudis que coincideixen que els agents autònoms generen deriva arquitectònica més ràpidament del que qualsevol procés humà de revisió pot absorbir.
La pregunta, doncs, no és si els agents deriven, sinó quins mecanismes hem de construir per confiar-hi quan el codi que produeixen ha de passar auditoriess, complir normatives i funcionar durant anys. A Q2BSTUDIO portem anys treballant amb tecnologies que van des de C++ natiu fins a .NET Framework, passant per integracions amb sistemes legacy. En aquest context, mesurar l'èxit per 'línies generades' és un error. La mètrica correcta és més dura: com de determinísticament es pot restringir l'agent, i com es demostra que aquesta restricció es va complir.
La majoria dels equips entreguen una història d'usuari a l'agent i esperen un pull request. Això és una recepta per a l'al·lucinació: el model amplifica una especificació vaga en lloc de detectar-la. La solució és un pas obligatori d'interrogació de context. Abans d'escriure una línia, l'agent llegeix el ticket, inspecciona el repositori i genera preguntes estructurals sobre allò que no entén. Després s'atura. Espera que l'enginyer respongui. Només quan l'ambigüitat es resol, passa a la implementació. L'agent ha de demostrar que entén les restriccions abans d'actuar-hi. I la implementació mai no és la paraula d'un agent contra el codi: un pas constructor produeix el canvi; un pas verificador independent —un altre agent sense interessos en l'esborrany— l'audita contra l'especificació i el nivell de risc abans que un humà obri el diff. El constructor proposa. El verificador acusa. L'humà jutja.
No es pot protegir un monolito complex de C++ amb un prompt que digui 'si us plau, no trenquis el contenidor de DI'. El model ignorarà el prompt tard o d'hora. El límit ha de ser estructural. Els agents executen comandes CLI específiques i acotades, ancorades al pipeline de compilació, no accés obert al repositori. Les instruccions es mantenen separades de la documentació d'arquitectura: l'agent llegeix el mateix ARCHITECTURE.md que els enginyers humans, proposa un canvi contra ell, i aleshores el sistema s'atura perquè un humà doni el vistiplau. Hi ha una distinció que molts equips difuminen: una regla que només viu en documentació és una convenció, no un control. Si el pipeline no la verifica mecànicament, s'està confiant en bones intencions, encara que estiguin millor formatejades. La regla ha de passar de markdown a una comprovació en el merge abans de poder anomenar-la govern. Un prompt és un suggeriment. Una porta és un mur.
La majoria dels marcs de govern fallen perquè col·lapsen el 'risc' en un sol dial i acaben sobreprotegint tasques trivials mentre deixen passar treballs perillosos. Hi ha dues preguntes independents que requereixen dues taxonomies separades. El risc d'acció es refereix a l'operació: llegir un fitxer no és esborrar una branca, que no és reescriure el pipeline de compilació. El risc d'acció governa què pot fer l'agent per si sol. El risc de canvi es refereix a la conseqüència: editar un missatge de log no és tocar el nucli de càlcul d'un sistema regulat. El risc de canvi governa quantes portes ha de superar un canvi abans d'enviar-se. Calen totes dues perquè les cel·les no coincideixen. Un agent pot voler modificar el pipeline —operativament alarmant— però el canvi en si és una línia de lint. Es protegeix l'acció, després es deixa passar. El cas oposat és el perillós: una edició d'un sol fitxer, l'operació més avorrida, que aterra al nucli de càlcul. Un model d'un sol eix deixaria passar això perquè l'operació semblava petita. El model de dos eixos ho atura, perquè la conseqüència és enorme per més trivial que fos la pulsació de tecles. Separar els eixos col·loca la fricció exactament on està el perill real.
La indústria ha acceptat majoritàriament que la IA genera un 'esborrany brut' i que l'humà el neteja. En un entorn regulat, netejar un esborrany brut sol portar més temps que escriure'l des de zero —perquè cal verificar cada suposició oculta que va fer la IA. L'alternativa és exigir proves que demostrin que el comportament va canviar exactament com l'especificació pretenia —no només que les línies es van executar— abans que la porta humana es desbloquegi. Així desapareix l'esborrany brut. Es deixa de revisar conjectures i es comencen a revisar propostes verificables i llestes per a producció.
I aquí apareix la pregunta que quasi ningú es fa en l'ecosistema d'eines agèntiques: la sortida de l'agent es prova, però què prova l'agent mateix? Cada capacitat de l'agent en aquest sistema és una habilitat amb nom, i les habilitats no es despleguen sense més. Es gradüen. Una habilitat comença com a experimental. Per obtenir major autonomia ha de passar una porta d'avaluació: un conjunt de casos daurats extrets d'elements de treball reals, puntuats de dues formes simultàniament. Asercions deterministes detecten els fallades estructurals que una màquina pot comprovar —si el camp de veredicte existia, si el nivell de risc apareixia, si l'agent afirmava haver editat codi que mai se li va permetre tocar—. Un jutge LLM puntua allò que una expressió regular mai no podria: si la classificació de nivell era realment correcta, si el raonament era sòlid, si un enginyer sènior acceptaria aquesta justificació. Ambdues meitats són aplicades per validadors, i els propis validadors són validats —contractes fixture, informes de mostra, evidència registrada contra l'entrada de registre de l'habilitat. Quan una habilitat s'actualitza, els casos daurats es converteixen en la seva xarxa de regressió. Un ajust de prompt que degradi silenciosament el judici de l'habilitat falla la porta abans de tocar un ticket real. Aquest és el canvi: la confiança en l'agent deixa de ser un sentiment i es converteix en un estat de maduresa amb evidència al darrere.
Els límits deterministes i els eixos de risc asseguren el perímetre, però no són suficients per escalar. El resultat de cada porta d'aturada és informació, i la majoria dels equips la llencen. Un humà bloqueja un canvi, escriu un motiu, fusiona una versió corregida —i la següent vegada que s'invoca l'agent, comença des de zero. No hauria. Aquest sistema li atorga a l'agent una memòria unificada: un únic magatzem de registres governat amb exactament dues operacions —Capturar i Recordar. Quan un humà bloqueja un pas, el veredicte es captura com un registre. Quan l'agent recull el següent ticket, no només llegeix ARCHITECTURE.md: recorda el log de per què els seus tres últims passos van ser aturats. Però —i aquesta és la part que separa una memòria d'un passiu— la pròpia memòria està protegida per portes. Cada registre porta la seva procedència: quin tipus d'aprenentatge és, com de forta va ser la seva font, i quina porta el va autoritzar —una aprovació humana explícita no és el mateix que una inferència d'un document canònic existent, i l'esquema es nega a que es barregin. Un agent que pot escriure lliurement en la seva pròpia memòria acabarà blanquejant els seus errors com a política. Un agent les escriptures de memòria del qual passen per la mateixa disciplina de portes que el seu codi no pot fer-ho. Aquesta és la diferència entre una eina a la qual li reexpliques la teva arquitectura cada matí i un sistema que interioritza el teu judici —sense permetre's mai inventar-lo.
Queda un darrer parany, el que espera al final de tot l'anterior. Es poden construir tots els mecanismes —portes, eixos, avaluacions, memòria— i tot i així estar funcionant amb fe, perquè un marc de govern que només existeix en documents és una afirmació, no un fet. El mode de fallada dels equips madurs no són agents sense llei, sinó controls bellament documentats dels quals ningú pot provar que es van disparar. Per això cada execució d'habilitat emet un registre de telemetria: què es va executar, contra quin element de treball, a quin nivell de risc i acció, quina evidència va comptar el verificador, si es va proposar una mutació i si un humà la va aprovar, què va decidir la porta i per què. No són logs per grepejar quan alguna cosa es trenca: és un compte estructurat i immutable del sistema governant-se a si mateix. Aquest registre és el que converteix 'tenim un procés governat' d'una afirmació en una pista d'auditoria. És el que un equip de qualitat pot inspeccionar, el que un regulador pot rastrejar i —sense embuts— el que sosté un mandat d'adopció en la seva primera revisió de pressupost. La velocitat guanya el pilot. La prova guanya el programa.
Escalar una adopció agèntica no consisteix a trobar un model més intel·ligent. Consisteix a construir una fàbrica més estricta —una que provi les seves pròpies màquines, recordi els seus propis veredictes i guardi els rebuts. La governança no és burocràcia. És la barrera de seguretat que permet conduir ràpid. Els equips que guanyin aquesta transició no seran els que tinguin més autonomia. Seran aquells l'orquestrador del qual converteixi cada 'no' humà en la següent restricció de l'agent —i pugui demostrar, execució rere execució, que la restricció es va complir. A Q2BSTUDIO entenem que el veritable coll d'ampolla mai no va ser la generació. Va ser la capacitat de construir un sistema que aprèn de la porta, no malgrat ella.
Si la teva organització està explorant com integrar agents d'IA en processos crítics sense perdre el control, és el moment de revisar no només quin prompt utilitzes, sinó quina governança tens al seu voltant. Comptar amb un soci tecnològic que domini tant el desenvolupament d'aplicacions a mida com l'orquestració segura d'agents pot marcar la diferència entre un pilot exitós i un programa sostenible. A Q2BSTUDIO oferim serveis de ciberseguretat, cloud AWS/Azure, BI amb Power BI i intel·ligència artificial, tots integrats en una estratègia de governança que posa la confiança al centre. Perquè al final, la tecnologia no falla on es genera, sinó on no es governa.
