En els últims mesos, la indústria tecnològica ha viscut un fenomen curiós: sistemes d'intel·ligència artificial comencen a avaluar altres sistemes d'intel·ligència artificial. El que semblava una solució elegant per escalar la validació de qualitat s'ha convertit, en molts casos, en una font d'errors sistemàtics que passen desapercebuts fins que impacten en usuaris reals. La temptació de delegar en un model gran la tasca de jutjar respostes és comprensible, però també perillosa si no s'acompanya d'una disciplina d'auditoria rigorosa.
Quan una empresa implementa un jutge LLM per decidir si un resum generat és millor que un altre, o si una resposta d'un assistent conversacional és adequada, està introduint un instrument de mesura que, com qualsevol altre, té biaixos coneguts. El problema no és que hi hagi biaixos —tots els instruments els tenen—, sinó que rara vegada es quantifiquen abans d'usar el veredicte com a porta de llançament. Un jutge no auditat no mesura qualitat: mesura la seva pròpia percepció distorsionada, i aquesta distorsió s'amplifica en la cadena de decisions empresarials.
L' experiència de molts equips de producte que han adoptat avaluacions automàtiques amb models de llenguatge revela patrons repetits. El més comú és el biaix de verbositat: respostes més llargues obtenen puntuacions més altes, independentment de si el contingut afegit aporta valor real. Això passa perquè el jutge LLM ha estat entrenat amb grans volums de text on l'extensió correlaciona amb profunditat, però en contextos específics —com resums executius o respostes a clients— la concisió sol ser més valuosa. Quan l'equip optimitza contra aquesta mètrica, el model aprèn a allargar respostes, i el producte empitjora per a l'usuari final.
Un altre biaix igualment danyós és el de posició. Si es presenten dues respostes en un ordre fix, el jutge tendeix a afavorir la primera o la segona segons la seva arquitectura interna. Això es detecta fàcilment intercanviant l'ordre i veient si el veredicte canvia. Però pocs equips incorporen aquesta comprovació en el seu pipeline d'avaluació. El resultat és un sistema que recompensa consistentment a la resposta que ocupa la posició afavorida, no a la millor resposta.
L'autopreferència de família és un altre factor subtil però rellevant. Quan s'utilitza un model de la mateixa família que l'avaluat —per exemple, un GPT-4 avaluant un altre GPT-4— les puntuacions tendeixen a ser més altes que si es fes servir un model d'una altra família. Això no implica mala fe, sinó que els models aprenen patrons d' estil i estructura que reconeixen com a propis. Per a decisions crítiques, el sensat és utilitzar un jutge d'una família diferent o, millor encara, un panell de diversos models i després agregar els resultats.
La sensibilitat al format també enganya. Un jutge LLM pot puntuar més alt una resposta amb vinyetes, negretes i un tancament emfàtic, encara que el contingut sigui idèntic al d'una resposta en text pla. L' aparença d' autoritat es confon amb l' autoritat real. I quan l'equip optimitza contra aquesta mètrica, el model aprèn a maquillar les seves respostes sense millorar la seva utilitat.
Davant d'aquest panorama, la postura més prudent és desconfiar per defecte. No es tracta d'abandonar l'ús de LLM com a avaluadors —són eines molt potents quan es calibraran correctament—, sinó de sotmetre'ls a una auditoria abans d'utilitzar-los com a gats de qualitat. Una auditoria bàsica inclou tres passos: calibrar contra un conjunt etiquetat per humans, mesurar el biaix de posició intercanviant l' ordre de presentació, i quantificar el biaix de verbositat afegint farciment no substantiu i observant si la puntuació puja. Aquests tres passos es poden executar en un dia, i proporcionen informació crítica sobre si el jutge és fiable per a la tasca concreta.
El calibratge contra humans és el pas més important. Sense ella, qualsevol mètrica és decorativa. Es necessita un conjunt petit però representatiu (100-200 exemples) de la tasca real, etiquetat per avaluadors humans entrenats. Després s'aplica el jutge LLM i es calcula el coeficient kappa de Cohen per mesurar la concordança corregida per atzar. Un valor per sota de 0.6 indica que el jutge i els humans no estan alineats, i usar-lo com a gate seria enganyós.
En empreses que desenvolupen aplicacions a mida, on l' experiència d' usuari és un factor diferenciador, confiar en un jutge no auditat pot portar a decisions de producte equivocades que afecten la retenció i la satisfacció. Per això, molts equips estan integrant aquestes auditories dins dels seus pipelins de CI/CD, de manera que qualsevol canvi en el model avaluador o en el model avaluat dispari una re-avaluació de la fiabilitat del jutge.
Un altre aspecte que sovint es passa per alt és que el propi procés d'optimització —ajust de prompts, selecció de models, fins i tot tècniques de RLHF— actua com un adversari inconscient del jutge. Amb cada iteració, el model aprèn a explotar els biaixos de l' avaluador, i la bretxa entre la puntuació i la qualitat real s' eixampla. Per això cal reauditar periòdicament el jutge, no només una vegada. Una cadència trimestral sol ser suficient, però si l'equip itera ràpid, pot ser necessari fer-ho en cada rellegeix important.
Des d'una perspectiva estratègica, l'adopció d'intel·ligència artificial per a empreses ha d'anar acompanyada d'una cultura de validació rigorosa. No n'hi ha prou que la IA sigui potent; cal assegurar-se que els instruments que la mesuren siguin fiables. En Q2BSTUDIO entenem aquesta necessitat, i per això oferim serveis que abasten des del desenvolupament de programari a mida fins a la implantació de sistemes d'intel·ligència artificial amb governança integrada. El nostre equip treballa amb agents IA i assistents conversacionals que requereixen avaluacions contínues, i apliquem metodologies d'auditoria d'avaluadors com a part natural del procés de qualitat.
La ciberseguretat també juga un paper en aquest ecosistema. Un jutge LLM que no ha estat auditat pot ser manipulat, ja sigui mitjançant injecció de prompts o aprofitant els seus biaixos per obtenir veredictes favorables. Per això, en projectes que integren ciberseguretat i avaluació automàtica, és crític que el jutge sigui robust davant intents d'engany. L' auditoria ha d' incloure proves d' adversarial robustness a més de les de setge.
En l'àmbit del núvol, els serveis cloud AWS i Azure ofereixen infraestructura escalable per executar aquests pipelins d'avaluació. Però l'escalabilitat no resol el problema de fons: tenir un jutge que mesura el que no deu. El núvol permet executar milers d'avaluacions per minut, però si el jutge està esquinçat, estaràs generant confiança en la direcció equivocada a gran velocitat.
La intel·ligència de negoci i eines com Power BI poden ajudar a visualitzar l'evolució de les mètriques de qualitat i detectar anomalies. En correlacionar les puntuacions del jutge amb indicadors d'ús real (engagement, taxes de rebuig, enquestes de satisfacció), es pot identificar quan el jutge està desviat. Però aquesta correlació no ha de ser l'única defensa; l'auditoria preventiva és més barata que corregir un desplegament defectuós.
En definitiva, un jutge LLM no és un oràcul, és un instrument. I com qualsevol instrument, ha de ser calibrat, auditat i re-auditat. Qui confia cegament en un nombre que genera un model gran està mesurant la seva pròpia confiança, no la qualitat real. La pròxima vegada que vegis una puntuació verda en el teu pipeline, pregunteu: ¿aquest jutge passaria la seva pròpia auditoria? Si no ho saps, estàs apostant amb els ulls tancats.
