La intel·ligència artificial ha transformat la manera com entenem i generem codi, però els models de llenguatge entrenats de forma independent realment 'pensen' igual en analitzar un programa? Un estudi científic recent aborda aquesta qüestió des d'un enfocament innovador: en lloc de buscar respostes absolutes, descompon el problema en tres preguntes clau: quins conceptes reben circuits dedicats, on se situen aquests circuits dins del model i com creixen a través de les capes. Els resultats, obtinguts en creuar dos llenguatges (Python i Rust) amb dos models (Qwen2.5-Coder-7B i DeepSeek-Coder-V1-6.7B), ofereixen una visió matisada que resulta de gran valor per a empreses de desenvolupament com Q2BSTUDIO, especialitzada en aplicacions a mida, serveis cloud, ciberseguretat i intel·ligència artificial.
L'estudi revela que el 'què' – és a dir, quins conceptes gramaticals mereixen circuits específics – està determinat per la tasca. Els models coincideixen amb una correlació de Spearman de 0.638 en Python i 0.673 en Rust, ambdues amb alta significança estadística. Això significa que, independentment del llenguatge o del model, els mateixos elements estructurals (com bucles, condicionals o declaracions de tipus) reben atenció especialitzada. Per a una empresa que desenvolupa agents IA o eines d'automatització, aquesta convergència és una bona notícia: els assistents de codi basats en models grans prioritzen de forma consistent les construccions fonamentals. No obstant això, el 'on' i el 'com' són una història diferent. La ubicació dels circuits varia dràsticament segons el model: Qwen els concentra en una banda tardana (capes 17-19), mentre que DeepSeek els situa en capes primerenques (6-7). Aquesta diferència és independent del llenguatge, cosa que suggereix que l'arquitectura interna del model imposa un patró de processament propi. En la pràctica, en integrar models de llenguatge en solucions cloud AWS/Azure, és crucial conèixer aquest comportament per optimitzar la latència i l'ús de recursos computacionals. Un model que processa conceptes d'hora pot ser més eficient per a tasques d'anàlisi sintàctica en temps real, mentre que un amb processament tardà podria ser millor per a tasques de generació de codi llarga.
El 'com' també depèn del model. Qwen mostra un pic primerenc en l'activació de conceptes atòmics (com identificadors o literals), mentre que DeepSeek no té aquest pic. Això té implicacions directes en ciberseguretat: si es volen detectar patrons anòmals en codi font, un model que 'veu' els elements bàsics des de les primeres capes pot identificar més ràpidament desviacions sospitoses. D'altra banda, en l'àmbit de BI/Power BI, on s'analitzen grans volums de codi per extreure mètriques, entendre com cada model descompon la informació ajuda a dissenyar pipelines de processament més eficients.
Un altre descobriment fascinant és la diferència entre llenguatges. Rust rep entre dues i tres vegades més circuits específics que Python, en ambdós models. Això suggereix que la complexitat del sistema de tipus i traits de Rust exigeix una representació més elaborada. A més, tots dos models comparteixen neurones entre llenguatges, però DeepSeek ho fa 1.94 vegades més que Qwen, una tendència que cap estudi previ havia predit. Per a Q2BSTUDIO, que ofereix serveis de desenvolupament de programari a mida en múltiples plataformes, aquesta informació és rellevant a l'hora d'escollir el model base per a un assistent de codi multi-llenguatge. Si l'objectiu és maximitzar la transferència entre Python i Rust, DeepSeek podria ser més adequat; si es busca una especialització més marcada, Qwen podria oferir avantatges.
L'estudi també identifica un comportament sorprenent en la representació de paraules clau de Rust relacionades amb tipus i traits. Qwen agrupa nou d'aquestes paraules en un mateix clúster neuronal (Jaccard 0.535 enfront de 0.112 de l'atzar), una dimensió semàntica invisible en la sintaxi superficial. Aquesta troballa obre la porta a noves tècniques de fine-tuning i representació del coneixement. En el context de l'automatització de processos, poder identificar automàticament aquests clústers permet crear agents que comprenguin millor la intenció del desenvolupador.
Per a Q2BSTUDIO, aquests resultats reforcen la necessitat d'un enfocament personalitzat en cada projecte. No existeix un model universal que funcioni igual per a tots els llenguatges i tasques; la universalitat rau en el contingut (què es representa), no en l'organització (on i com). Per això, en dissenyar solucions de ciberseguretat, cloud o intel·ligència artificial, és fonamental realitzar proves comparatives amb diferents models i llenguatges. La nostra experiència en cloud AWS/Azure i en la creació d'aplicacions a mida ens permet integrar aquests avenços científics en eines pràctiques, des d'assistents de codi fins a sistemes d'anàlisi de seguretat.
En resum, la investigació demostra que la resposta a 'són universals els circuits?' és un rotund 'depèn'. Sí per al què, no per al on i el com. Aquest coneixement permet a empreses com Q2BSTUDIO oferir serveis més precisos i adaptats, aprofitant les fortaleses de cada model i llenguatge. Ja sigui mitjançant agents IA per a automatització, dashboards de BI/Power BI o protecció avançada amb ciberseguretat, la clau està en entendre com pensa cada model per treure el màxim partit a la tecnologia.
