La verificació de la inferència de models de llenguatge grans (LLMs) sense exposar dades sensibles és un dels reptes més rellevants en l’àmbit de la intel·ligència artificial empresarial. Recentment, el desenvolupament de sistemes com NanoZK proposa una solució basada en proves de coneixement zero (ZKP) que permet a clients i auditors verificar que un proveïdor va executar el model anunciat sobre una entrada compromesa, sense conèixer els pesos ni les activacions. Aquest avenç obre noves possibilitats per a l’adopció segura d’IA en sectors com la banca, la salut o l’administració pública. A Q2BSTUDIO, com a empresa especialitzada en desenvolupament de programari a mida i solucions cloud, analitzem com aquestes tecnologies es poden integrar en ecosistemes empresarials.
NanoZK introdueix un marc de proves per capes que descompon la inferència del transformer en capes demostrables de manera independent, enllaçades mitjançant una cadena de compromís SHA-256. Això genera proves de subcircuit de mida constant (3.5-3.7 KB) i un total d’aproximadament 83 KB per a un model de 12 capes. En comparació amb els enfocaments monolítics anteriors que requerien 101-126 KB, NanoZK ofereix una paral·lelització molt més gran, facilitant la seva integració en processos de verificació a gran escala. A més, es dissenyen aproximacions de taula de cerca de 16 bits per a softmax, GELU i normalització, amb una degradació de perplexitat inferior a 1e-4 en sis combinacions model/dataset, garantint una precisió gairebé idèntica a la inferència original.
En termes de rendiment, la demostració del subcircuit MLP en CPU triga aproximadament 6.3 segons en mode només prova i uns 43 segons incloent la configuració inicial, amb una verificació que requereix només uns 22 ms independentment de l’amplada de la capa. El temps de només prova d’atenció varia des de 0.9 segons per a una dimensionalitat de 16 fins a 184 segons per a d=256. Per a blocs complets, es projecta un temps de GPU d’aproximadament 68 segons per bloc a d=768, aprofitant una acceleració MSM d’entre 15 i 30 vegades segons les estimacions basades en Icicle. Aquest rendiment fa viable la verificació en temps real fins i tot per a models grans.
Un aspecte innovador de NanoZK és l’ús d’un pressupost d’auditoria guiat per la informació de Fisher, que permet prioritzar les capes que més impacten en la sortida del model, tot i que la solidesa completa requereix verificar totes les capes. Això ofereix una eina d’eficiència pràctica per a auditories ràpides en entorns amb recursos limitats, sense sacrificar la garantia final.
L’abast de privacitat de NanoZK és notable: oculta els pesos i les activacions tant dels verificadors com dels auditors externs, però no oculta el prompt del provador, complementant altres enfocaments com el xifrat homomòrfic (HE) o el càlcul multipartit (MPC). Aquesta característica és especialment útil en entorns on la confiança en el proveïdor d’IA és parcial, com en serveis cloud o en subcontractació de processament de llenguatge natural.
Per a les empreses que busquen implementar solucions d’IA fiables, la capacitat d’auditar el comportament d’un LLM sense exposar dades crítiques és un diferenciador clau. Gràcies a l’arquitectura de NanoZK, és possible construir aplicacions a mida que integrin verificació en temps real, per exemple, en assistents virtuals o sistemes de recomanació. Combinat amb infraestructura cloud AWS o Azure, es despleguen entorns escalables on la integritat del model es verifica mitjançant proves criptogràfiques. A més, en l’àmbit de la ciberseguretat, la verificació que un model no ha estat manipulat protegeix contra atacs d’enverinament o substitució de model. A Q2BSTUDIO oferim serveis de consultoria i implementació d’aquestes tecnologies, així com integració amb plataformes de Business Intelligence com Power BI per afegir capes de confiança a les anàlisis generades per IA.
La investigació en proves de coneixement zero per a LLMs avanca ràpidament. NanoZK representa un pas cap a la inferència verificable i privada, i la seva arquitectura per capes és especialment prometedora per a la seva integració en sistemes d’agents IA autònoms. Aquests agents, que combinen raonament, planificació i execució, es beneficien d’una verificació criptogràfica que assegura que les decisions basades en LLMs són autèntiques. A Q2BSTUDIO seguim de prop aquestes innovacions per oferir als nostres clients solucions de programari que conjuguin transparència, rendiment i privacitat. Si estàs interessat en com aplicar aquestes tècniques al teu negoci, contacta’ns per explorar desenvolupaments personalitzats en l’àmbit de la intel·ligència artificial, el núvol i la ciberseguretat.
