El salt dels assistents conversacionals als agents autònoms d'intel·ligència artificial està transformant la manera com les empreses operen els seus sistemes crítics. Durant els darrers anys, els equips tècnics han perfeccionat l'art d'escriure prompts — instruccions acuradament dissenyades que guien el comportament dels models de llenguatge. Aquestes biblioteques de prompts han demostrat ser útils per estandarditzar tasques repetitives com resums, anàlisis o esborranys de resposta. No obstant, quan un agent d'IA comença a executar accions en entorns reals — llegir logs de producció, modificar tickets, obrir pull requests o invocar APIs al núvol — la simple instrucció textual deixa de ser suficient. En aquell punt, la intenció expressada en un prompt s'ha de traduir en polítiques executables que defineixin què pot fer l'agent, sota quines condicions i amb quins límits. Aquest article explora aquesta transició necessària des d'una perspectiva tècnica i empresarial, i ofereix un full de ruta pràctic per a les organitzacions que ja han assolit maduresa en prompt engineering i ara han d'abordar la governança dels seus agents.
A Q2BSTUDIO, com a empresa especialitzada en desenvolupament de programari a mida, intel·ligència artificial i ciberseguretat, observem diàriament com les companyies avancen des de prototips amb chatbots cap a sistemes autònoms que interactuen amb infraestructura cloud AWS i Azure, plataformes de BI com Power BI i pipelines d'automatització. Aquest progrés porta preguntes incòmodes: què passa si un agent amb accés a eines de producció interpreta un prompt ambigu com una ordre per reiniciar serveis? Com assegurem que els agents respectin els límits de seguretat quan llegeixen documentació interna que podria contenir instruccions malicioses? La resposta no està en millorar els prompts, sinó en dissenyar un pla de control que separi clarament la intenció de l'autoritat d'execució.
La confusió fonamental rau en tractar un prompt com una barrera de seguretat. Una frase com 'mai facis canvis en producció sense aprovació' sona raonable, però no constitueix un control real si l'agent disposa de credencials amb permisos d'escriptura. La veritable frontera la defineixen l'abast de la identitat, el catàleg d'eines permeses, els fluxos d'aprovació, el motor de polítiques, la traçabilitat de logs i la capa d'execució que s'interposa entre la petició i l'acció. Pensar que el model de llenguatge, per si sol, obeirà cegament una instrucció textual és ignorar la realitat dels atacs per injecció indirecta de prompts, la manipulació a través de contingut recuperat o la simple ambigüitat semàntica. Per això, la governança d'agents IA no pot recaure únicament en l'equip de prompts; necessita la participació de seguretat, plataforma, operacions i negoci.
El procés de traducció de prompts a polítiques comença identificant, per a cada plantilla reutilitzable, set dimensions clau: accés a dades, accés a eines, efectes secundaris, requisits d'aprovació, accions denegades, requisits d'observabilitat i comportament davant fallades. Per exemple, un prompt que digui 'investiga aquest incident i recomana passos següents' pot implicar la necessitat de llegir logs de producció, consultar bases de dades de monitorització, accedir a runbooks de servei i, potencialment, executar accions correctives com reiniciar un servei o modificar configuració. El que el prompt descriu com una tasca d'investigació es converteix, en mapejar-lo, en un conjunt de capacitats operatives que han de ser restringides: lectura de logs permesa, escriptura en eines de canvi denegada, aprovació obligatòria per a qualsevol acció que modifiqui estat en producció, i registre detallat de cada crida a eina. Sense aquest mapeig, l'agent podria interpretar el seu objectiu com una llicència per actuar sense control.
Un marc pràctic per implementar aquesta traducció consisteix a crear un registre de polítiques associat a cada prompt de la biblioteca. Aquest registre pot expressar-se en format YAML o JSON i ha d'incloure: la versió del prompt, el perfil de l'agent (assessor, redactor, executor assistit, automatització acotada o automatització d'alt impacte), les fonts de dades permeses i denegades, les eines autoritzades amb el seu mode (només lectura, esborrany, execució després d'aprovació), les accions sempre denegades (per exemple, escriptura en secrets, modificació d'identitats, comunicació externa no aprovada), els requisits d'aprovació segons entorn i tipus d'acció, i les condicions de fallada — per defecte, tancar en fail-closed si el motor de polítiques no està disponible. Aquest enfocament converteix una plantilla de prompt en un actiu revisable per seguretat, operacions i auditoria, molt abans que l'agent executi una sola acció.
El núvol públic, especialment AWS i Azure, ha accelerat aquesta necessitat. Les organitzacions que migren les seves càrregues de treball a entorns cloud sovint integren agents d'IA per automatitzar tasques d'operacions, desplegament i resposta a incidents. No obstant, un agent que té accés a una API de gestió de recursos al núvol amb permisos d'escriptura representa un risc considerable si el seu prompt no està recolzat per polítiques granulars. A Q2BSTUDIO oferim serveis cloud que inclouen el disseny de controls per a agents autònoms, garantint que la intenció del negoci quedi reflectida en regles d'execució. De la mateixa manera, les plataformes de Business Intelligence com Power BI es beneficien d'agents que preparen informes i alertes, però només si l'accés a les dades està governat per polítiques que impedeixin la filtració d'informació sensible o la modificació no autoritzada de dashboards.
La ciberseguretat és una altra àrea on la traducció de prompts a polítiques resulta crítica. Els agents que investiguen incidents de seguretat poden necessitar consultar logs de firewall, accedir a directoris d'identitat o executar scripts de resposta. Sense polítiques clares, un agent podria, per exemple, deshabilitar controls de seguretat o exposar secrets en intentar 'ajudar' un operador. Per això, en els projectes de ciberseguretat que abordem a Q2BSTUDIO, insistim que la política d'execució de l'agent es defineixi abans que qualsevol prompt. La seguretat s'ha de dissenyar des de la capa de control, no des de la capa de llenguatge.
L'adopció d'agents d'IA no hauria de començar pel grau màxim d'autonomia. Proposem una classificació per modes operatius: mode assessor (només produeix recomanacions, sense execució d'eines), mode redactor (crea esborranys per a revisió humana), mode assistit (prepara accions que requereixen aprovació explícita), automatització acotada (tasques de baix risc amb eines supervisades) i automatització d'alt impacte (generalment bloquejada o reservada per a entorns molt controlats). La majoria dels casos empresarials es beneficien dels primers modes, on el valor arriba per la preparació i agilització de processos, no per l'execució sense supervisió. Un agent que redacta un pla de canvi, genera un pull request o prepara un informe de Power BI ja aporta un estalvi de temps significatiu sense necessitat de tocar directament els sistemes de producció.
Per començar la transició, recomanem seleccionar els tres o quatre prompts més utilitzats a l'organització i realitzar l'exercici de mapeig a polítiques. Preguntar: quines dades necessita realment aquest agent? Quines eines implica? Quins efectes secundaris podria causar? Què s'ha de denegar sempre? Què requereix aprovació? Què s'ha de registrar? Què passa si falla la política, l'aprovació o el logging? A continuació, vincular versions de prompt amb versions de política, de manera que un canvi en la plantilla activi una revisió de la política associada. Finalment, provar no només que l'agent dona bones respostes, sinó que rebutja accions prohibides. Un test amb èxit inclou: crides a eines denegades, manipulació mitjançant context recuperat, manca d'aprovació, intents d'accés a dades fora d'abast i escenaris de fallada del motor de polítiques.
La maduresa en prompt engineering no és la línia de meta; és el punt de partida per a la governança d'agents. Una biblioteca de prompts és un actiu valuós per expressar intenció, però quan els agents comencen a tocar eines, dades operatives i sistemes de negoci, la intenció s'ha de convertir en política. A Q2BSTUDIO acompanyem les organitzacions en aquest camí, integrant desenvolupament de programari a mida, intel·ligència artificial, cloud, ciberseguretat i BI per construir un pla de control sòlid que permeti escalar agents amb confiança. El següent article d'aquesta sèrie explorarà en detall les accions que un agent mai hauria de poder executar i com dissenyar la comporta de política que mantingui aquests límits aplicables.
