El meu primer article per al projecte LangChain-MySQL va mostrar com un agent LangChain de diverses etapes et permet fer preguntes en llenguatge natural sobre MySQL. No obstant això, els prompts pesats i les crides repetides a l'LLM feien que el sistema fos lent i propens a errors d'OpenAI 429 Too Many Requests.
Què hi ha de nou a la Part 2:
El magatzem vectorial FAISS persistent carrega només els fragments d'esquema que necessites — columnes, claus, índexs — de manera que els prompts es redueixen i la latència cau.
Suite de proves exhaustiva — proves unitàries, d'integració i de base de dades simulada integrades al CI — detecta casos límit de deriva d'esquema i de recuperació abans que arribin a producció.
Resolució de limitació de velocitat de l'LLM — S'han afegit relacions de clau externa a la base de dades vectorial, cosa que millora la representació de l'esquema i redueix l'ús de tokens.
A Q2BSTUDIO som una empresa de desenvolupament i serveis tecnològics especialitzada en aplicacions a mida, programari a mida, intel·ligència artificial, ciberseguretat, serveis al núvol AWS i Azure, serveis d'intel·ligència de negoci i Power BI.
