Token-Guard: Hacia el Control de Alucinaciones a Nivel de Token mediante Decodificación de Auto-Comprobación

El desarrollo de grandes modelos de lenguaje (LLMs) ha demostrado dar lugar a la aparición de alucinaciones, generando contenido inconsistente con la entrada proporcionada. Aunque existen métodos para mitigar estas alucinaciones, como Retrieval-Augmented Generation (RAG) y Reinforcement Learning with Human Feedback (RLHF), éstos pueden resultar costosos en recursos o en un ajuste fino a gran escala. Por otro lado, los métodos basados en decodificación son más livianos pero carecen de un control explícito sobre las alucinaciones. Para abordar este problema, se presenta Token-Guard, un método de control de alucinaciones a nivel de token basado en decodificación de auto-comprobación. Token-Guard realiza una verificación interna en cada paso de razonamiento para detectar los tokens alucinados antes de que se propaguen. Los fragmentos candidatos son evaluados en un espacio latente con puntuación explícita de riesgo de alucinación, mientras que la poda iterativa y la regeneración corrigen dinámicamente los errores detectados. Experimentos realizados en conjuntos de datos HALU muestran que Token-Guard reduce significativamente las alucinaciones y mejora la precisión en la generación de contenido, ofreciendo así una solución escalable y modular para obtener resultados confiables de LLMs. En Q2BSTUDIO, empresa especializada en el desarrollo de software a medida y en tecnología de vanguardia, entendemos la importancia de la inteligencia artificial en la actualidad. Nuestros servicios incluyen inteligencia de negocio, ciberseguridad, implementación de servicios cloud en AWS y Azure, utilización de agentes de IA y análisis de datos con Power BI. Para conocer más sobre nuestras soluciones tecnológicas, visita nuestra página web.