En los últimos años la discusión sobre cómo limitar capacidades no deseadas en modelos de lenguaje ha pasado de intervenciones posteriores a acciones durante la preparación de datos. Una alternativa prometedora consiste en intervenir antes del entrenamiento, seleccionando y modulando ejemplos a un nivel muy fino: el token. Este enfoque permite reducir la aparición de respuestas concretas sin eliminar por completo el contexto útil que sostiene comportamientos legítimos del modelo.
Trabajar a nivel de token implica identificar fragmentos léxicos asociados a dominios sensibles o riesgosos y reducir su presencia en el corpus de preentrenamiento. A diferencia de borrar documentos enteros, esta granularidad minimiza el daño colateral sobre conocimientos generales y habilidades del modelo. Técnicas de atribución y representaciones esparsas facilitan la detección de tokens relevantes, y clasificadores ligeros entrenados a partir de esas señales permiten aplicar los filtros de manera escalable.
En la práctica existen varias estrategias: eliminar tokens, ponderarlos menos durante muestreo, o aplicar máscaras parciales en ciclos de preentrenamiento. Cada opción tiene sus ventajas: la eliminación estricta ofrece mayor garantía de ausencia, mientras que el reponderado mantiene más información útil. Es esencial medir el impacto con métricas de utilidad y de olvido específico, además de someter al sistema a pruebas adversariales que simulen intentos de evasión.
Desde el punto de vista técnico, la anotación a nivel de token puede apoyarse en autoencoders esparsos que detecten patrones y en procedimientos de destilación para generar clasificadores eficientes. Estos clasificadores permiten etiquetar grandes volúmenes de texto con costes computacionales razonables y son robustos frente a ruido cuando hay suficiente capacidad de preentrenamiento. A medida que los modelos crecen, la eficacia de estos filtros finos tiende a aumentar, aunque también aparecen compensaciones en coste de cómputo y en la complejidad de la evaluación.
Para empresas que desarrollan productos con agentes IA o implementan soluciones de inteligencia artificial interna, esta aproximación aporta un control adicional sobre el comportamiento del modelo desde su origen. Combinada con prácticas de MLOps y despliegue en infraestructuras seguras, resulta útil para sectores regulados o con requisitos de privacidad. En Q2BSTUDIO proporcionamos asesoría integral que abarca diseño de datos, entrenamiento responsable y despliegue en la nube, integrando tanto servicios de inteligencia artificial como soluciones de software a medida para llevar estos controles a producción.
Desde la perspectiva operativa recomendamos un plan por fases: auditoría de corpus, creación de señales de tokenización, entrenamiento de clasificadores de bajo coste, experimentos de preentrenamiento con distintos niveles de filtro y finalmente validación mediante tests funcionales y red teaming. Para asegurar la resiliencia conviene complementar el filtrado con refuerzos postentrenamiento y controles de ciberseguridad en la cadena de datos, así como con monitorización continua cuando los modelos interactúan con usuarios reales.
El filtrado a nivel de token no es una solución mágica, pero es una herramienta potente dentro de una estrategia holística de gobernanza de modelos. Empresas que necesitan adaptar capacidades —por ejemplo para automatizar procesos internos con aplicaciones a medida, optimizar tableros con power bi o construir agentes IA seguros— se benefician de combinar técnicas de preentrenamiento con servicios cloud y controles de seguridad. Q2BSTUDIO acompaña en esa transición, ofreciendo desde desarrollo de software a medida hasta despliegues en entornos gestionados y servicios de inteligencia de negocio para maximizar valor y minimizar riesgos.
