En el mundo real, los sistemas federados rara vez operan sobre datos estáticos: las distribuciones de entrada cambian mientras las reglas de privacidad prohíben compartir datos en bruto. Esta problemática se estudia bajo el nombre de Aprendizaje Federado Incremental de Dominios (FDIL), donde los clientes son heterogéneos, las tareas llegan secuencialmente con dominios cambiantes, pero el espacio de etiquetas permanece fijo. Sin embargo, existen dos pilares teóricos que faltan para el FDIL en despliegues realistas: una garantía de transferencia de conocimientos hacia atrás (BKT) y una tasa de convergencia que se mantenga a lo largo de la secuencia de tareas con participación parcial.
En Q2BSTUDIO nos especializamos en el desarrollo de software a medida y en la implementación de tecnologías avanzadas como la inteligencia artificial en diferentes sectores. Nuestros servicios abarcan desde la ciberseguridad hasta la implementación de servicios en la nube AWS y Azure para potenciar los negocios de nuestros clientes.
En este contexto, se introduce SPECIAL (Server-Proximal Efficient Continual Aggregation for Learning), un algoritmo simple y sin memoria para FDIL que añade un único "ancla" en el lado del servidor al FedAvg convencional: en cada ronda, el servidor empuja la actualización de los clientes participantes, muestreados uniformemente, hacia el modelo global anterior con un término proximal ligero. Este ancla limita el desplazamiento acumulativo sin necesidad de búferes de repetición, datos sintéticos o cabezas específicas de tarea, manteniendo inalterada la comunicación y el tamaño del modelo.
Nuestra teoría muestra que SPECIAL preserva las tareas anteriores, con un límite de BKT que limita cualquier aumento en la pérdida de tareas anteriores con un término controlado por el desplazamiento que disminuye con más rondas, épocas locales y clientes participantes. Además, aprende eficientemente a través de todas las tareas, con una tasa de convergencia no convexa eficiente en comunicación para FDIL con participación parcial, igualando a FedAvg de una sola tarea mientras separa explícitamente la variabilidad de optimización del desplazamiento entre tareas.
Los resultados experimentales demuestran la efectividad de SPECIAL en este contexto de aprendizaje federado incremental de dominios con participación parcial, lo que lo convierte en una herramienta prometedora para la comunidad de investigación y desarrollo en inteligencia artificial aplicada a empresas y negocios.
Si deseas saber más sobre cómo implementar soluciones de inteligencia de negocio en tu empresa o cómo aprovechar al máximo los servicios cloud de AWS y Azure, te invitamos a visitar nuestra página web Q2BSTUDIO para descubrir cómo podemos ayudarte a alcanzar tus objetivos tecnológicos de forma eficiente y segura.
