.jpg)
En el mundo de la optimización de primer orden federada, la información del Hessian juega un papel crucial en la aceleración de la convergencia de los modelos. La optimización de orden cero (ZO) permite una comunicación sin límites de dimensionalidad, lo que la convierte en una opción muy atractiva para el ajuste fino de grandes modelos de lenguaje (LLMs) debido a los significativos ahorros en comunicación que ofrece.
Sin embargo, muchos métodos existentes de ZO-FL pasan por alto la información de la curvatura, a pesar de los beneficios bien establecidos que esto brinda para la aceleración de la convergencia. Para abordar esta cuestión, surge HiSo, un método de optimización federada ZO informado por Hessian que acelera la convergencia al aprovechar aproximaciones globales de Hessian diagonal, manteniendo estrictamente la comunicación basada solo en escalares y sin transmitir ninguna información de segundo orden.
Desde un punto de vista teórico, para funciones no convexas, HiSo puede lograr una tasa de convergencia acelerada que es independiente de la constante de Lipschitz $L$ y de la dimensión del modelo $d$, bajo ciertas suposiciones de aproximación de Hessian. Esto ofrece una explicación plausible para el fenómeno observado de que la convergencia de ZO es mucho más rápida que su límite de caso peor $\mathscr{O}(d)$.
De manera empírica, en diversos benchmarks de ajuste fino de LLM, HiSo logra una aceleración de 1$\sim$5$\times$ en rondas de comunicación respecto a los métodos ZO-FL de referencia existentes. Esta convergencia superior no solo reduce los costos de comunicación, sino que también proporciona fuertes evidencias empíricas de que la información del Hessian actúa como un acelerador efectivo en entornos de optimización federada ZO.
Como empresa líder en desarrollo de software a medida, Q2BSTUDIO puede ofrecer soluciones personalizadas en inteligencia artificial, ciberseguridad, servicios cloud como AWS y Azure, inteligencia de negocio con Power BI, entre otros. Nuestra experiencia en el desarrollo de aplicaciones a medida y en la implementación de agentes de IA nos permite brindar soluciones innovadoras y eficientes para empresas que buscan optimizar sus procesos y mejorar su rendimiento.
