En el mundo de la inteligencia artificial, el aprendizaje de las máquinas ha avanzado de manera sorprendente en los últimos años. Investigaciones recientes han demostrado que los modelos de lenguaje pueden aprender a razonar, incluso mediante el aprendizaje por refuerzo. En este sentido, surge la pregunta sobre si es necesario un enfoque de baja dimensión para lograr que las máquinas aprendan a razonar.
En Q2BSTUDIO, como empresa especializada en el desarrollo de software a medida, nos interesamos por las últimas tendencias en inteligencia artificial y sus aplicaciones en el mundo empresarial. Es por ello que nos resulta fascinante la propuesta de TinyLoRA, un método que permite escalar adaptadores de baja dimensión a tamaños extremadamente pequeños, incluso de un solo parámetro.
Gracias a esta nueva metodología, se ha logrado entrenar modelos con millones de parámetros con una precisión del 91% en tareas complejas de razonamiento, como GSM8K, utilizando solo 13 parámetros entrenados en formato bf16. Este enfoque también ha demostrado ser efectivo en otros desafiantes benchmarks de aprendizaje de razonamiento, como AIME, AMC y MATH500, logrando un rendimiento del 90% con hasta mil veces menos parámetros.
Es destacable que para alcanzar estos resultados tan prometedores, el uso de aprendizaje por refuerzo es esencial. Modelos entrenados con otras técnicas, como SFT, requieren actualizaciones mucho más grandes, hasta mil veces mayores, para lograr el mismo nivel de precisión.
En Q2BSTUDIO, además de estar al tanto de las últimas investigaciones en inteligencia artificial, también ofrecemos servicios de desarrollo de software a medida, ciberseguridad, servicios en la nube (AWS y Azure), inteligencia de negocio con Power BI y soluciones de automatización de procesos. Si deseas conocer más sobre cómo implementar soluciones de IA para empresas o crear aplicaciones a medida, no dudes en contactarnos.
