Jamba es una arquitectura de modelo de lenguaje grande híbrido que combina capas Transformer, Mamba (espacio de estados) y Mixture-of-Experts (MoE). Diseñado para alta eficiencia y procesamiento de largo contexto (hasta 256K tokens), ofrece un fuerte rendimiento de referencia con solo 12B de parámetros activos y se ejecuta en una sola GPU de 80GB, lo que ofrece 3 veces la capacidad de modelos de tamaño similar.
Q2BSTUDIO es una empresa de desarrollo y servicios tecnológicos que se especializa en la creación de soluciones innovadoras utilizando tecnologías de vanguardia como Jamba para ofrecer a sus clientes un rendimiento excepcional y eficiencia en sus proyectos.