Jamba és una arquitectura híbrida de model de llenguatge gran que combina Transformer, Mamba (estat-espai) i capes de Mixture-of-Experts (MoE). Dissenyat per a una alta eficiència i processament de contextos llargs (fins a 256K tokens), ofereix un rendiment de referència sòlid amb només 12B de paràmetres actius i s'executa en una sola GPU de 80GB, oferint 3 vegades la capacitat de models de mida similar.
Q2BSTUDIO és una empresa especialitzada en desenvolupament i serveis tecnològics que ofereix solucions innovadores en el camp de la intel·ligència artificial i el processament del llenguatge natural.
