Jamba
статус: ga лицензия: Apache License 2.0 контекст: 262 144 токенов заявлено
Что это
Гибридная архитектура AI21: чередование блоков внимания и состояний (Mamba) снижает стоимость длинного контекста. Веса открыты, что делает Jamba одной из немногих открытых гибридных моделей.
- Гибрид внимания и state space
- Открытые веса под Apache 2.0
- Эффективность на длинном контексте при умеренной памяти
Версии
Показаны последние 2 из 2 версий, известных каталогу (всего в базе — включая варианты режимов и тарифов).
| Версия | Канал | Релиз | Что изменилось |
|---|---|---|---|
| Jamba 1.5 Mini | ga · актуальная | 2024-08-22 | Обновление линейки: больше контекста и лучшее качество на своих размерах. |
| Jamba-v0.1 | legacy | 2024-03-28 | Первая публичная гибридная MoE-модель с открытыми весами. |