Reflection AI выпустила Beam — открытую модель на 501 млрд параметров
Первая модель лаборатории с открытыми весами: в каждый момент работают 23 млрд параметров, контекст — до 1 млн токенов.
5 октября Reflection AI представила Beam — свою первую модель с открытыми весами. Это разреженная смесь экспертов (Mixture-of-Experts): всего 501 млрд параметров, одновременно задействованы 23 млрд.
Цифры из анонса
- Предобучение на 23,8 трлн токенов, эффективный контекст после дообучения — до 1 млн токенов.
- Этап обучения с подкреплением: более 100 млн прогонов за четыре недели на 10,5 тыс. ускорителей NVIDIA GB300.
- SWE-bench Verified — 80,9, лучший результат среди открытых моделей по данным самой лаборатории.
- На более сложном SWE-Bench Pro v2-Hard Beam уступает Kimi K3: 77,2 против 88,2.
Reflection также заявляет, что Beam тратит в 3–4 раза меньше вычислений, чем GLM 5.2. Часть этого разрыва объясняется методикой подсчёта, которая не учитывает этап обработки запроса, — поэтому к сравнению стоит относиться осторожно.
Что это значит для вас
Открытых моделей уровня закрытых флагманов в задачах на код становится больше. Для команд это вариант разместить сильную модель на своих серверах. Но 501 млрд параметров — это всё ещё кластер видеокарт, а не ноутбук.