NVIDIA открыла доступ к двум моделям семейства Nemotron 3.5: крупной Super VL и её сжатой версии Bolt. Обе принимают текст, изображения и видео, а результат выдают в виде текста. В карточках моделей указана дата выпуска 15 октября; файлы весов уже доступны для скачивания.
У Super VL — 120 млрд параметров, из которых при обработке задействуются 12 млрд. Модель поддерживает контекст до миллиона токенов. Опубликованная версия BF16 предназначена в том числе для дополнительного обучения: приведённые разработчиком примеры развёртывания используют четыре ускорителя H100 или два GB200.
Bolt уменьшена до 74 млрд параметров с 9 млрд активных. NVIDIA применила сжатие и двухбитную квантизацию, благодаря чему упакованные веса занимают 24 ГБ. Это размер файлов модели, а не полный объём памяти, необходимый компьютеру: дополнительные ресурсы потребуются среде запуска и обработке контекста. Максимальная заявленная длина контекста Bolt — 256 тысяч токенов.
Компания ориентирует Bolt на локальный запуск, в том числе на устройствах RTX Spark. Первые ноутбуки на этой платформе поступят в продажу 16 октября. Для Super VL, напротив, опубликованы конфигурации с серверными ускорителями; считать её обычной моделью для домашнего ноутбука не стоит.
На собственном графике NVIDIA сравнивает качество ответов и скорость небольших моделей. Тесты проводились на Surface Laptop Ultra с RTX Spark и 128 ГБ общей памяти под Windows 11 Arm с llama.cpp. Bolt не стала самой быстрой во всех измерениях: разработчик делает акцент на сочетании качества и размера. Эти результаты описывают конкретную конфигурацию и не заменяют независимые испытания.
Веса обеих моделей опубликованы по лицензии OpenMDW 1.1, допускающей коммерческое и некоммерческое использование. Ещё одна компактная модель, Nemotron 3.5 E4B, в опубликованном NVIDIA расписании назначена на 23 октября — в число уже выпущенных новинок она пока не входит.
