Nvidia в четверг представила новые открытые модели с весами, рассчитанные на постоянно работающих агентов и периферийные вычисления.
Nemotron 3.5 Super VL — это крупная модель с 120 млрд параметров для корпоративных агентов. Nvidia утверждает, что при меньшем числе параметров по сравнению с Nemotron 3 Ultra она дает сопоставимую точность в задачах следования инструкциям и работы с инструментами.
Параллельно компания выпустила две облегченные модели Bolt. Они предназначены для локальной работы на новых ИИ-ПК с чипом Nvidia RTX Spark и рабочих станциях DGX Spark. Такие ПК ориентированы на потребителей, разработчиков и корпоративных сотрудников, работающих с данными, и уже выходят на рынок через партнеров, включая Microsoft и Dell.
«Любая организация, которая хочет запускать агентов на инфраструктуре Nvidia, теперь имеет открытую, оптимизированную модель для своего уровня без необходимости выбирать между возможностями и удобством развертывания», — написала в блоге Nvidia вице-президент по открытым моделям и ПО Кари Бриски.
Nvidia утверждает, что Super VL выполняет задачи быстрее, чем конкурирующие модели Anthropic и OpenAI, если ее дополнительно обучить на специальных агентных задачах. В этот список входят работа с документами, финансовый учет, научные эксперименты, обработка медицинских страховых заявок и устойчивость к атакам на безопасность.
Компания также привела список крупных клиентов, которые, по ее словам, используют Super VL. В него вошли Skydance, EY, Ramp, CrowdStrike, Perplexity и Salesforce.
Nvidia уже выпускала открытые модели, которые конкурируют с закрытыми фронтирными лабораториями — компаниями, которые одновременно являются ее клиентами и инвестиционными активами. Линейка Nemotron охватывает мультимодальный ИИ, рассуждения, кодирование, математику и автоматизацию для бизнеса.
При этом крупные закрытые ИИ-лаборатории все чаще смотрят на другие чипы и системы, помимо Nvidia. Среди альтернатив — AWS Trainium, Cerebras и собственные разработки компаний.
Nvidia делает ставку на рост интереса бизнеса к запуску собственных открытых моделей в своих дата-центрах. «В отличие от закрытых фронтирных моделей, организации могут дообучать Super VL на своих данных, запускать ее на собственной инфраструктуре и владеть тем, что они создают», — написала Бриски.
За счет локальных моделей для ПК компания также пытается продвинуть ранний сегмент потребительских ИИ-ассистентов. Пользователи, которым важна конфиденциальность, могут не захотеть передавать таким агентам доступ к данным о семье, здоровье и финансах.
Nvidia рассчитывает создать для себя новый рынок за счет ПК на своих чипах. В этом сценарии модели и агенты работают локально, а пользователи «могут поручать повседневные задачи … без отправки этих нагрузок в облако», написала Бриски.
Из двух моделей Bolt Nemotron 3.5 Bolt 74B-A9B 24GB — это модель с 74 млрд параметров для локальных агентных задач. Она должна сочетать скорость и рассуждения для многосоставных задач, вызова инструментов и веб-поиска. Самая компактная Bolt E4B предназначена для диалоговых агентов.
Super VL и Bolt 74B-A9B уже доступны, а Bolt E4B выйдет позже в этом месяце, сообщили в Nvidia.
Источник: Nvidia.