Nvidia опубликовала квартальную отчётность, после чего инвесторы стали иначе смотреть на её позиции на рынке ИИ-инфраструктуры. Если раньше основная дискуссия сводилась к тому, как долго компания сможет удерживать преимущество в GPU на фоне собственных чипов Amazon и Google, то теперь внимание сместилось на более широкий набор систем вокруг графических ускорителей.
Эта смена акцента связана с тем, что масштаб вычислений для ИИ уже приближается к уровню гигаватт, а управление такой инфраструктурой становится всё более трудной задачей. На этом фоне Nvidia получает преимущество за счёт оборудования, которое отвечает за работу всей системы, а не только самих GPU.
После роста рыночной капитализации примерно в 10 раз с начала 2023 года до середины 2025 года акции Nvidia в последний год росли заметно медленнее. Одной из причин были опасения инвесторов из-за конкуренции на рынке GPU.
Сейчас компания разворачивает архитектуру Vera Rubin. В неё входят GPU Rubin, CPU Vera, ускоритель инференса Groq 3 LPX, а также стойки для хранения данных и сетевого оборудования.
По словам вице-президента Nvidia по технологиям хранения данных Джейсона Харди, такие системы сильно специализированы. Их задача — не обработка токенов, а обеспечение максимально эффективной работы всех компонентов вокруг GPU.
Харди отдельно выделил CPU Vera, который отвечает за координацию потоков данных. «Vera важна, потому что объём памяти, который можно разместить в одном сервере или на любой вычислительной платформе, ограничен», — сказал он.
По мере роста вычислительной мощности дата-центров увеличивался и объём памяти. Однако передавать данные в GPU в нужный момент оказалось непросто. По мере того как компании стараются снижать энергозатраты на обработку токенов, управление такими потоками данных становится всё важнее.
«Мы увидели улучшение этих операций более чем в три раза, где CPU Vera обеспечивает ускорение. Теперь мы можем использовать нашу флеш-память на полную мощность, потому что получаем всю её производительность без узких мест», — сказал Харди.
Похожую задачу решают и другие компании. В материале приводится пример OpenAI и её чипа Jalapeño, где основной упор сделан на сокращение перемещения данных внутри системы.
В блоге OpenAI ранее в этом месяце компания написала: «Мы спроектировали Jalapeño так, чтобы свести к минимуму перемещение данных и задержки связи. Его крупный домен позволяет всей нагрузке оставаться внутри одной связанной системы, уменьшая перемещение данных и помогая выполнять полный запрос быстро и эффективно от начала до конца».
Подход OpenAI отличается от Nvidia: компания старается сократить перемещение данных за счёт выполнения нагрузки внутри одного интегрированного чипа. Но логика схожа: эффективность повышается за счёт более умного управления трафиком данных, а не просто за счёт роста числа вычислительных циклов.
Для Nvidia это не гарантированное преимущество. Компании всё равно придётся конкурировать с другими разработчиками чипов и крупными облачными провайдерами. Но борьба смещается на новый уровень, где важна уже не только производительность отдельного GPU, а способность сделать всю систему максимально эффективной.
На раннем этапе этого сдвига Nvidia, по оценке автора материала, выглядит лидером.
Источник: The Verge.