[Перевод] Сравнение GPU NVIDIA: от V100 до B300

Cloud4Y14 часов назад

Сравнение GPU NVIDIA: от V100 до B300

Время на прочтение6 минОхват и читатели5.1KБлог компании Cloud4YВидеокартыIT-инфраструктура*Облачные сервисы*Облачные вычисления*ПереводАвтор оригинала: ExxactЧто такое Tensor Core GPU

NVIDIA Tensor Core GPU — стандарт де-факто для AI-вычислений благодаря архитектуре, спроектированной специально под операции, характерные для нейронных сетей.

Тензоры — основной тип данных в AI: это многомерные массивы весов. Для их обработки необходимо массовое матричное умножение, и именно его ускоряет специализированный аппаратный блок — Tensor Core. В отличие от классических CUDA-ядер, Tensor Core за один такт выполняет смешанно-точностное матричное умножение сразу над блоком чисел.

Впервые Tensor Core появились в Tesla V100 (Volta, 2017). Начиная с Ampere, NVIDIA отказалась от бренда «Tesla» в пользу названия «Tensor Core GPU», подчёркивая, что именно производительность тензорных ядер и объём высокоскоростной HBM-памяти определяют реальную стоимость владения AI-кластером.

В облаке Cloud4Y представлены все ключевые поколения этих карт: доступны в аренду серверные GPU для ЦОД (от V100 до B300) и карты для рабочих станций (RTX 4090, RTX A6000 Ada, RTX 5090). Разберёмся, чем они отличаются и какую из них арендовать под конкретную задачу.

Сводная таблица: все GPU Cloud4Y

Для серверных карт приведены характеристики SXM-модификаций (HGX/DGX). PCIe-версии имеют урезанные характеристики.

Краткий ориентир по строкам таблицы:

• FP32, FP16, FP8 — вычислительная мощность на разных форматах точности. Чем больше — тем быстрее выполняются задачи. FP16 и FP8 — основные форматы для AI.
• Память — сколько данных помещается «в карту». Определяет, модель какого размера можно запустить.
• Проп. памяти — скорость подачи данных в вычислитель. Критична для инференса больших моделей.
• NVLink — межкарточное соединение. Есть только у серверных GPU, позволяет объединять карты в кластер.
• TDP — энергопотребление. Влияет на стоимость эксплуатации и требования к охлаждению.V100A100H100H200B200B300RTX 4090A6000 AdaRTX 5090RTX 6000 BlackwellАрхитектураVoltaAmpereHopperHopperBlackwellBlackwell UltraAda LovelaceAda LovelaceBlackwellBlackwellГод2017202020222024202520252022202220252025СегментЦОДЦОДЦОДЦОДЦОДЦОДРаб. станцияРаб. станцияРаб. станцияРаб. станцияFP647.8 TFLOPS9.7 TFLOPS34 TFLOPS34 TFLOPS37 TFLOPS1.2 TFLOPS————FP3215.7 TFLOPS19.5 TFLOPS67 TFLOPS67 TFLOPS75 TFLOPS75 TFLOPS82.6 TFLOPS91.1 TFLOPS104.8 TFLOPS125 TFLOPSTF32 Tensor—312 TFLOPS989 TFLOPS989 TFLOPS2.2 PFLOPS2.2 PFLOPS————FP16/BF16 Tensor125 TFLOPS624 TFLOPS1979 TFLOPS1979 TFLOPS4.5 PFLOPS4.5 PFLOPS330 TFLOPS364 TFLOPS~420 TFLOPS4000 AI TOPS*FP8 Tensor——3958 TFLOPS3958 TFLOPS9 PFLOPS9 PFLOPS660 TFLOPS728 TFLOPS~840 TFLOPS✓FP4 Tensor (Dense)————9 PFLOPSдо 15 PFLOPS——✓✓Память32 ГБ HBM280 ГБ HBM2e80 ГБ HBM3141 ГБ HBM3e192 ГБ HBM3e288 ГБ HBM3e24 ГБ GDDR6X48 ГБ GDDR6 ECC32 ГБ GDDR796 ГБ GDDR7 ECCПроп. памяти900 ГБ/с2 ТБ/с3.35 ТБ/с4.8 ТБ/сдо 8 ТБ/сдо 8 ТБ/с1.01 ТБ/с960 ГБ/с1.79 ТБ/с1.8 ТБ/сNVLink300 ГБ/с600 ГБ/с900 ГБ/с900 ГБ/с1.8 ТБ/с1.8 ТБ/с————TDP300 Вт400 Вт700 Вт700 Вт1000 Вт1400 Вт450 Вт300 Вт575 Вт600 Вт* NVIDIA приводит для RTX PRO 6000 Blackwell совокупный показатель AI-производительности (4000 AI TOPS), не разделяя на FP16/FP8 отдельно. Источники: Exxact Corp (A100, H100, H200, B200 — точные значения из таблицы); NVIDIA Technical Blog (B300 — 288 ГБ, 8 ТБ/с, до 15 PFLOPS FP4); NVIDIA Datasheets (V100 SXM2, H100 SXM5 — bandwidth 3.35 ТБ/с; H100/H200 FP16 = 1979, FP8 = 3958 TFLOPS — точные значения, Exxact округляет их до 2 и 4 PFLOPS); TechPowerUp GPU Database (RTX 4090, A6000 Ada); RunPod, Notebookcheck (RTX 5090); NVIDIA RTX PRO 6000 Blackwell Datasheet, Leadtek (RTX 6000 Blackwell — 125 TFLOPS FP32, 4000 AI TOPS, 96 ГБ GDDR7 ECC, 1.8 ТБ/с, 600 Вт).

Если смотреть на производительность, выраженную в количестве операций с плавающей точкой в секунду на заданной точности, видно: GPU поколения Blackwell жертвуют производительностью FP64 Tensor Core ради кратного ускорения в FP32 и ниже. B300 доводит эту логику до предела: его FP64 составляет всего 1.2 TFLOPS, зато FP4 — до 15 PFLOPS.

Обучение нейронных сетей не требует 64-битной точности для расчёта весов и параметров. Отказываясь от FP64 Tensor Core, NVIDIA высвобождает транзисторный бюджет в пользу форматов FP32, FP16, FP8/FP6 и FP4, которые используются в реальных AI-задачах.

Производительность B300 и B200 в TF32, FP16 и FP8 более чем вдвое превышает показатели предыдущего поколения H200. Кроме того, Blackwell получил новый Transformer Engine с поддержкой FP4. Эти форматы пониженной точности применяются не ко всему вычислению целиком, а в составе смешанной точности (Mixed Precision) — и выигрыш в производительности при таком подходе кратный.

Карты V100 и RTX-линейка (4090, A6000 Ada, 5090) не входят в оригинальное сравнение Exxact; мы добавили их, поскольку они представлены в парке Cloud4Y. V100 остаётся разумным выбором для задач, где достаточно 125 TFLOPS FP16 и 32 ГБ памяти. RTX-карты не имеют NVLink и используют GDDR-память, но выигрывают в соотношении цена/FP32 и подходят для рендера, Stable Diffusion и инференса. RTX 6000 Blackwell с 96 ГБ ECC-памяти занимает уникальную нишу между рабочими станциями и серверными GPU: это единственная несерверная карта, способная запустить 70B-модель в FP8 на одном ускорителе.

Нужно ли обновляться?

«Новее — значит лучше» в случае аппаратного обеспечения часто оправдано. Но переход на новейшую платформу Tensor Core GPU — стратегическое решение, которое зависит от вычислительных потребностей организации, типа нагрузки и планов по масштабированию. Новые архитектуры дают очевидный прирост, но реальная отдача появляется тогда, когда железо соответствует приоритетам нагрузки.

Разворачиваете новую AI-инфраструктуру → Blackwell

Платформы B300 и B200 обеспечивают существенный прирост и в обучении, и в инференсе по сравнению с Hopper. B300 располагает более чем втрое большим объёмом памяти относительно H100 (288 ГБ против 80 ГБ).

По проверенным данным о производительности B300 и B200, прирост составляет до 11–15× по пропускной способности LLM на одну карту по сравнению с Hopper. На многокарточных конфигурациях этот множитель масштабируется.

Архитектура Blackwell поддерживает режимы пониженной точности (FP8, FP4), которые значительно повышают эффективность крупномасштабного обучения и инференса.

Обновляете существующий парк H100 или H200 → гибридная стратегия

Рассмотрите гибридное распределение нагрузки: B300 или B200 — для критичных задач инференса, H200 — для фоновых ресурсоёмких задач.

Продолжайте обучение крупных моделей на H100 или H200 — они остаются сильны в FP64 и FP8 для HPC- и тренировочных нагрузок.

Используйте B200 или B300 для инференса и промышленной эксплуатации: именно здесь Blackwell обеспечивает наибольший выигрыш в пропускной способности и задержке.

NVIDIA продолжает развивать линейку, и переход на новое железо можно осуществлять постепенно. Крупномасштабные инфраструктуры требуют времени на развёртывание и окупаемость. Даже при выходе нового поколения предыдущее продолжает обеспечивать высокую производительность.

Тарифы

Итоговая стоимость может отличаться в зависимости от конфигурации CPU, RAM, NVMe, сетевого канала и сертификации.

GPU₽/час₽/мес.Типовой сценарийTesla V100 32 ГБ14768 814*Компьютерное зрение, OCR, классический ML, рендерTesla A100 40 ГБ15572 410*Дообучение и инференс моделей до 7B, MIG, классический MLTesla H100 80 ГБ686321 157*Обучение трансформеров, инференс 13–70BTesla H200 141 ГБ686321 157*Инференс LLM 70B+, длинные контекстыTesla B200 180 ГБ1 123525 559*Флагманские модели, HPC + AITesla B300 288 ГБ1 116803 306Инференс 100B+ с FP4, большой KV-кэшRTX 4090 24 ГБ10072 061*Stable Diffusion, инференс до 13BRTX 5090 24 ГБ8375 667*Инференс FP4 до 24B, рендер, Stable DiffusionRTX A6000 Ada 48 ГБ10581 967*Промышленный инференс 13–30B, ECCRTX 6000 Blackwell 96 ГБ13798 364*Инференс 70B в FP8 на одной карте, 96 ГБ ECC* Цена указана с учётом скидки. Актуальный прайс и условия.

Метрика эффективности

Сравнивать GPU по цене в рублях за час бессмысленно — карта, которая в два раза дороже, может решать задачу в три раза быстрее. Корректный подход — считать стоимость результата.

Подход 1 — стоимость TFLOPS. Делим тариф на FP16-производительность. Чем меньше рублей за TFLOPS — тем выгоднее.

Подход 2 — стоимость миллиона токенов. Берём бенчмарк TensorRT-LLM на Llama-3 70B FP8, считаем токенов/час и делим на тариф. По этой метрике H200 выигрывает у H100 даже при +25 % к тарифу: 1.9× прирост снижает себестоимость токена на 30–40 %. B200 и B300 опережают H200 ещё в 2–3 раза.

Главный тезис: оценивайте GPU не по цене в час, а по цене за выполненную работу.

Почему аренда GPU в Cloud4Y выгоднее покупки

Для российского бизнеса покупка GPU-инфраструктуры в 2026 году — это не просто крупные капзатраты. Это логистика параллельного импорта, задержки на месяцы, сложности с гарантиями.

•       Капзатраты → операционные. При аренде вы платите только за реально использованные часы.

•       ЦОД в РФ и за рубежом. Москва, Новосибирск, Турция, Германия, Нидерланды.

•       ФЗ-152, ФЗ-187, PCI DSS, CSA STAR. Сертификации, которых у зарубежных облаков под российское регулирование нет.

•       Почасовая тарификация. Платите за часы под GPU, а не за простаивающую карту.

•       Быстрая смена поколения. Переключение на новый тариф без закупки, монтажа и списания.

Заключение

Выбор GPU — не про «берём самое новое». Правильная формула: берём карту, у которой себестоимость единицы результата минимальна. Для моделей 70B+ — H200 или Blackwell. Для 13–30B — H100 или A6000 Ada. Для классического ML — V100 или A100. Для разработки и рендера — RTX 4090, 5090, A6000 Ada.

Cloud4Y даёт доступ ко всему диапазону: от V100 до B300, с почасовой оплатой и в рамках российского правового поля.

Подобрать конфигурацию: cloud4y.ru/cloud-hosting/gpu

Материал подготовлен на основе аналитики Exxact Corporation (ноябрь 2025) с расширением под полный парк GPU Cloud4Y. Данные по B300 уточнены по официальному техническому блогу NVIDIA (январь 2026).Теги:• gpu
• аренда
• аренда сервера
• сравнение gpu
• nvidiaХабы:• Блог компании Cloud4Y
• Видеокарты
• IT-инфраструктура
• Облачные сервисы
• Облачные вычисления