NVIDIA RTX PRO 6000 BSE vs H100 NVL: какой прирост на разных нагрузках дает NVFP4

Графический ускоритель NVIDIA RTX PRO 6000 Blackwell Server Edition в сравнении с более распространенными H100 интересен прежде всего аппаратной поддержкой NVFP4 — четырехбитного формата весов с двухуровневым масштабированием, представленного в 2025 году. Как переход моделей на NVFP4-квантизацию влияет на производительность? Что и при каких профилях…
Читать на сайте источника ↗