Поскольку предприятия быстро внедряют генеративный искусственный интеллект, спрос на надежную инфраструктуру центров обработки данных растет. Обучение больших языковых моделей – сложная задача, но предоставление услуг на базе LLM в режиме реального времени – задача еще более сложная. Результаты NVIDIA в тестах MLPerf Inference версии 4.1 свидетельствуют о ее лидерстве в преодолении этих проблем.
Дебютный графический процессор Blackwell продемонстрировал исключительную производительность, особенно в рабочей нагрузке Llama 2 70B. Его успех обусловлен движком Transformer второго поколения и тензорными ядрами FP4, которые значительно повышают способность платформы быстро и эффективно справляться со сложными задачами ИИ.
Источник: https://www.electropages.com/blog/2024/08/nvidia-blackwell-gpu-sets-new-standard-ai-performance
