Поскольку предприятия быстро внедряют генеративный искусственный интеллект, спрос на надежную инфраструктуру центров обработки данных растет. Обучение больших языковых моделей – сложная задача, но предоставление услуг на базе LLM в режиме реального времени – задача еще более сложная. Результаты NVIDIA в тестах MLPerf Inference версии 4.1 свидетельствуют о ее лидерстве в преодолении этих проблем.
Дебютный графический процессор Blackwell продемонстрировал исключительную производительность, особенно в рабочей нагрузке Llama 2 70B. Его успех обусловлен движком Transformer второго поколения и тензорными ядрами FP4, которые значительно повышают способность платформы быстро и эффективно справляться со сложными задачами ИИ.
Источник: https://www.electropages.com/blog/2024/08/nvidia-blackwell-gpu-sets-new-standard-ai-performance
Если вам понравился материал, кликните значок - вы поможете нам узнать, каким статьям и новостям следует отдавать предпочтение. Если вы хотите обсудить материал - не стесняйтесь оставлять свои комментарии : возможно, они будут полезны другим нашим читателям!
