Искусственный Интеллект Микропроцессоры Промышленные и коммерческие компьютеры

Графический процессор NVIDIA Blackwell устанавливает новый стандарт производительности искусственного интеллекта

Графический процессор Blackwell от NVIDIA успешно зарекомендовал себя в последних тестах MLPerf Inference v4.1, установив новый стандарт производительности генеративного искусственного интеллекта. Платформа Blackwell обеспечила в 4 раза большую производительность на Llama 2 70B large language model (LLM) по сравнению с ее предшественником, графическим процессором NVIDIA H100 Tensor Core. Этот прорыв подчеркивает доминирующее положение NVIDIA в области технологий искусственного интеллекта и знаменует собой важную веху в развитии инноваций в центрах обработки данных.

458 0 0

печатать

Графический процессор NVIDIA Blackwell устанавливает новый стандарт производительности искусственного интеллекта

Поскольку предприятия быстро внедряют генеративный искусственный интеллект, спрос на надежную инфраструктуру центров обработки данных растет. Обучение больших языковых моделей – сложная задача, но предоставление услуг на базе LLM в режиме реального времени – задача еще более сложная. Результаты NVIDIA в тестах MLPerf Inference версии 4.1 свидетельствуют о ее лидерстве в преодолении этих проблем.

Дебютный графический процессор Blackwell продемонстрировал исключительную производительность, особенно в рабочей нагрузке Llama 2 70B. Его успех обусловлен движком Transformer второго поколения и тензорными ядрами FP4, которые значительно повышают способность платформы быстро и эффективно справляться со сложными задачами ИИ.

Источник: https://www.electropages.com/blog/2024/08/nvidia-blackwell-gpu-sets-new-standard-ai-performance

458 0 0