MLPerf Inference 4.1: первые бенчмарки Granite Rapids, B200, TPU v6e, Instinct MI300X и Turin

MLPerf Inference 4.1: первые бенчмарки Granite Rapids, B200, TPU v6e, Instinct MI300X и Turin
MLCommons опубликовали новую порцию бенчмарков из сектора инференса. MLCommons – консорциум различных производителей, целью которого является предоставление независимых и сопоставимых бенчмарков для оборудования центров обработки данных. Условия тестирования четко оговорены и снабжены необходимыми ограничениями.

Участники проводят тестирование на основе этих спецификаций, но все остальные участники могут проверить эти результаты на этапе Review Phase, так что никаких манипуляций здесь быть не может.

По сравнению с собственными тестами производителей, результаты MLCommons дают более достоверную базу для сравнения. В закрытой части тестировании (более строгие спецификации бенчмарков) практически отсутствуют оптимизации под конкретного производителя – например, в виде предварительного обучения на используемых данных.

В открытой части производители аппаратного и программного обеспечения могут вносить дополнительные оптимизации. Прежде чем мы подробно рассмотрим результаты и, в частности, сфокусируемся на новых ускорителях, вот ссылка на бенчмарки MLPerf Inference 4.

1 .
Опубликовано: 21:26, сентября 3, 2024 Рубрика: Наука и Технологии Источник: www.hardwareluxx.ru Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit
 
 
MLPerf Training 4.1: первое появление NVIDIA B200 и Google Trillium в обучении ИИ

MLPerf Training 4.1: первое появление NVIDIA B200 и Google Trillium в обучении ИИ Сегодня MLCommons представила актуальные результаты тренировки, которые впервые включают ускорители NVIDIA B200 и Google TPUv6p Trillium. И B200, и T …

Наука и Технологии 07:26, ноября 15, 2024 | hardwareluxx.ru
AMD представила облачного провайдера на базе Instinct MI300X

AMD представила облачного провайдера на базе Instinct MI300X Сегодня компания AMD официально сообщила о запуске Nscale — первого в мире облачного провайдера, полностью построенного на технологиях AMD и оснащённ …

Гаджеты 23:00, мая 2, 2024 | megaobzor.com
Delta Computers анонсировала первые российские OCP-серверы на базе Intel Xeon Sapphire Rapids и Emerald Rapids

Delta Computers анонсировала первые российские OCP-серверы на базе Intel Xeon Sapphire Rapids и Emerald Rapids Широко анонсированная программа импортозамещения в области ИТ-технологий хотя и приносит свои плоды, но сталкивается с серьёзными проблемами. Тем не …

Hardware 11:12, апреля 18, 2024 | 3dnews.ru
Сервер Lenovo ThinkSystem SR685a V3 с ускорителями Instinct MI300X от AMD

Сервер Lenovo ThinkSystem SR685a V3 с ускорителями Instinct MI300X от AMD В декабре прошлого года AMD завершила разработку ускорителей искусственного интеллекта и высокопроизводительных вычислений Instinct MI300X и MI300A . …

Наука и Технологии 05:42, апреля 25, 2024 | hardwareluxx.ru
Granite Rapids-D: Intel рассказала о Xeon 6 SoC

Granite Rapids-D: Intel рассказала о Xeon 6 SoC Еще в феврале этого года Intel впервые анонсировала сетевой и edge вариант процессоров Xeon 6 . Granite Ridge-D использует производительные ядра и со …

Наука и Технологии 21:26, сентября 3, 2024 | hardwareluxx.ru
1,5 Тбайт HBM3: AMD Instinct MI300X стали доступны в облаке Microsoft Azure

1,5 Тбайт HBM3: AMD Instinct MI300X стали доступны в облаке Microsoft Azure Корпорация Microsoft сообщила о доступности инстансов Azure ND MI300X v5 на базе ускорителей AMD Instinct MI300X. Отмечается, что это качественно нов …

Hardware 15:42, мая 22, 2024 | 3dnews.ru
Утечка информации показала 128-ядерный процессор Granite Rapids Xeon 6 на 500 Вт

Утечка информации показала 128-ядерный процессор Granite Rapids Xeon 6 на 500 Вт Intel увеличивает количество ядер, но при этом повышает TDP. Yuuki_ans на сайте X (бывший Twitter) опубликовал утечку слайдов, на которых изображены …

Наука и Технологии 17:48, апреля 19, 2024 | itzine.ru
Granite Rapids-WS: Intel делает новую попытку в сегменте процессоров для рабочих станций

Granite Rapids-WS: Intel делает новую попытку в сегменте процессоров для рабочих станций Текущая платформа Intel на базе Sapphire Rapids-WS фактически проигрывает конкурентам — в частности, новейшим AMD Ryzen Threadripper 9000 (тест) . До …

Наука и Технологии 21:26, октября 2, 2025 | hardwareluxx.ru
Пока обычные пользователи получат новые процессоры Intel без Hyper-Threading, новые Xeon нарастят количество ядер вдвое. Появились подробности о Gran

Пока обычные пользователи получат новые процессоры Intel без Hyper-Threading, новые Xeon нарастят количество ядер вдвое. Появились подробности о Granite Rapids-AP Компания Intel недавно формально анонсировала серверные процессоры Xeon 6, которые являются шестым поколением Xeon Scalable. Сегодня же о них появили …

Наука и Технологии 21:06, апреля 17, 2024 | ixbt.com
Первые бенчмарки Zen 5: удвоенная пропускная способность кэшей L1 и L2

Первые бенчмарки Zen 5: удвоенная пропускная способность кэшей L1 и L2 AMD пока не давала подробных комментариев по поводу изменений в архитектуре Zen 5. AMD официально анонсировала процессоры Ryzen 9000 на базе новой ми …

Наука и Технологии 17:12, июня 10, 2024 | hardwareluxx.ru
AMD рассказала о процессорах EPYC Turin на Zen 5 и Turin Dense на Zen 5c  в разы быстрее Intel Xeon

AMD рассказала о процессорах EPYC Turin на Zen 5 и Turin Dense на Zen 5c — в разы быстрее Intel Xeon Помимо анонса настольных процессоров Ryzen 9000 и мобильных Ryzen AI 300, компания AMD на выставке Computex 2024 рассказала о грядущих серверных проц …

Hardware 11:48, июня 3, 2024 | 3dnews.ru
Snapdragon X Elite: первые предварительные бенчмарки показывают неоднозначные результаты

Snapdragon X Elite: первые предварительные бенчмарки показывают неоднозначные результаты Контролируемые бенчмарки на эталонной платформе, выбранные производителем и без возможности вмешательства редакторов: таковы бенчмарки, опубликованны …

Наука и Технологии 00:30, июня 9, 2024 | hardwareluxx.ru
Intel выпустит 128-ядерные Xeon Granite Rapids в третьем квартале этого года, а 288-ядерные Xeon Sierra Forest  в первом квартале 2025-го

Intel выпустит 128-ядерные Xeon Granite Rapids в третьем квартале этого года, а 288-ядерные Xeon Sierra Forest — в первом квартале 2025-го Компания Intel выпустит серверные процессоры Xeon 6900P (Granite Rapids), у которых будет до 128 производительных P-ядер в третьем квартале текущего …

Hardware 07:42, июня 5, 2024 | 3dnews.ru
AMD EPYC Turin: ядра Zen 5 в 12 CCD с одним IOD

AMD EPYC Turin: ядра Zen 5 в 12 CCD с одним IOD У AMD сегодня много новостей: новые настольные процессоры Ryzen 9000 , две модели из новой серии Ryzen AI 300 и ускорители Instinct MI325X в сегменте …

Наука и Технологии 09:30, июня 4, 2024 | hardwareluxx.ru
Уже рутина: NVIDIA снова улучшила результаты в ИИ-бенчмарке MLPerf Training

Уже рутина: NVIDIA снова улучшила результаты в ИИ-бенчмарке MLPerf Training Вычислительные платформы NVIDIA снова продемонстрировали высокую производительность, на этот раз в свежих тестах MLPerf Training v4.0. Так, суперкомп …

Hardware 21:06, июня 12, 2024 | 3dnews.ru
FSR 3 в Cyberpunk 2077 после патча 2.13: сравнение изображений и бенчмарки

FSR 3 в Cyberpunk 2077 после патча 2.13: сравнение изображений и бенчмарки Вчера вышел патч 2.13 для Cyberpunk 2077: Phantom Liberty, добавляющий, помимо прочего, поддержку FidelityFX Super Resolution 3 (FSR 3) и Frame Gener …

Наука и Технологии 14:26, сентября 16, 2024 | hardwareluxx.ru
Илон Маск готовит для xAI суперкомпьютер c 300 тыс. NVIDIA B200, но пока придётся обойтись H100

Илон Маск готовит для xAI суперкомпьютер c 300 тыс. NVIDIA B200, но пока придётся обойтись H100 Илон Маск (Elon Musk) заявляет, что к лету 2025 года его ИИ-стартап xAI введёт в эксплуатацию суперкомпьютер c 300 тыс. новейших ускорителей NVIDIA B …

Hardware 08:06, июня 5, 2024 | 3dnews.ru
Sapphire Rapids Refresh: еще больше ядер для рабочих станций

Sapphire Rapids Refresh: еще больше ядер для рабочих станций Весной прошлого года компания Intel представила процессоры Xeon W3400 и W2400 для рабочих станций. Мы уже тестировали топовую модель с 56 ядрами в ви …

Наука и Технологии 21:26, сентября 3, 2024 | hardwareluxx.ru
NVIDIA представила ускорители GB200 NVL2, платформы HGX B100/B200 и анонсировала экосистему следуюшего поколения Vera Rubin

NVIDIA представила ускорители GB200 NVL2, платформы HGX B100/B200 и анонсировала экосистему следуюшего поколения Vera Rubin NVIDIA сообщила о широкой отраслевой поддержке своей архитектуры нового поколения Blackwell. Эти ускорители, а также чипы Grace легли в основу многоч …

Hardware 22:00, июня 2, 2024 | 3dnews.ru
Гравитон представил российские серверы на базе Intel Xeon Emerald Rapids

«Гравитон» представил российские серверы на базе Intel Xeon Emerald Rapids Российский производитель вычислительной техники «Гравитон» анонсировал одни из первых отечественных серверов на аппаратной платформе Inte …

Hardware 03:30, апреля 28, 2024 | 3dnews.ru
IBM выпустит новое семейство моделей искусственного интеллекта Granite

IBM выпустит новое семейство моделей искусственного интеллекта Granite IBM выпустит новое семейство моделей искусственного интеллекта Granite в виде программного обеспечения с открытым исходным кодом и заключает сделку с …

Экономика и Финансы 21:30, мая 22, 2024 | finam.ru
Intel Baseline Profile: новые бенчмарки в соответствии со спецификациями Intel

Intel Baseline Profile: новые бенчмарки в соответствии со спецификациями Intel Вопрос предполагаемой деградации нынешних процессоров Intel 13-го и 14-го поколений Core , они же Raptor Lake и Raptor Lake Refresh, продолжает остав …

Наука и Технологии 00:12, апреля 23, 2024 | hardwareluxx.ru
AMD приходится сравнивать монструозные 128-ядерные CPU Epyc с 64-ядерными Intel, потому что большего вторая не предлагает. Представлены Epyc поколени

AMD приходится сравнивать монструозные 128-ядерные CPU Epyc с 64-ядерными Intel, потому что большего вторая не предлагает. Представлены Epyc поколения Turin За анонсом новых настольных процессоров Ryzen 9000 и мобильных Ryzen AI 300 незаметно прошел анонс новых серверных CPU Epyc поколения Turin. А они вы …

Наука и Технологии 20:36, июня 3, 2024 | ixbt.com
Ryzen 9000 или Granite Ridge: известны почти все подробности (обновление)

Ryzen 9000 или Granite Ridge: известны почти все подробности (обновление) В последние дни появилось довольно много слухов по разным направлениям. Не только о видеокарте NVIDIA GeForce RTX 5090 или Blackwell , но и о грядущи …

Наука и Технологии 08:42, июня 2, 2024 | hardwareluxx.ru