MLPerf Training 4.1: первое появление NVIDIA B200 и Google Trillium в обучении ИИ

MLPerf Training 4.1: первое появление NVIDIA B200 и Google Trillium в обучении ИИ
Сегодня MLCommons представила актуальные результаты тренировки, которые впервые включают ускорители NVIDIA B200 и Google TPUv6p Trillium. И B200, и TPUv6e дебютировали в тестах Inference 4.1 . Однако к инференсу предъявляют другие требования, чем к обучению.

NVIDIA изначально разрабатывала GPU Blackwell с основным фокусом на инференсе. Но, конечно, с тренировкой он тоже должен справляться. В то время как для инференса в версии 4.1 мы впервые увидели результаты Instinct MI300X, они отсутствуют в результатах обучения.

Здесь в бенчмарках доминируют NVIDIA и Google, которые используют огромные кластеры для обучения. Например, для TPUv5 это 1.024 узла (Pod) с общим числом 4.

096 ускорителей. У NVIDIA речь идёт даже о суперкомпьютере EOS с 1.452 узлами и 11.616 ускорителями H100. Для предварительной версии TPUv6p, также известного как Trillium, Google пошла настолько далеко, что здесь работают вместе 768 узлов .

Опубликовано: 07:26, ноября 15, 2024 Рубрика: Наука и Технологии Источник: www.hardwareluxx.ru Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit
 
 
Уже рутина: NVIDIA снова улучшила результаты в ИИ-бенчмарке MLPerf Training

Уже рутина: NVIDIA снова улучшила результаты в ИИ-бенчмарке MLPerf Training Вычислительные платформы NVIDIA снова продемонстрировали высокую производительность, на этот раз в свежих тестах MLPerf Training v4.0. Так, суперкомп …

Hardware 21:06, июня 12, 2024 | 3dnews.ru
MLPerf Inference 4.1: первые бенчмарки Granite Rapids, B200, TPU v6e, Instinct MI300X и Turin

MLPerf Inference 4.1: первые бенчмарки Granite Rapids, B200, TPU v6e, Instinct MI300X и Turin MLCommons опубликовали новую порцию бенчмарков из сектора инференса. MLCommons – консорциум различных производителей, целью которого является предост …

Наука и Технологии 21:26, сентября 3, 2024 | hardwareluxx.ru
Илон Маск считает, что покупать сейчас ускорители Nvidia H100 уже не имеет смысла. Он собирается купить 300 000 Nvidia B200 для своей компании xAI

Илон Маск считает, что покупать сейчас ускорители Nvidia H100 уже не имеет смысла. Он собирается купить 300 000 Nvidia B200 для своей компании xAI Илон Маск заявил, что компания xAI получит около 300 000 ускорителей Nvidia B200 уже через год. При ранее названной главой Nvidia цене в 30-40 тысяч …

Наука и Технологии 20:36, июня 3, 2024 | ixbt.com
Google TPU Trillium: для больших языковых моделей ИИ

Google TPU Trillium: для больших языковых моделей ИИ На вчерашней конференции Google I/O основное внимание было уделено моделям искусственного интеллекта Gemini , которые должны работать на устройствах …

Наука и Технологии 18:12, мая 15, 2024 | hardwareluxx.ru
Илон Маск готовит для xAI суперкомпьютер c 300 тыс. NVIDIA B200, но пока придётся обойтись H100

Илон Маск готовит для xAI суперкомпьютер c 300 тыс. NVIDIA B200, но пока придётся обойтись H100 Илон Маск (Elon Musk) заявляет, что к лету 2025 года его ИИ-стартап xAI введёт в эксплуатацию суперкомпьютер c 300 тыс. новейших ускорителей NVIDIA B …

Hardware 08:06, июня 5, 2024 | 3dnews.ru
Google представила мощнейший серверный ИИ-процессор Trillium  почти в пять раз быстрее предшественника

Google представила мощнейший серверный ИИ-процессор Trillium — почти в пять раз быстрее предшественника В рамках конференции Google I/O компания Google представила шестое поколение своего фирменного тензорного процессора (Tensor Processing Unit) с кодов …

Hardware 04:12, мая 16, 2024 | 3dnews.ru
NVIDIA представила ускорители GB200 NVL2, платформы HGX B100/B200 и анонсировала экосистему следуюшего поколения Vera Rubin

NVIDIA представила ускорители GB200 NVL2, платформы HGX B100/B200 и анонсировала экосистему следуюшего поколения Vera Rubin NVIDIA сообщила о широкой отраслевой поддержке своей архитектуры нового поколения Blackwell. Эти ускорители, а также чипы Grace легли в основу многоч …

Hardware 22:00, июня 2, 2024 | 3dnews.ru
Первое появление на публике: Кэти Перри и Джастин Трюдо подтвердили роман

Первое появление на публике: Кэти Перри и Джастин Трюдо подтвердили роман Кэти Перри вчера исполнился 41 год. Свой день рождения она отметила с новым возлюбленным — 53-летним бывшим премьер-министром Канады Джастином Трюдо. …

Знаменитости 00:26, октября 27, 2025 | spletnik.ru
Утечки чехлов подтвердили появление сразу трех моделей флагманских Google Pixel 9 в этом году

Утечки чехлов подтвердили появление сразу трех моделей флагманских Google Pixel 9 в этом году За почти полгода до официального анонса Pixel 9, в сеть просочились фотографии чехлов грядущих новинок. По данным Android Central, чехлы были получен …

Наука и Технологии 12:24, мая 7, 2024 | ferra.ru
TPU-чипы Google могут составить серьезную конкуренцию NVIDIA

TPU-чипы Google могут составить серьезную конкуренцию NVIDIA NVIDIA уже несколько лет остается безусловным лидером в сфере ИИ-чипов, однако на горизонте может появиться серьезный конкурент. …

Наука и Технологии 07:26, декабря 1, 2025 | ilenta.com
Google, Microsoft, OpenAI и Nvidia инвестируют более 31 млрд в ИТ-инфраструктуру Великобритании

Google, Microsoft, OpenAI и Nvidia инвестируют более £31 млрд в ИТ-инфраструктуру Великобритании Microsoft, OpenAI и ряд других американских компаний объявили о планах направить на развитие технологической инфраструктуры Великобритании миллиарды …

Hardware 14:28, сентября 17, 2025 | 3dnews.ru
Для борьбы с монополией Nvidia NVLink. AMD, Google, Microsoft и другие представили открытый отраслевой стандарт UALink

Для борьбы с монополией Nvidia NVLink. AMD, Google, Microsoft и другие представили открытый отраслевой стандарт UALink Гиганты рынка объединили усилия, чтобы выпустить универсальный стандарт для борьбы с Nvidia NVLink. И теперь этот стандарт под названием Ultra Accele …

Наука и Технологии 16:54, июня 1, 2024 | ixbt.com
Nvidia добавила в ChatRTX голосовой ввод, поддержку нейросети Google Gemma и поиск фотографии на ПК с помощью OpenAI CLIP

Nvidia добавила в ChatRTX голосовой ввод, поддержку нейросети Google Gemma и поиск фотографии на ПК с помощью OpenAI CLIP Компания Nvidia обновила своё приложение ChatRTX для запуска локальных ИИ-чат-ботов, добавив поддержку новых ИИ-моделей. Изначально приложение предла …

Hardware 00:48, мая 2, 2024 | 3dnews.ru
Nvidia выпустила драйвер с улучшениями для свежих игр и обновила Nvidia App поддержкой безопасного разгона

Nvidia выпустила драйвер с улучшениями для свежих игр и обновила Nvidia App поддержкой безопасного разгона Компания Nvidia выпустила свежий пакет графического драйвера GeForce Game Ready 555.99 WHQL. В него добавлена поддержка DLSS 3 и Reflex для игр Pax D …

Software 00:06, июня 5, 2024 | 3dnews.ru
МТС создаст платформу для заработка на обучении ИИ

МТС создаст платформу для заработка на обучении ИИ Центр инноваций Future Crew, входящий в МТС, занимается разработкой сервиса, который будет предоставлять возможности сдачи и аренды мощностей компьют …

Бизнес 21:30, мая 15, 2024 | gazeta.ru
Supermicro расширила решения NVIDIA Blackwell, представив системы NVIDIA HGX B300 с жидкостным охлаждением, в форм-факторах 4U и 2-OU (OCP)

Supermicro расширила решения NVIDIA Blackwell, представив системы NVIDIA HGX B300 с жидкостным охлаждением, в форм-факторах 4U и 2-OU (OCP) Компания Super Micro Computer, Inc. (SMCI), поставщик комплексных ИТ-решений для ИИ,... Сообщение Supermicro расширила решения NVIDIA Blackwell, …

Наука и Технологии 21:26, декабря 12, 2025 | gadgets.su
Единственная доступная всем новинка Nvidia: в закусочных Dennys появился завтрак гениев Nvidia Breakfast Bytes

Единственная доступная всем новинка Nvidia: в закусочных Denny's появился «завтрак гениев» Nvidia Breakfast Bytes В кафе-закусочных сети Denny's появилась новая позиция — «завтрак гениев» под названием Nvidia Breakfast Bytes, о котором рассказыв …

Software 00:26, марта 30, 2025 | 3dnews.ru
Trust Nex  лидер в обучении торговли и инвестиций

Trust Nex — лидер в обучении торговли и инвестиций Международная консалтинговая компания Trust Nex завоевала репутацию одного из лучших провайдеров обучения для трейдеров и инвесторов. Она помогает св …

Наука и Технологии 07:26, ноября 9, 2024 | astera.ru
Лепс высказался об обучении детей за границей

Лепс высказался об обучении детей за границей У Григория Лепса четверо детей. Дочь Инга, уже совсем взрослая, от первого брака, училась в Лондоне. …

Знаменитости 20:48, мая 11, 2024 | news.rambler.ru
Мужчина подделал документ об обучении на тракториста

Мужчина подделал документ об обучении на тракториста В Петровске Саратовской области задержан 30-летний мужчина, который пытался получить удостоверение тракториста-машиниста по фальшивому документу об о …

Общество и Происшествия 14:26, сентября 29, 2025 | news.sarbc.ru
VR может помочь в обучении сотрудников работе с роботами

VR может помочь в обучении сотрудников работе с роботами Работа с роботами становится все более распространенной в отрасли переработки, помогая автоматизировать задачи и упрощая сложную работу. Но обучение …

Hardware 14:26, июня 1, 2025 | android-robot.com
Лётчик Литвинов рассказал об обучении воздушной дозаправке на Су-24

Лётчик Литвинов рассказал об обучении воздушной дозаправке на Су-24 В целях экономии пилоты не работают с полноценными танкерами. Отечественный асы и начинающие пилоты истребителей проходят обучение воздушной дозаправ …

Политика 11:00, апреля 17, 2024 | versiya.info
Более 100 смоленских организаций разместили предложения о целевом обучении

Более 100 смоленских организаций разместили предложения о целевом обучении Василий Анохин: Многие предприятия выплачивают "целевикам" стипендии от 10 000 рублей, обеспечивают общежитием и питанием …

Общие новости 21:36, июня 12, 2024 | smolensk-i.ru
РФРИТ намерен помочь в обучении российских цифровых атташе

РФРИТ намерен помочь в обучении российских цифровых атташе Говоря об основных направлениях развития IT-отрасли в ближайшее время, генеральный директор фонда Александр Павлов отметил, что в числе основных зада …

Экономика 06:48, июня 5, 2024 | tass.ru