NVIDIA Blackwell: новые форматы данных обеспечивают большую производительность ядер Tensor

NVIDIA Blackwell: новые форматы данных обеспечивают большую производительность ядер Tensor
В преддверии HotChips 2024 компания NVIDIA уже рассказывала об инфраструктуре Blackwell в виде интерконнекта NVLink и соответствующих коммутаторов . На самой конференции NVIDIA рассказала немного больше об архитектуре Blackwell и встроенных в нее ядрах Tensor.

Хотя они по-прежнему могут вычислять большие матрицы за один прогон, благодаря новым форматам данных значительно увеличили пропускную способность. С помощью новой системы квантования NVIDIA намерена значительно увеличить производительность инференса при работе с большими моделями.

Квантование – это тип сжатия модели. Для сопоставимой плотности информации (например, качества изображения, созданного ИИ) теперь требуется меньше данных, что естественным образом ускоряет процесс инференса.

По этой причине в последние месяцы производители программного и аппаратного обеспечения стараются использовать такие форматы данных, как INT8, FP8 и даже более простые форматы, такие как FP4 и INT4.

До сих пор преимущество в производительности было ограниченным, поскольку для вычислений в INT4 или FP4 .

Опубликовано: 21:26, сентября 3, 2024 Рубрика: Наука и Технологии Источник: www.hardwareluxx.ru Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit
 
 
До 288 ядер и TDP до 500 Вт  это новые процессоры Intel. Xeon 6 наконец-то перегоняют AMD Epyc по количеству ядер

До 288 ядер и TDP до 500 Вт — это новые процессоры Intel. Xeon 6 наконец-то перегоняют AMD Epyc по количеству ядер Кроме мобильных процессоров Lunar Lake компания Intel также представила и серверные Xeon нового поколения, которые будут конкурировать с AMD Epyc пок …

Наука и Технологии 21:36, июня 4, 2024 | ixbt.com
Supermicro расширила решения NVIDIA Blackwell, представив системы NVIDIA HGX B300 с жидкостным охлаждением, в форм-факторах 4U и 2-OU (OCP)

Supermicro расширила решения NVIDIA Blackwell, представив системы NVIDIA HGX B300 с жидкостным охлаждением, в форм-факторах 4U и 2-OU (OCP) Компания Super Micro Computer, Inc. (SMCI), поставщик комплексных ИТ-решений для ИИ,... Сообщение Supermicro расширила решения NVIDIA Blackwell, …

Наука и Технологии 21:26, декабря 12, 2025 | gadgets.su
NVIDIA рассказала о Blackwell и FP64

NVIDIA рассказала о Blackwell и FP64 На презентации графического процессора Blackwell компания NVIDIA говорила в основном о производительности вычислений ИИ. Сегмент HPC с его требования …

Наука и Технологии 18:18, мая 14, 2024 | hardwareluxx.ru
2,4 ZFLOPS: Oracle устанавливает 131.072 GPU Blackwell от NVIDIA

2,4 ZFLOPS: Oracle устанавливает 131.072 GPU Blackwell от NVIDIA Компания Oracle объявила о создании одного из крупнейших кластеров облачных вычислений. Кластер оснастят до 131.072 GPU Blackwell от NVIDIA, что позв …

Наука и Технологии 14:26, сентября 16, 2024 | hardwareluxx.ru
С производством Blackwell все в порядке: NVIDIA делится дизайнами с OCP

С производством Blackwell все в порядке: NVIDIA «делится» дизайнами с OCP На саммите Open Compute Project (OCP) компания NVIDIA объявила, что производство GPU Blackwell вывели на плановую мощность ("in full production"), оп …

Наука и Технологии 21:26, октября 19, 2024 | hardwareluxx.ru
NVIDIA представила RTX Pro 4000 SFF и RTX Pro 2000: компактные видеокарты Blackwell

NVIDIA представила RTX Pro 4000 SFF и RTX Pro 2000: компактные видеокарты Blackwell На выставке SIGGRAPH, посвящённой профессиональным решениям в области графики, фото- и видеопроизводства, компания NVIDIA анонсировала две новые виде …

Наука и Технологии 21:26, августа 17, 2025 | hardwareluxx.ru
Ryzen AI 7 (Pro) 360 в базе данных Geekbench: 35 ядер

Ryzen AI 7 (Pro) 360 в базе данных Geekbench: 3+5 ядер На выставке Computex компания AMD представила первые два процессора Ryzen AI серии 300 , которые оснащены ядрами Zen 5. Помимо увеличения количества …

Наука и Технологии 14:26, июля 14, 2024 | hardwareluxx.ru
GPU Blackwell: NVIDIA поставляет первые системы для OpenAI и Microsoft (обновление)

GPU Blackwell: NVIDIA поставляет первые системы для OpenAI и Microsoft (обновление) В 2025 году NVIDIA планирует поставить сотни тысяч графических процессоров Blackwell, производство которых должно быть в полном разгаре после небольш …

Наука и Технологии 21:26, октября 19, 2024 | hardwareluxx.ru
Слухи о NVIDIA Blackwell: GeForce RTX 5080 выйдет раньше RTX 5090

Слухи о NVIDIA Blackwell: GeForce RTX 5080 выйдет раньше RTX 5090 Слухи о новых настольных видеокартах NVIDIA ходят уже давно. По крайней мере, флагманская модель GeForce RTX 5090 должна выйти в конце этого года. Ни …

Наука и Технологии 22:30, мая 7, 2024 | hardwareluxx.ru
NVIDIA RTX PRO 6000 Blackwell: 96 ГБ GDDR7 и GB202 почти на полную мощность

NVIDIA RTX PRO 6000 Blackwell: 96 ГБ GDDR7 и GB202 почти на полную мощность За неделю до старта внутренней выставки GTC в Сеть просочились первые подробности о новинке, которую NVIDIA планирует представить. Уже появились наме …

Наука и Технологии 21:26, марта 10, 2025 | hardwareluxx.ru
NVIDIA заработала более $30 млрд., несмотря на проблемы производства Blackwell

NVIDIA заработала более $30 млрд., несмотря на проблемы производства Blackwell NVIDIA сообщила об очередном рекордном квартале. Во втором финансовом квартале 2025 года объем продаж NVIDIA составил чуть более $30 млрд. (30,04 млр …

Наука и Технологии 21:26, сентября 3, 2024 | hardwareluxx.ru
Google Tensor G5 оказался слабее чипа Tensor G4 в игровых задачах

Google Tensor G5 оказался слабее чипа Tensor G4 в игровых задачах Одной из проблем называют перегрев чипа и, как следствие, снижение тактовой частоты из-за троттлинга. Но более вероятный фактор — отсутствие актуальн …

Интернет и Игры 14:26, сентября 2, 2025 | itndaily.ru
Основная презентация NVIDIA на Computex 2025: GB300 Blackwell Ultra, проект Stargate и серверы RTX PRO

Основная презентация NVIDIA на Computex 2025: GB300 Blackwell Ultra, проект Stargate и серверы RTX PRO В рамках своей презентации на Computex 2025 компания NVIDIA не только официально анонсировала видеокарту GeForce RTX 5060 (без предварительных тестов …

Наука и Технологии 07:26, мая 21, 2025 | hardwareluxx.ru
Пока обычные пользователи получат новые процессоры Intel без Hyper-Threading, новые Xeon нарастят количество ядер вдвое. Появились подробности о Gran

Пока обычные пользователи получат новые процессоры Intel без Hyper-Threading, новые Xeon нарастят количество ядер вдвое. Появились подробности о Granite Rapids-AP Компания Intel недавно формально анонсировала серверные процессоры Xeon 6, которые являются шестым поколением Xeon Scalable. Сегодня же о них появили …

Наука и Технологии 21:06, апреля 17, 2024 | ixbt.com
NVIDIA GB10 Grace Blackwell Superchip: Lenovo представит ThinkStation PGX в третьем квартале 2025 года

NVIDIA GB10 Grace Blackwell Superchip: Lenovo представит ThinkStation PGX в третьем квартале 2025 года На выставках CES и GTC в марте NVIDIA не раз демонстрировала гибридный процессор NVIDIA GB10 Grace Blackwell Superchip , который в будущем должен ста …

Наука и Технологии 07:26, мая 19, 2025 | hardwareluxx.ru
В видеоленте Авито появились новые форматы рекламы

В видеоленте «Авито» появились новые форматы рекламы В мобильном приложении «Авито» появились новые форматы продвижения — медийный и нативный баннеры. Они показываются в видеоленте для продавцов и покуп …

Наука и Технологии 00:26, августа 29, 2024 | iguides.ru
Выход Nvidia Blackwell увеличит спрос на передовую упаковку чипов TSMC CoWoS более чем на 150 % в 2024 году

Выход Nvidia Blackwell увеличит спрос на передовую упаковку чипов TSMC CoWoS более чем на 150 % в 2024 году В этом году Nvidia выпустит семейство ускорителей вычислений нового поколения Blackwell, в котором будут представлены решения как с одними лишь графи …

Hardware 17:00, апреля 17, 2024 | 3dnews.ru
Самый простой сервер Nvidia DGX GB200 Blackwell будет стоить 3 млн долларов. Массовое производство стартует во втором полугодии

Самый простой сервер Nvidia DGX GB200 Blackwell будет стоить 3 млн долларов. Массовое производство стартует во втором полугодии Nvidia уже представила ускорители Blackwell для ИИ, но на рынок они пока не поступили. Как сообщается, массовое производство серверов DGX GB200 старт …

Наука и Технологии 23:54, мая 3, 2024 | ixbt.com
Роскино разработает новые форматы поддержки продвижения национальных фильмов

«Роскино» разработает новые форматы поддержки продвижения национальных фильмов «Роскино» вводит новые форматы поддержки продвижения национальных фильмов, их механизм прорабатывается …

Общие новости 16:00, июня 13, 2024 | nsn.fm
Глава Microsoft о будущем игр: новые форматы, облака и конкуренция с короткими видео

Глава Microsoft о будущем игр: новые форматы, «облака» и конкуренция с короткими видео «Мы хотим, чтобы наши игры были доступны на любой платформе — так же, как Office. Неважно, где играет человек — на телевизоре, в облаке или на консол …

Интернет и Игры 00:26, октября 31, 2025 | itndaily.ru
Новые процессоры Intel Xeon 6  до 288 ядер и TDP до 500 Вт

Новые процессоры Intel Xeon 6 – до 288 ядер и TDP до 500 Вт На выставке Computex 2024 компания Intel представила новое семейство серверных процессоров, получившее название Xeon 6. Из семейства чипов Xeon первы …

Гаджеты 15:54, июня 5, 2024 | mobidevices.com
Свежее обновление Windows 11 уронило производительность видеокарт Nvidia GeForce

Свежее обновление Windows 11 уронило производительность видеокарт Nvidia GeForce В этом месяце Microsoft выпустила очередное обновление для Windows 11, оказавшееся весьма спорным. Дело в том, что пакет KB5074109 содержит большое к …

Software 07:26, января 19, 2026 | 3dnews.ru
Nova Lake-AX: 28 ядер CPU и 48 ядер GPU  слухи о флагманском чипе Intel

Nova Lake-AX: 28 ядер CPU и 48 ядер GPU — слухи о флагманском чипе Intel Вчера появились первые сообщения о том, что Intel работает над новым высокопроизводительным чипом Nova Lake-AX с мощной интегрированной графикой. Эта …

Наука и Технологии 21:26, июля 20, 2025 | hardwareluxx.ru
GTC 25 и Blackwell Ultra, а также Rubin: в середине марта нас ждут новые подробности

GTC 25 и Blackwell Ultra, а также Rubin: в середине марта нас ждут новые подробности Сегодня, в рамках последних результатов MLPerf, представили первые независимые бенчмарки производительности обучения ускорителя B200 от NVIDIA. Гиган …

Наука и Технологии 07:26, ноября 15, 2024 | hardwareluxx.ru