Nvidia анонсирует графический процессор H200: 141 ГБ HBM3e с пропускной способностью 4,8 ТБ/с

Nvidia представила новый продукт в своей линейке GPU — H200, ориентированный на следующее поколение суперкомпьютеров для искусственного интеллекта. Этот чип, представленный на конференции Supercomputing 23, является наиболее мощным в истории компании, расширяя возможности уже существующей архитектуры Hopper H100.

Самым заметным нововведением в H200 является значительное увеличение объема памяти и пропускной способности каждого GPU. Новый H200 оснащен 141 ГБ памяти HBM3e с пропускной способностью 4,8 ТБ/с, что на 76% больше по объему и на 43% больше по пропускной способности, чем у предшественника H100.

Важно отметить, что сырая вычислительная мощность H200 не претерпела значительных изменений по сравнению с H100. Однако Nvidia утверждает, что для задач, которые выигрывают от увеличения объема памяти, таких как языковые модели типа GPT-3, новый H200 показывает до 18-кратное увеличение производительности по сравнению с предыдущей моделью A100, тогда как H100 был всего на 11 раз быстрее A100.

Кроме того, компания анонсировала выход GH200, который сочетает в себе GPU H200 и CPU Grace. Каждый «суперчип» GH200 будет содержать объединенную память объемом 624 ГБ, что значительно больше, чем у предыдущей версии GH100.

Подробности о возможных изменениях в части CPU пока остаются неизвестными. Тем не менее, Nvidia предоставила сравнения между GH200 и «современной двухпроцессорной конфигурацией x86», хотя эти данные следует воспринимать с некоторой осторожностью.

Эти новинки от Nvidia обещают принести значительные улучшения в области искусственного интеллекта и вычислительных технологий, особенно в контексте разработки и эксплуатации суперкомпьютеров следующего поколения.