Суперкомпьютер Google для обучения ИИ быстрее аналогичного решения на GPU Nvidia. Так утверждает сама Google

Она сравнивает TPU v4 с Nvidia A100

Компания Google утверждает, что её суперкомпьютер почти вдвое быстрее сопоставимого по размерам устройства на основе GPU Nvidia A100 в задачах обучения искусственного интеллекта.  

Поисковый гигант опубликовал научную статью, где описал свой суперкомпьютер, основанный на специализированных чипах TPU v4. В одной системе Google объединила 4000 таких процессоров. 

В итоге такое решение в 1,7 раза быстрее и в 1,9 раза энергоэффективнее, чем система на основе Nvidia A100. При этом у Nvidia уже вышел намного более производительный ускоритель H100, но дело в том, что актуальное поколение TPU компания Google начала использовать ещё с 2020 года, так что сравнение с A100 более чем корректно. При этом Google намекает, что уже работает над новым поколением TPU, которое сможет конкурировать с H100, но подробностей на этот счёт пока нет.