Нагрузки, связанные с ИИ, всегда выделяются повышенной ресурсоёмкостью, но из-за того, что это весьма молодая сфера, порой достаточно просто оптимизировать ПО или найти какой-то новый способ, и всё начинает работать намного быстрее. К примеру, Radeon RX 7900 XTX, которая Stable Diffusion теперь на порядок быстрее, чем раньше. А новый эксперимент показывает, что 100-долларовый процессор может работать с ИИ намного быстрее, чем можно было бы подумать.
Энтузиаст Ttiotech смог «превратить» Ryzen 5 4600G, который можно купить менее чем за 100 долларов, в видеокарту с 16 ГБ памяти. Само собой, не в прямом смысле.
Суть в том, что данному APU через настройки BIOS системной платы можно выделить те самые 16 ГБ оперативной памяти, а для задач ИИ очень важна именно память. Некоторые платы могут позволить выделить APU и 32 ГБ ОЗУ, но таких тестов пока нет. Также нужна система Linux и поддержка процессором AMD ROCm. К примеру, можно использовать и более современные Ryzen G.
Тесты Stable Diffusion показали, что при правильной настройке процессор может генерировать 50-шаговое изображение 512x512 примерно за 1 минуту 50 секунд, что лучше, чем в случае некоторых более мощных CPU.
Само собой, Ryzen 5 4600G не обгонит монструозные видеокарты за сотни и тысячи долларов, но всё же он и стоит в разы меньше.