VPS для ИИ: конфигурации и цены

Для задач машинного обучения конфигурация делится на две ветки. С ускорителем — когда модель считается на видеокарте, и решающим параметром становится объём видеопамяти: он определяет, какая модель вообще поместится. Без ускорителя — когда нагрузка ложится на процессор, и тогда важны число ядер и объём оперативной памяти.

Процессорный вариант дешевле и подходит для лёгких моделей, предобработки данных и редких запросов. Для обучения и для потоковых запросов он не годится: разница по времени отклика получается кратной.

Не забудьте про диск. Веса моделей и датасеты занимают десятки гигабайт, а при обучении дисковая подсистема читает данные постоянно, так что NVMe тут не роскошь. И проверьте лимит трафика: выкачивание чекпоинтов быстро съедает бюджет узких тарифов.