Как мы генерируем GPT-нейросетями миллиарды объявлений на малом количестве GPU. Доклад Яндекса

Перейти

Ольга Зайкова, руководитель группы автоматической генерации рекламы в Яндексе, расскажет о соединении тяжёлых процессингов и GPU‑вычислений. В статье говорится о том, как команда реализовала высоконагруженный процессинг, который обрабатывает миллиарды товаров и превращает их в объявления, используя тяжёлые модели, такие как YandexGPT, DSSM, CatBoost и другие. И, конечно, не обходится стороной тема проблем с нагрузкой: они возникали почти на каждом шагу.

Краткий пересказ от YandexGPT