База знаний / Видео

Ускоренные методы оптимизации и их роль в обучении больших моделей

Доклад о недавних достижениях, связанных с получением ускоренных батчированных методов для задач с переобучением, ускоренных тензорных методов, ускоренных методов в условиях схожести слагаемых, ускоренных методов для седловых задач, ускоренных методов для задач распределённой оптимизации с несмещённой компрессией.
Спикер — Александр Гасников, ректор Университета Иннополис, главный научный сотрудник ИСП РАН, профессор МФТИ.