Ускоренные методы оптимизации и их роль в современном обучении больших моделей

Перейти

Ректор Университета Иннополис, главный научный сотрудник ИСП РАН, профессор МФТИ делится недавними достижениями в области получения ускоренных батчированных методов для задач с переобучением, ускоренных тензорных методов, ускоренных методов в условиях схожести слагаемых, ускоренных методов для седловых задач, ускоренных методов для задач распределённой оптимизации с несмещённой компрессией.