Ускорение инференса: фьюзинг и дистилляция

При высокой нагрузке или вычислениях на смартфонах, скорость работы сети становится критической метрикой.
В данном видео Дима Чудаков, куратор курса "Ракета в Computer Vision", расскажет как можно ускорить вашу нейросеть за несколько простых действий с помощью доступных инструментов PyTorch.
Дима перечислит кейсы, в которых необходимо ускорять сети, познакомит с фьюзингом и дистилляцией, а также даст несколько советов по их применению.
- курс "Ракета в Computer Vision": deepschool.ru/...
- наш телеграм, в котором мы напоминаем теорию и делимся советами по обучению нейросетей: t.me/deep_school
- наша группа в VK: vk.me/deepschool
Подписывайтесь, чтобы развиваться в ML и DL вместе!

[@user-wb5kl9yw9p]

Чел хорош! Продолжай!!!

[@stasichelf]

Огонь! Спасибо!

[@user-ou4cm2uj8z]

Спасибо! Очень полезно 🤯

[@romanbogachev6147]

что значит ветки зависящие от размера входа?

[@deep_school]

Это операции в сети которые проводят вычисления над размером входа. Например, для операции интерполирования требуется знать целевой размер. Этот целевой размер может вычисляться как размер картинки * 2. На трейне это важно, на инференсе можно один раз посчитать, превратить в константу и больше не пересчитывать