Ускорение инференса: фьюзинг и дистилляция
HTML-код
- Опубликовано: 10 сен 2024
- При высокой нагрузке или вычислениях на смартфонах, скорость работы сети становится критической метрикой.
В данном видео Дима Чудаков, куратор курса "Ракета в Computer Vision", расскажет как можно ускорить вашу нейросеть за несколько простых действий с помощью доступных инструментов PyTorch.
Дима перечислит кейсы, в которых необходимо ускорять сети, познакомит с фьюзингом и дистилляцией, а также даст несколько советов по их применению.
- курс "Ракета в Computer Vision": deepschool.ru/...
- наш телеграм, в котором мы напоминаем теорию и делимся советами по обучению нейросетей: t.me/deep_school
- наша группа в VK: vk.me/deepschool
Подписывайтесь, чтобы развиваться в ML и DL вместе!
Чел хорош! Продолжай!!!
Огонь! Спасибо!
Спасибо! Очень полезно 🤯
что значит ветки зависящие от размера входа?
Это операции в сети которые проводят вычисления над размером входа. Например, для операции интерполирования требуется знать целевой размер. Этот целевой размер может вычисляться как размер картинки * 2. На трейне это важно, на инференсе можно один раз посчитать, превратить в константу и больше не пересчитывать