Мастер-класс "Нейронная сеть с 0. PyTorch"
HTML-код
- Опубликовано: 7 май 2020
- Ведущий: Алексей Егоров
В рамках мастер-класса разбираются основы программирования нейронных сетей на Python с использованием библиотеки PyTorch. Решается задача аппроксимации функции с помощью простой нейронной сети.
На практике показываются ограничения нейронной сети в возможностях обработки данных.
Кроме того, приводится пример повышения эффективности вычислений на Cuda.
Прекрасная обучалка, реально помогли. Спасибо, Алексей!
спасибо большое, видео мне помогло разобраться!
Очень помогли разобраться с torch-ем, спасибо большое 🤗. Только, на заметку, я думаю, в первой реализации сети со сложными данными можно было изменять скорость обучения (learning_rate) на больший, как правило при больших и сложных данных от 0.1 до 0.2 хорошая скорость обучения и думаю, что это помогло бы апроксимировать косинус лучше 😉. Спасибо!
Вообще для ускорения обучения есть метод Адам, где во время обучения скорость автоматический увеличивается, если процесс по этому направлению идет очень медленно.
Видео, безусловно хорошее, автор молодец (респект). Но. Непонятно, зачем городить огород с классами, функциями и прочим, чтобы потом запутываться искать где ошибка? К примеру, в tensorflow эта же модель делается в строчек 5-7 без всяких хлопот.
Добрый день. Подскажите а почему у меня обработка происходит на CPU? И как перевести вычислительный процесс на GPU
Если вы имеете ввиду программирование в среде Google Colab, то необходимо в настройках Runtime -> change runtime type сделать. После этого можно переводить вычисления на gpu с помощью команды: device = torch.device('cuda:0' if torch.cuda.is_available() else 'cpu')
Если вы пишите в другой среде, то команда остаётся той же, а вот как активировать cuda - зависит уже от среды.
Здравствуйте! Подскажите, в чем может быть проблема. Делаю по Вашему гайду, но выдает ошибку "'OurNet' object has no attribute 'fc1'"
Скорее всего вы просто не инициализировали fc1 (возможно забыли написать в __init__ self, возможно неправильно написали имя, а может просто забыли написать)
AttributeError: 'builtin_function_or_method' object has no attribute 'backward' выдаёт такую ошибку
что делать?
Функция 'backward' используется для пересчёта производной. Скорей всего при расчётах вы использовали объекты не из самой библиотеки, поэтому она не может посчитать для них производную.
Спасибо, будучи нулем в данной теме разобрался хоть как то что и к чему.
Запустил нейронку на 60 нейронов на 1м эпох, ошибка ниже 0.05. а и кол-во точек 500.
Итоговая погрешность 0.0171
Нашел клад)
Бестолковый видос