Лекция. Полносвязная нейронная сеть

Занятие ведёт Юрий Яровиков
Ссылка на материалы занятия: docs.google.com/presentation/...
---
Deep Learning School при ФПМИ МФТИ
Каждые полгода мы запускаем новую итерацию нашего двухсеместрового практического онлайн-курса по глубокому обучению. Наборы проводятся в августе-сентябре и январе-феврале.
За нашими новостями можно следить здесь:
Наш канал в TG: t.me/deep_learning_school_news
Официальный сайт: dls.samcs.ru/ru/
Официальная группа ВК: dlschool_mipt
Github-репозиторий: github.com/DLSchool/dlschool
Поддержать канал можно на Boosty: boosty.to/deeplearningschool
ФПМИ МФТИ
Официальный сайт: mipt.ru/education/departments...
Магистратура: mipt.ru/education/departments...
Онлайн-магистратура "Современная комбинаторика": omscmipt.ru/
Онлайн-магистратура "Цифровая экономика": digec.online/
Лаборатории ФПМИ: mipt.ru/education/departments...

[@wisedoctor1016]

Не хватало такой лекции в прошлом запуске, спасибо!

[@yuryyarovikov3323]

а вот и она)

[@artemgolomolzin1822]

Юрий, спасибо! Очень понятные и чистые лекции, по-человечески, без ненужного :)

[@amogus_bebra_228]

Спасибо! Отличный лектор.

[@maksimlitvinov.9521]

мой любимый лектор, спасибо!

[@vitaliibardichev4691]

33:22 - опечатка в матрице (в правиле производной композиции). В правом верхнем углу должен быть вес w_21, а не w_22.

[@user-ov4yk4cx2t]

Очень полезная лекция! Спасибо

[@user-cu2wj6zt2o]

класс.

[@doctorslash3922]

Думаю, удобнее записывать произведение якобианов в обратном порядке, чтобы не пришлось использовать транспонирование

[@user-zd6sf8zo5y]

Вероятность это тоже мера 😂

[@tedwinkler9861]

На 33:40 ошибка в матрице w: верхний элемент справа w21, а не w22

[@oanovitskij]

Не понял, что в конце имел в виде лектор. Но не проще объяснить, что если F = Sigmoid(y) векторно, то dF/dy = F •(1-F).T ? Где F вектор-столбец или что-то я не понял?

[@alexanderskusnov5119]

Нехороший слайд на 25': раньше мы через x обозначали вектор входов первого скрытого слоя, а тут они распределены по всем слоям.

[@thecrazymage]

9:25 Размерность b не k на 1?
10:15 W_3 разве размерностью не 10 на 100?

[@yuryyarovikov3323]

Да, оба раза вы правы. 9:25 это косяк презы, а вот 10:15 действительно правильно говорить как вы:) Строчек столько же сколько нейронов на выходе

[@axelotLI]

Ку

[@user-dp9gi1vg8r]

сложно

[@user-zd6sf8zo5y]

dz / dx0 нам в принципе не нужен