Функции активаций нейрона | Sigmoid, ReLU, Leaky ReLU, ELU | Neural Networks (NN) | НЕЙРОННЫЕ СЕТИ 4

Поделиться
HTML-код
  • Опубликовано: 28 сен 2024

Комментарии • 26

  • @ClearPaper89
    @ClearPaper89 2 года назад +3

    Приятно слушать. Хорошая ведущая

  • @kaperit8255
    @kaperit8255 2 года назад +6

    суперское видео

  • @Midjt
    @Midjt 7 месяцев назад

    Очень интересно рассказываете. Когда будут новые уроки?

  • @MsGleaming
    @MsGleaming 2 года назад +1

    вааааай спасибо 😻

  • @RR-hq4cv
    @RR-hq4cv Год назад +5

    Отличный разбор, спасибо! Поздравляю с 2 тысячами подписчиков!

    • @machine_learrrning
      @machine_learrrning  Год назад +1

      Рада, что разбор понравился!
      Спасибо за поздравления 😊

  • @DrUlrih
    @DrUlrih 6 месяцев назад +1

    - \inf это не очень маленький. Это бесконечно отрицательный.

  • @kaperit8255
    @kaperit8255 2 года назад

    притом если уменьшить количество слоев где про сигмоиду описывают, то обучаются все три слоя)). ИНтересно почему

  • @АлиСултанов-и8э
    @АлиСултанов-и8э 2 года назад +4

    Cпасибо большое

  • @АнтонМихед
    @АнтонМихед Год назад +1

    Заметил что в производной от тангенса пропустили одну скобку в коде. Поэтому график для неё должен до 1 возрастать.

  • @kaperit8255
    @kaperit8255 2 года назад +1

    Вопрос такого плана. Если сигнал зануляется . чисто технически он же идет просто уже имеет значение 0, там же нету такого что функция возвращает none и дальше перестает работать.

    • @machine_learrrning
      @machine_learrrning  2 года назад

      Да, всё верно, сигнал 0 идет дальше, но при подсчете ошибки или же подсчете градиента может появляться nan

  • @alekseiegorov3980
    @alekseiegorov3980 Год назад

    Здравствуйте! Подскажите, пожалуйста, какую функцию активации лучше всего использовать для задачи регрессии

    • @machine_learrrning
      @machine_learrrning  Год назад

      Для выходного слоя лучше использовать ReLU (если нет отрицательных значений в целевом признаке) или же Linear

    • @СергейСоколов-у1п8щ
      @СергейСоколов-у1п8щ 11 месяцев назад

      Здесь надо внимательно, у меня как то был случай, ReLU, в выходном слое глючила. Обычно я использую Linear. А если значения правильных ответов, нормализованны в диапазон (-2...2), (0...2) или (0...1), то можно и sigmoid использовать, у меня в этом случае, работало лучше@@machine_learrrning

  • @pankratovso
    @pankratovso 2 года назад

    Добрый день! Имеет ли больший смысл на выходе сети ставить softmax? Классов 10 + мы делаем ohe через to_categorical…

    • @machine_learrrning
      @machine_learrrning  2 года назад

      Добрый день!
      Да, конечно, лучше использовать softmax, когда мультиклассовая классификация, про это отдельное занятие сделаю
      Сейчас с сигмоидой может возникнуть такая ситуация, что и у ботинка вероятность 0.9 и у кофты вероятность 0.9, с софтмаксом такого не будет, будет только один класс с максимальной вероятностью (а по всем 10 классам сумма вероятностей будет 1)
      Но ohe в любом случае можно делать, неважно это 2 класса или 10

    • @pankratovso
      @pankratovso 2 года назад +1

      @@machine_learrrning спасибо

  • @alexwhite252
    @alexwhite252 Год назад

    class_names это что? Переменная? Если да, то мы туда просто список запихали? Каким образом мы пометили целевые значения? Если это pandas data frame, то могу предположить, что class_names это название колонки. Если так, то почему это не показать? Без этой информации невозможно понять материал!
    Практически во всех подобных "учебных" недо-материалах перешагивают через важную информацию, получается как шпаргалка для самого себя, а не как обучающий материал. Очень плохо.

    • @machine_learrrning
      @machine_learrrning  Год назад +2

      В этом ролике нет цели познакомить смотрящих с разметкой данных (выставление меток для изображений), в этом видео смотрим на функции активации.
      А разметка данных - это целое искусство, конкретно в этой задаче class_names - это метки классов изображений, но как они получаются? А изначально у вас были изображения с кофтами, штанами, ботинками и так далее, из этой каши нужно получить папку только с кофтами, папку только с ботинками и папку только со штанами, это делается путем просмотра картинок и перекидывания их в нужные папки, а потом эти папки для удобства именуются [1, 2, 3], но чтобы мы понимали, что это за классы, мы для себя составляем список ['кофта', 'штаны', 'ботинки']
      так же подобная информация есть и в документации keras keras.io/api/datasets/fashion_mnist/

    • @alexwhite252
      @alexwhite252 Год назад

      @@machine_learrrningу вас в предыдущем видео об этом было? Если нет, то для чего это все? Как обучающие эти видео не годятся, вместо них можно было просто ссылку на документацию keras на экране написать и так сойдет.

    • @Kerico-o9b
      @Kerico-o9b 11 месяцев назад

      @@alexwhite252 Если не нравится не смотри, нахрен нам здесь твоё мнение

    • @alexwhite252
      @alexwhite252 11 месяцев назад

      @@Kerico-o9b пшнх.

    • @textreanimator
      @textreanimator 4 месяца назад

      Автор сего комментария наверное снял супер-видео, в котором нет ни единой ошибки. Прежде чем критиковать других, покажите на своём примере, как это сделать.