誤差逆伝播法(バックプロパゲーション) | Chapter 3, ニューラルネットワークの仕組み

Поделиться
HTML-код
  • Опубликовано: 1 дек 2023
  • この動画は3Blue1Brownの動画を東京大学の学生有志団体が翻訳・再編集し公式ライセンスのもと公開しているものです。
    チャンネル登録と高評価をよろしくお願いいたします。
    日本語版Twitter
    / 3b1bjp
    元チャンネル(英語)
    / 3blue1brown
    元動画(英語)
    • What is backpropagatio...
    by CrowdFlower: 3b1b.co/crowdflower
    ----------------------------------------
    英語版翻訳元チャンネルの支援
    / 3blue1brown
    アニメーションはmanimで作られています
    github.com/3b1b/manim
    英語版公式ソーシャルメディア
    Webサイト: www.3blue1brown.com
    Twitter: / 3blue1brown
    Facebook: / 3blue1brown
    Reddit: / 3blue1brown
    ----------------------------------------
    Music by Vincent Rubinetti
    Download the music on Bandcamp:
    vincerubinetti.bandcamp.com/a...
    Stream the music on Spotify:
    open.spotify.com/album/1dVyjw...

Комментарии • 22

  • @tsurumy
    @tsurumy 7 месяцев назад +18

    35年前に大学の研究室でこれをやったときは、電総研(今の産総研?)からラベル付きの手書きデータを調達しました。
    データが磁気テープだったから、それを大学のコンピュータで読める形にするのが一苦労でしたね。
    ああ懐かしい。

  • @hima_na_user
    @hima_na_user 7 месяцев назад +28

    これやっぱり黒板とかpdfより映像の方が直感的に理解しやすい

    • @user-pf7eh1bb3b
      @user-pf7eh1bb3b 7 месяцев назад +2

      学校の授業もこういう形式にしたら、先生が休んでしまったり、生徒が病気で学校に来られないときも授業出来るし、何より先生方も苦労も減ると考えられる(一度動画を撮れば、使い回すだけだから。他の先生の授業を参考にしたり、緊急時にはそのままそれを流すことと出来る。)。

  • @ptptsoushu
    @ptptsoushu 7 месяцев назад +6

    本読んでもさっぱりわからないことをこんなに直感的に理解させてくれるなんて、凄いです。ありがとうございます

  • @yakisoba112358
    @yakisoba112358 7 месяцев назад +10

    まってた!ありがとう!

  • @sandvinyl
    @sandvinyl 7 месяцев назад +2

    待ってました😊
    ありがとう❤

  • @mushimaru1959
    @mushimaru1959 6 месяцев назад +1

    和訳待ってました、感謝、感謝、ありがとうございます😭

  • @mypictures7720
    @mypictures7720 3 месяца назад

    全く分らなかった内容が何となく分かり始めまた。ありがとう。

  • @user-ck5mu6mg3s
    @user-ck5mu6mg3s 7 месяцев назад +4

    待ってた

  • @hhraa7770
    @hhraa7770 7 месяцев назад +5

    まじ嬉しい

  • @user-sd5sl2fl8p
    @user-sd5sl2fl8p 7 месяцев назад +1

    いつもありがとうございます。

  • @--0-O-0-O-0-O--
    @--0-O-0-O-0-O-- 7 месяцев назад +6

    NN実装するときに苦労したのでとても助かる

  • @toritometo
    @toritometo 7 месяцев назад +2

    面白い!

  • @nona9q
    @nona9q 7 месяцев назад +3

    キタ━━━━(゚∀゚)━━━━!!

  • @user-ec3yd7un9t
    @user-ec3yd7un9t 7 месяцев назад +2

    11:33
    パイモン達がおこで草

  • @merdekaataumati1949
    @merdekaataumati1949 7 месяцев назад +3

    バックプロパゲーションって、30年以上前から大学で使ってたわ。
    当時の問題って、ローカルミニマムでとどまったり、中間層が多いとうまく収束しなかったりあまり実用的ではなかったな。

  • @eik7572
    @eik7572 5 месяцев назад

    6:58 これは、各層における重みを、そこで大きさが最大となる重みの値×何かしらの定数で規格化した値によって調整するということでしょうか?

  • @cup77jp
    @cup77jp 4 месяца назад +1

    聞いているときは、何となく分かった気になるんだけど、結局、最小二乗法と何が違うん? 最小二乗法も最急降下法etcで、カイ自乗を最小に持って行くので、違いがわからん。

  • @basees4002
    @basees4002 6 месяцев назад

    動画の作り方も教えてほしいです。何卒よろしくお願いいたします!!

  • @outawoutau
    @outawoutau 7 месяцев назад +1

    歌などの音声とAIを絡めたことを将来的にやってみたい者です。
    実際に仕事として使う場合、重み付けを行ういろいろな計算を数学的に理解することは必要でしょうか?
    TAなどの助言もありながら、本動画の重み付けのプログラムは実装できました。
    必要でも不要でも理由があればお聞きしたいです。

    • @npsum-tm8ly
      @npsum-tm8ly 6 месяцев назад +4

      私自身もエンジニアなわけではないですし,なんならまだ学生ですがAIのモデルを"効率的"に作る・学習させるためには必要だと思っています.例えばモデルを大型化させていくと,うまくトレーニングすることができないことが多々あります(勾配消失:更新のための勾配が途中で小さくなりすぎて重みを更新できなくなること などが代表例ですかね).このような場合にどんな原理でこのようなことが起きるのかわかっていれば,すぐ対処することもできますし(この場合ならBatchNormalizationやskip connectionなどの導入で解決できるかな?),計算リソースの削減などもやりやすくなるかと思います.もちろんニューラルネットワークを0から実装するほどの技能はなくても十分ですが,闇雲に深層学習のフレームワークをいじり倒すより断然効率的に開発などができるので,数学的に理解しておくことは必要かと思います.ただ初めからすべて理解しておく必要性はないかと思っているので,実際にフレームワークなどで使ってみて実際に課題に直面してみての繰り返しでだんだん実用と結び付けられるのがベストかなと考えています.(長文コメント失礼しました.)

  • @user-kv7ou8fm1c
    @user-kv7ou8fm1c 5 месяцев назад

    ruclips.net/video/SgBDx8DqBZw/видео.htmlsi=gRvZt11vMRDex6lz
    勾配関数 コスト関数 
    重み と バイアス