【研究開発者解説】AIでNVIDIAとHBM半導体が必須な理由とは?GPUとHBM(High Bandwidth Memory)とCoWoS(Chip on Wafer on Substrate)

Поделиться
HTML-код
  • Опубликовано: 10 ноя 2024

Комментарии • 44

  • @mofmof-investor
    @mofmof-investor  4 месяца назад +13

    高評価いただけると嬉しいですm(__)m
    投資について解説するRUclipsrは増えてきたので、自分にしかできない最先端のテクノロジーについて解説することで、日本の技術発展に微力ながら役立てればいいなと思い解説を始めました。よろしくお願いいたします。超マニアックな内容をできるだけわかりやすく解説しています。特にHBMについてはほとんどの方はイメージがわかないと思うので、少しイメージがわくだけでもすごい学びになると思います。
    0:00 NVIDIAの半導体とHBMがAI開発に必須な理由とは?
    1:27 AIの学習に半導体が必要な理由
    6:17 高速に計算するためにNVIDIAのGPUが必須
    11:57 計算以外がボトルネックになりHBM(High Bandwidth Memory)が必須に
    19:00 HBMの構造と役割
    20:58 さらに高速にするためにCoWoS(Chip on Wafer on Substrate)にする。
    24:00 TSMCでCoWoSを実装している。

  • @神谷了
    @神谷了 4 месяца назад +6

    NVIDIA 時価総額で世界一に成りましたね、株持ってるので含み益出てます。1980年代にエキスパートシステム 1990年代に3Dグラフィックと モデム LSIを設計していました。AI に使われている CNN とかモデムに使われていた AEQ(Adaptive Equalizer) を多次元多段にしただけで学習方法とかは同じです。当時から CPU や DSP を設計してきましたがプロセッサーはメモリーが常にネックです。結局演算機よりもキャッシュ構造をどうするかで CUDA(キューダ)が標準に成りソフトがそれ向けに作られてしまったので NVIDIA が標準に成ったと思っています。 1980年代にSRAM や DRAM の DIP のセレクトピンだけ外に曲げて重ねて足をまとめて半田付けしてたのをチップでやったのが HBM ですか判りやすかったです。1990年代はボンディングでマルチチップを作ろうとしていたのでかえってコストが高くなり廃れましたが、今はサブストレートで接続しているので歩留まり的にも問題無いのかと思います。サブストレートの線幅が1μとか聞きましたので、1990 年代のLSI の線幅と同じだと思いました。 消費電力と速度の問題でますます LSI を重ね合わせて作る方法が進み一気に性能が上がっていくと思います。 思えば1980年代 TSMC は後工程を主にやっていて、私がいた半導体工場も前工程の後に TSMC に出していました。 いつの間にか日本がハードではソニーのCMOSセンサーくらいしか残っていないです。 私はソフトが本業ですが全く日本はダメだと思っています。 ラピダスとか間抜けな事を言ってないで、再度金の掛からない事から戦後の日本の様に再興を考えるしか無いのかなと思っています。

    • @mofmof-investor
      @mofmof-investor  4 месяца назад +1

      すごくお詳しいですね!
      LSIって言葉も聞かなくなりましたし、SOCもほぼ聞かなくなりました。時代の流れは早いです。。
      日本の半導体はキオクシアも頑張っているので、生き残ってほしいです!

    • @神谷了
      @神谷了 4 месяца назад

      @@mofmof-investor キオクシアは元東芝のNAND Flash ですね、もふもふ不動産さんの専門ですしょうか、是非また特徴を説明していただければと思います。NAND は NOR と違ってブロック単位なのでディスクと同じ様に思っています。10年くらい前に監視カメラのDSPの外部記憶に東芝を使おうとしたらエラー訂正回路が入っていなくてマイクロンに変えた覚えがあります。 ソニーとキオクシア(元東芝)には最後のLSIを続けてはもらいたいとは思いますが、相対的にはハードの価値はドンドン小さく成っていきますね。
       画像センサーは可視光の波長の関係で微細化しても意味が無いように思いますが、最近のソニーセンサーの様に4画素でベイヤー1画素を作る様な事をすれば微細化が意味があるのかは気に成ります。3D貼り合わせが普通に成ると裏面照射的な研磨も普通に成って来ると思いますので、その点も将来性を心配します。
       NANDについては記憶素子は小さい方が良いでしょうが単純に小さくするのと多値化とどっちが良いかでしょうね、詳しく無いので教えて下さい。MRAM が大容量に成ると危険ですがどうなんでしょうね。
       いずれにしても金が掛かっても儲けが少なく、AIが金を稼げるメインに成っていくだろうけど、ソフト的にもハード的にも日本は関係無く出来上がったシステムを使って学習をさせるだけだろうなと思っています。
       もふもふ不動産さんもLSIを離れてしまう様ですので、残念ながらソフトウェアで何か新しいサービスでも作って行くしか無いのかなと思います。日本人には政府はもちろん自力で新しい物を発明する能力は無さそうなので米国のインフラ上でデジタル小作人をするしかないと思っています。

  • @dtrt1698
    @dtrt1698 Месяц назад

    最近AI関連動画で久々にイケハヤさんを視聴しました。AIで執筆されているとか。
    AIをビジネスにどう活用するか、今は百花繚乱状態ですね。💐🌺🌻🌼🌸

  • @potneko9272
    @potneko9272 4 месяца назад

    解説有難うございます
    後行程の解説もお願いします
    今一番伸びてる分野なんで
    TESLAの独自チップはdramじゃ遅いんでsramをdramの様に大量に積んで高速化してます
    ここら辺も重要なとこなんで解説してくれるとAI競争の実態が見えやすくなると思います

    • @mofmof-investor
      @mofmof-investor  4 месяца назад

      後工程は液晶の後工程しか携わったことなく詳しくないんですよね💦20年前は後工程は実装するだけくらいのイメージでしたが技術の進歩は凄まじいです!

  • @永井圭介-v2p
    @永井圭介-v2p 4 месяца назад +3

    すごすい

  • @ピョンピョン-q2g
    @ピョンピョン-q2g 4 месяца назад +3

    素敵な兄貴 昔は 今の10倍も 20倍も輝いていた あの頃を知ってます 綺麗な心の兄貴に いつまでも

  • @cowcow701
    @cowcow701 4 месяца назад +1

    コップの例えは目から鱗が落ちましたw
    次回はEUV露光と検査装置のお話を期待してます
    (話題のレザテクw)

    • @mofmof-investor
      @mofmof-investor  4 месяца назад +2

      ありがとうございます✨電気と水はほとんど同じような考え方でできるのでイメージしやすいです!
      不要なコップの大きさのことを、電子回路だと寄生容量といいます。寄生容量を小さくさせて低消費電力と高速動作を常に考えてます✨要望もありがとうございます!

  • @akifumikubota
    @akifumikubota 4 месяца назад

    NVIDIAは急成長ですね。Apple、Microsoft超えもアッと言う間ではなかったでしょうか?生成AI関連は目が離せませんねー😳😳😳
    本当凄いてすね‼️😵😵😵
    データセンターのニュースも注目なので解説宜しくお願いします🙇‍♀️🙇‍♀️🙇‍♀️

  • @hiraqu5696
    @hiraqu5696 3 месяца назад +1

    CPUと言えば、インテル入ってるが今だに圧倒的シェアだけど、インテルは赤字で人員削減らしいけど、明暗分かれてるのは、なぜなんだろう。

  • @島本文雄
    @島本文雄 4 месяца назад

    ナノ表記はnmです。
    4mnでなく4nmです。

  • @kk-lu3vp
    @kk-lu3vp 3 месяца назад

    線が太くなると通信速度が遅くなる理由は何でしょうか?インピーダンスや長さの影響は分かるのですが、、

    • @mofmof-investor
      @mofmof-investor  2 месяца назад

      インピーダンスが大きいと電気が流れにくいので遅くなります✨100m✖️100mの鉄の板を乾電池で1v充電するのと1cm✖️1cmの板に1v充電するのだと、小さい方が早そうじゃないですか?

    • @kk-lu3vp
      @kk-lu3vp 2 месяца назад

      @@mofmof-investor 鉄の板に電気を貯める機能は、、まあ2枚あれば静電容量が発生しますが、、通信速度と充電速度の因果関係はあまり聞かないような、細い線は直流抵抗で見れば不利になると思います、、

  • @sakurasena-vj3yx
    @sakurasena-vj3yx 2 месяца назад

    ラぴ出すはいいけど需要があるかな
    アームはVRがあったけど

  • @gray_swan
    @gray_swan 4 месяца назад

    TSVを使ってクロスバースイッチを構成し並列計算機の各コアを結ぶのですか?

  • @hiemusunamo6795
    @hiemusunamo6795 4 месяца назад +1

    メモリも高速化が必要ですが、AIサーバーは電力量も桁違いのようですね
    H200は普通のサーバーの何倍だったかな?
    日本ならもう200Vで供給ですかね

    • @mofmof-investor
      @mofmof-investor  4 месяца назад

      学習には電力がかかりまくるので、環境問題になるかもですね💦

    • @masa4680
      @masa4680 4 месяца назад

      HGX H200 1-GPU - 700W; HGX H200 4-GPU - 2.8kW; HGX H200 8-GPU 5.6kW.

  • @zero-east-23
    @zero-east-23 4 месяца назад

    いつも素晴らしくわかりやすいですが、
    特に他の部分がボトルネックになってきたという話、なるほどですね。
    ところで、疑問点だらけのラピダスですが、通産省のページをみると、再配線層を10層ほど積層した先端品を円形ウエハーから切り出して作るのでなく、 600mm厚の角パネルを使って作るといっています。できるんだろうか???

    • @zero-east-23
      @zero-east-23 4 месяца назад

      通産省→経産省でした。もちろん。

  • @kingden3
    @kingden3 4 месяца назад +1

    擬音が多かったけど、こういう事かなと推測しながら見てました。
    あと誤記だと思いますけど、Hynics ⇒ SK hynix。

    • @mofmof-investor
      @mofmof-investor  4 месяца назад +1

      ありがとうございます✨専門用語を使うと分かりにくいので、擬音で誤魔化してました、、笑 できるだけ容易な言葉に置き換えるように頑張ります

    • @iiii-crypto
      @iiii-crypto 4 месяца назад

      @@mofmof-investor 助かります

  • @sakurasena-vj3yx
    @sakurasena-vj3yx 2 месяца назад

    やりたいソフトがあってハードはいやいや買うものですから

  • @チーズケーキマニア
    @チーズケーキマニア 4 месяца назад

    ITバブル前夜を思い出させる展開ですね。。

    • @zero-east-23
      @zero-east-23 4 месяца назад +2

      いまの米国テック株上位10社の時価総額がマーケットに占める割合は、ITバブル前夜ほど高くはないですね。
      S&P500のテック指数も、まだ2001年の半分くらいです。日本の場合はもっと少ない。
      なので、まだまだバブルというほどではないと思っています。

  • @tenggutuomi
    @tenggutuomi 4 месяца назад

    トランプの写真見すぎて気持ち悪くなったので齋藤飛鳥に変更したの好き

    • @mofmof-investor
      @mofmof-investor  4 месяца назад

      トランプさんの写真を100枚集めるのはテンション下がりましたが、乃木坂の写真はニコニコしながら集めてました😂

  • @オリジン-v4t
    @オリジン-v4t 4 месяца назад

    IOWNについても紹介頂きたいです。NTTが開発を進めている光電技術に興味があります。半導体のゲームチェンジが起こると思われますか?

    • @mofmof-investor
      @mofmof-investor  4 месяца назад +1

      ありがとうございます✨取り上げてみたいと思います。調べてみましたが、「光半導体???」って感じで、よく意味がわかりませんでした。その辺含めて解説します

  • @ankomonaka416
    @ankomonaka416 4 месяца назад +1

    えーと 4mnはないんじゃないかな4nmナノメーターです。

    • @mofmof-investor
      @mofmof-investor  4 месяца назад

      ありがとうございます✨🙇‍♂️

  • @gさん-s3u
    @gさん-s3u 4 месяца назад

    RYZENとか4nmよね。

    • @mofmof-investor
      @mofmof-investor  4 месяца назад

      製造元はTSMCでNVIDIAと一緒なので、同じですね✨

  • @iiii-crypto
    @iiii-crypto 4 месяца назад +1

    4mn!

  • @mamekineko1977
    @mamekineko1977 4 месяца назад

    HVBはマイクロ製品ですか?キオクシアは絶不調。。。

    • @mofmof-investor
      @mofmof-investor  4 месяца назад +1

      DRAMなので、キオクシアは作れないです🙇‍♂️HBMはハイニックスがシェア高いです✨

  • @バラライカ-b5b
    @バラライカ-b5b 4 месяца назад

    フランス語講座かな?

    • @mofmof-investor
      @mofmof-investor  4 месяца назад +1

      ボンジュール🎶
      大学生の時、なぜか必須で仏文やりましたが単位を落としかけてやばかったです😢