AI生成と学習で要スペック違うし外付けGPUで十分説

Поделиться
HTML-код
  • Опубликовано: 22 ноя 2024

Комментарии • 64

  • @user-mikinorihey
    @user-mikinorihey 7 месяцев назад +12

    ラストの食事会復活が良い感じ
    オラもコンポタ買ってくる

    • @UDN
      @UDN  7 месяцев назад +1

      コンポタ安くて旨い👌

  • @rukusen_jp747
    @rukusen_jp747 7 месяцев назад +2

    面白い検証でしたね

  • @soultoru
    @soultoru 7 месяцев назад +5

    ThunderboltやUSB4で接続した場合も検証して欲しいです。

  • @ojizou009
    @ojizou009 7 месяцев назад +9

    4070と7900XTXのマルチグラボで4070で画像生成しながら遊んでます(笑)
    マルチGPUをやるなら処理をRTX40シリーズで、映像出力をRadeonでやるとDLSSと古井戸が組み合わさってWQHDでも300〜400FPSとか出たりして面白いですよ

  • @umezu2004
    @umezu2004 7 месяцев назад +1

    コーンポタージュ大好きww。(ちゃんと全編拝見してますw)

    • @UDN
      @UDN  7 месяцев назад

      次回、〇〇〇〇太郎w

  • @hornetp
    @hornetp 7 месяцев назад +1

    16:17 ここすき

  • @chromarock5928
    @chromarock5928 7 месяцев назад +4

    学習で極端に遅くなるのはVRAMから溢れていますね。ドライバの設定でRAMに逃がすか、もうOOMにして止めてしまうかの二択だったと思います。FP8にするとか、バッチサイズを1にするとかして設定を詰めるとXLでも8GBなんとかいけなくもないそうです

  • @nino_ponkotsu
    @nino_ponkotsu 7 месяцев назад +3

    凄い検証結果ですね!
    この動画を新PC購入する前に見てたら、GEN3のPCに4070TiSUPERだけ買って突っ込んで、Win11移行を来年まで遅らせてたかもしれないです

  • @sanda_vtuber
    @sanda_vtuber 7 месяцев назад +4

    吉田製作所のPCIe炎上事件一生こすられるの草

  • @pikarin7401
    @pikarin7401 7 месяцев назад +2

    AIで色々学習させてたのですが、とても参考になりました😃マルチgpuの検証も気になります

  • @pa_sann
    @pa_sann 7 месяцев назад +5

    興味深い検証結果ですね。
    理屈の上ではAIの使用は、帯域に余り依存しないってことになりますね。
    BTOとかで売られてる格安PCを買ってきて、外付けでGPU増設してひたすら学習させるみたいな使い方がありうるのかも。
    PCI-Ex1でいいなら、増設するのそんな難しくないでしょうし

    • @pa_sann
      @pa_sann 7 месяцев назад +2

      複数刺しの検証を予想しておきます。
      単純計算なので、実測値とはかけ離れる可能性があります。
      ネットで入手できるTimeSPYのベンチマーク値をベースにして考察します。
      RTX4060Ti VRAM16G TimeSPY 13356
      RTX4070TiSuper VRAM16G TimeSPY 24454
      RTX4090 VRAM24G TimeSPY 36340
      二枚差しにしても性能は倍にはならないので、常識的な範囲内で期待できる性能向上を1.5~1.6倍と仮定します。
      4060Tix2 (約14万円)
      1.5倍性能向上→20034
      1.6倍性能向上→21370
      4070TiSuperx2(約26万円)
      1.5倍性能向上→36680
      1.6倍性能向上→39216
      4090 (約28万円)
      一枚のみ→36340
      4060Tiだと4070TiSuperには及びませんが、4070TiSuperだと4090に匹敵する演算能力が期待できます。
      場合によっては上回るかも?
      ただしVRAMは16GBのままなので、機械学習や生成速度では4090に勝てない可能性が高いです。
      VRAMに依存しないAIプログラムであれば、4090よりコスパいいグラボになりそうです。
      よって、最適解は4070TiSuperを導入することだと予測しておきます。

    • @weak-kajuma
      @weak-kajuma 7 месяцев назад

      複数刺しをするとゲーム以上にgpu間の通信をするのでそうならないかもです

  • @kaze3015
    @kaze3015 7 месяцев назад +6

    立ち上がり直後のクソぼけぇぃ
    うん大好き

  • @guiseppepunke2975
    @guiseppepunke2975 7 месяцев назад +2

    16:11 「吉田さんがやってたんですよね」
    懐かしい 3060だったっけ?お釈迦にしてましたね。

  • @yoshitooonami4201
    @yoshitooonami4201 7 месяцев назад +2

    面白い検証です、誰もがもしやとは思っていたがわざわざ検証等はしてなかったところ。さらなる発展だとサンボル3,4接続の場合とかも興味深い実験になるかと思います。

  • @SGPlo
    @SGPlo 7 месяцев назад +2

    外付けでもVRAM少ないやつは遅くなりそうな気はするけどその辺どうなんでしょ
    4080sならスワップもほぼ無しでいけてるっぽいですけど

  • @namedby8829
    @namedby8829 7 месяцев назад +2

    マイニングと一緒でグラボ内で演算完結する処理はバス速度いらない
    だけどVRAM使うからメモリ容量・種類によっては極端に遅くなる
    AIやVRCだと24GBでもVRAM不足でメインメモリを借りることになり得るからゲームだとPCIe 4.0x8で十分でも5.0x16が欲しくなる
    でもStable Diffusionでメインメモリ借りると速度1/10とかになって全く実用性無くAIで速いバスが活躍するのはLLMとかだけ
    AIとエンコ用にM.2のグラボあったらいいなと思う

  • @marupo
    @marupo 7 месяцев назад +1

    うどんさんの前回と前々回動画見てAIお絵描きやってみました。これは沼る、、😂

  • @ありんぬ
    @ありんぬ 7 месяцев назад +2

    メモリが少ない場合、full bf16, fp8 baseとxformers、gradient checkpointingを有効化してください。

  • @久吉山下
    @久吉山下 7 месяцев назад +1

    3Dプリンタあるなら金具で固定できるあたりまでのアダプタ作って固定するといい感じですかね

  • @beta7vermobile521
    @beta7vermobile521 7 месяцев назад +4

    コンポタ食べながらコンポタ飲むとコンポタ味になるよ

    • @UDN
      @UDN  7 месяцев назад

      追いコンポタw

  • @Marukute_Ayashii_Yatsu
    @Marukute_Ayashii_Yatsu 7 месяцев назад +8

    用途特化が x1の帯域でイケるならそのうち外付けでラックいっぱいにグラボだけ詰めた疑似SLI作り始める猛者とか現れそう🤔
    でも見た感じ他の用途は壊滅ね

    • @takashimaeda
      @takashimaeda 7 месяцев назад +3

      それってMニング鯖でわw

    • @UDN
      @UDN  7 месяцев назад +3

      やりますw

  • @Shirasu_y
    @Shirasu_y 7 месяцев назад +9

    生成AI、Radeonでも「AIクイックセット」で遜色なく早く生成できるようになりました!

    • @UDN
      @UDN  7 месяцев назад +2

      今度やってみます💪

  • @kamkam_99
    @kamkam_99 7 месяцев назад +2

    Ryzenの8700GなどのAPUでメモリ16GBとか割り当てるのはどうなるんだろう。

  • @vivi-zg3vg
    @vivi-zg3vg 7 месяцев назад +1

    3060が結構前のGPUなのに今もバリバリ使えてすごすぎるw
    4060もメモリ10GB以上欲しい感じでしたね

  • @sanmos9164
    @sanmos9164 7 месяцев назад +1

    この動画みて4080Sかったった・・。
    AI画像生成すごいですね、、えっろ!
    あと、1080とくらべてLightRoomclassicの現像とAIノイズ除去かなり早くなりました。
    さすがは3世代変わると別物ですね。
    9504x6336の画像がサクサク現像ができる。。

    • @UDN
      @UDN  7 месяцев назад

      現像も早いですか!ふむふむ

  • @SS-jm7qc
    @SS-jm7qc 7 месяцев назад +1

    Oculink付ノートPCが出たら市場が変わるかな

  • @kghys
    @kghys 7 месяцев назад +1

    データセンター用GPUのV100,A100,H100ならもっと早くなるのかな?と思いました。最低でも40万円以上するので個人では無理そうですけど。

  • @どうせ通りすがりですから
    @どうせ通りすがりですから 7 месяцев назад +2

    ARCもってませんでしたっけ?意外
    RADEONもやってないから趣旨としてはいいですけど持ってたらやってほしかったな😉

  • @ghost9003
    @ghost9003 7 месяцев назад +1

    VRAMが少ない時メインメモリにスワップしてるとしたらその辺が外付けにしたときに影響しそうだけどどうなんだろう?

  • @koromaro_
    @koromaro_ 5 месяцев назад +1

    4070 ti superなら何でもいけますか?

    • @UDN
      @UDN  5 месяцев назад

      なんでもはわからんです🙇‍♂️

  • @haltpok
    @haltpok 7 месяцев назад +1

    面白い実験だけど、運用するときはAIサーバーを別で用意するかな・・・

  • @pa_sann
    @pa_sann 7 месяцев назад +3

    Radeonだと現状ではSHARK択一でしょうね。Amuseの公開がサイトごと消滅したので入手不可になっているので。
    AI Quick SETはASROC専用のインストーラーで、中身はSHARKです。
    Intel ARCでも動作するはずなので、もし検証するなら導入してみてください。

    • @UDN
      @UDN  7 месяцев назад

      ARCどこかにいってしまいましたw

  • @アンドう-g6n
    @アンドう-g6n 7 месяцев назад +1

    FEかっちょいい

  • @touzenjodan
    @touzenjodan 7 месяцев назад +2

    新型スナドラもAi演算性能は凄いようですしそういうのを利用した外付け&後付けのAI専用プロセッサーとか出てきそうやなぁ(むしろ欲しいなぁ

    • @別部穢麻呂
      @別部穢麻呂 7 месяцев назад

      AI専用プロセッサーなら、GoogleのTPUを外販して欲しいです。
      Edge TPUなら売っていますが、ホンモノのTPUは売ったらいくらになるのだろう。

  • @まおたん-r9z
    @まおたん-r9z 7 месяцев назад +2

    RTX A2000がなくなってる。

  • @icetea8076
    @icetea8076 7 месяцев назад +1

    う〇こさんへの当たりが強すぎて毎回かわいそう^^
    外付けGPUのロマンがまた増えましたね

  • @takpon9261
    @takpon9261 7 месяцев назад +1

    次回は量産型マキムラですね💩

  • @amachamacchama
    @amachamacchama 7 месяцев назад +1

    サムネ強烈やな

    • @UDN
      @UDN  7 месяцев назад

      全然普通の感覚だったw

  • @Ptolemy_00
    @Ptolemy_00 7 месяцев назад +2

    え、生成AIやるならVRAM必須って数年前から聞いてたけど、生成するだけなら別にVRAMいらん感じ…?
    3060の12GBに期待してたけど、めっちゃ遅くて驚いた

    • @UDN
      @UDN  7 месяцев назад +2

      forgeだからかもですね…
      普通のやつだとメモリ大量に必要ぽいです

  • @reonaozaki3974
    @reonaozaki3974 7 месяцев назад +1

    ステブルとかの学習とか、AI用途に新PCパーツ発注しました。RTX3060 12GBを選択しました。RTX4080 Superは高くて・・・

  • @ttc1707
    @ttc1707 7 месяцев назад +1

    コップ割れてるやん

    • @UDN
      @UDN  7 месяцев назад +1

      Intelにいただいたコップ…業績とともにヒビが

  • @catship-gq6nh
    @catship-gq6nh 7 месяцев назад +1

    二分前…

    • @UDN
      @UDN  7 месяцев назад

      👍

  • @be_fingweys
    @be_fingweys 7 месяцев назад +1

    RTX3070 FE持ってたような??

    • @UDN
      @UDN  7 месяцев назад

      あれはマボロシに…w