Размер видео: 1280 X 720853 X 480640 X 360
Показать панель управления
Автовоспроизведение
Автоповтор
今回はマイクロソフトの「Surface」の新モデルが2024/6/18に発売されたので、NPUにしてみました。ただ...ゲーミングPCの方が性能が良かったりする場合もあり、悩ましい...今年もPCを買い替える予定だけど、コスパを考慮すると今のところAMD Ryzen AI機能があるCPUのノートPCが一番手候補かな...当チャンネルでは、公式ブログやSNS活動、メンバーシップもしております。<当チャンネルの公式ブログ>yukuri-it-channel.com/動画制作の裏側や、うぷ主の日常やノウハウを不定期で配信!<SNS活動>X(Twitter)twitter.com/yukuri_itInstagraminstagram.com/yukuri_it_channel/threadsthreads.net/@yukuri_it_channel
何気にAppleは数年前から、NeuralEngineっていう名前でNPU搭載してるよね
しかし、CPUがX86以外だとWindowsはかなり不利なんですよね。MacOSはApple自身がサポートすることで中央集権的にソフトウェア開発を行うことで回避できましたが、Windowsは沢山の会社がハードウェア開発をしているため、その手法を行うことは出来ないので、難しいと言われている。
コメントありがとうございます。>CPUがX86以外だとWindowsはかなり不利なんですよね。>MacOSはApple自身がサポートすることで中央集権的にソフトウェア開発を行うことで回避できましたがおお!そうだったのですね(お詳しい方のようですね)。私はx86でもx64でも同じかと思ってました。Appleが何故、自社ブランドで開発しているのか理由が分かった気がします。この話は面白そうですね(ちょっと動画にしたいな!と思いました)。ご視聴ありがとうございました😌
今までwindowsPhone やwindows 8等でx64 にも広げようとしてもx86用のソフトウェアが対応してないとかで失敗で終わりましたよね。
何なら昔はWindowsもAlphaとかPowerPCだとかMIPSだとかいろいろ対応してたけどみんな使わんので対応消えましたな
x86-64がWindowsで覇権とっている理由は、レガシーなソフトウェアから最新なものまでいろんなエンジニアが開発したソフトに「大体のものは」対応できる点。今でも20年以上前のソフトが動くって地味に凄いことだと思う。OSが対応してくれない場合を除くけどARM系のだとx86系ほど効率よく処理できる演算器を持ってないから、同じ土俵に立たせるとAppleシリコンでもスナドラXと同じ結果になりそう。
まだまだ買わなくていいな。今のNPU買ったところで性能低いやろうしもうちょい見てよう
各社勝手に NPU 出しているけど、ソフトの互換性は大丈夫なのかと思います。 NVIDIA が圧倒的なのは CUDA が標準に成っているからで、他社では性能が出ないため NVIDIA に集中していますが NPU の標準はまだ無さそうです。今は標準の取り合いかも知れないですね、 NVIDIA は GeForce があるので CPU は相手にしないと思うけど ARM を取り込めば最強かも知れない。
コメントありがとうございます😌HWにお詳しい方のようですね。>各社勝手に NPU 出しているけど、ソフトの互換性は大丈夫なのかと思います。>NVIDIA が圧倒的なのは CUDA が標準に成っているからで、~省略~NPUの実装により、互換性は気になるところですね...新しいプロセッサだけに、すぐに飛びつきたい気持ちはあるのですが、互換性やAI対応ソフトが少ないのも気になりますので、まだ購入するには早いのかな?と思います。NVDIAの標準の話は、私は知りませんでした。株価が上がっている話は聞いているので、高性能なのは分かっている AND 売れているGPUという印象だったのですが、そういう優位性があったのですね。ご視聴ありがとうございました‼️
スナドラNPUボードx16とか出ればデスクトップに刺すだけで、どうでしょう?
コメントありがとうございます😌個人的にはコメントのような外付けグラボのNPU版みたいな製品は出て欲しいですね(でも値段が高そう...)Thunderbolt接続でサクッと外付けNPU!←数年後に出そうな気がします(笑)😆ご視聴ありがとうございました。
5:407:47CPU
MSのNPUサポートによって、NPU搭載機が一気に増えていってますな。ただ、ライトゲーマーにとっては、NPU搭載の為に、AMDがiGPU側の性能削ってしまったのが痛いですね。本来ならミドルレンジのdGPU並みになる予定が、出来なくなったようです。
コメントありがとうございます😌お詳しい方のようですね😲NPU搭載機は増えている印象はありますね>本来ならミドルレンジのdGPU並みになる予定が、出来なくなったようです。おお...そうでしたか...こちらはもったいない話ですね。私はAMDが好きなのでAMDには頑張って欲しいです。ご視聴ありがとうございました‼️
機械学習モデルの開発に携わってるんですが、、、実はNPUの方が遅いって事もあるんです…そしてSnapdragon XはGPUアレで..あんま使えませんでした…ちなみにAppleのチップは随分前からCPUコアで行列演算が効率的にできるようになってます
コメントありがとうございます😌おお!機械学習に関わっている方の意見、是非聞きたかったです(私の専門外ともあり)。NPUの方が遅いパターン...やっぱりあるんですね。この辺、私は明るくないので調べて動画で解説しようか悩んでました。また、AppleのMシリーズは、やはり高性能なようですね。動画でも解説しましたが、IntelやAMDに対抗できるぐらいになっているのは、素直に凄いと思います。ご視聴ありがとうございました。
Apple CPUの行列演算命令は汎用のCPUコアではなくCPU外部のアクセラレータで実装しているので実質NPUです
おっしゃることも一理ありますが、少し補足させていただくと、AppleのCPUに搭載されている行列演算アクセラレーター、特にAMX(M4ではARMv9のSMCもサポートされています)は、汎用的な演算命令を高速化するためのものです。これにより、最大FP64精度の行列演算を効率的に処理できるようになっており、機械学習に特化したものではありません。一方、NPU(Neural Processing Unit)は、一般的に8bitから16bitの低精度演算を高速で処理するための専用ハードウェアで、特に機械学習の推論などで頻繁に使用されるアルゴリズムに最適化されています。NPUは、例えばActivation Functionといった機械学習に関連する処理を高速化するための専用回路を多数備えています。Apple SiliconではこれがNeural Engineとして実装されています。また、行列演算自体は、CPUのアクセラレーター(AMXやSMC)でもNPUでも高速に実行可能です。しかし、ハードウェアレベルでの違いとして、AMXやSMCはCPU本体とLキャッシュを介してデータをやり取りするのに対し、NPUは主にRAMを使用してCPUとデータのやり取りを行います。従って、ハードウェアアクセラレーター(AMXやSMC)とNPUは、同様の行列演算が可能であるものの、その目的も構造も異なると言えます。
スマホやタブレットの仮想RAMの説明をお願いします。
投稿お疲れ様です。恥ずかしながらNPUを知りませんでした。CPUよりNPUが省電力かつ高速な処理ができて、AI処理に特化しているのがわかりました。一方、NPUは高価であるですね。でも今後はNPUが必ず伸びてくると感じました。NPUが高い理由は何でしょうか?生産が増えてくると安くなるのでしょうか。NPUには何か高い素材が使われているのでしょうか?NPU製造に必要な資源は何なのかなど、非常に興味が湧く有益な動画でした。情報ありがとうございました。いろいろ調べてみたいと思いました。
いつもご視聴ありがとうございます😊NPUは新しい概念というかプロセッサであり、ようやく日の目を見てので知らない方も居られると思います。現在、とても高価なものの、今後は間違いなく伸びる製品だと思いますね。NPUの価格が高いのは、やはり円安の影響も少なからずあると思います。PCパーツには多くの半導体が使われている事と、SSDやHDDなどは海外で製造しているので為替レートの影響もあります。例として10年ぐらい前にタイで洪水があり、HDDの価格がかなり上昇した事があります。そして研究開発投資費用も価格に上乗せされているそうです。また、AI分野が伸びているので需要が高まっている事も要因ですね。ご視聴ありがとうございました‼️
@@yukuri_it_channel 返信ありがとうございます。やはり海外で製造しているですね。需要増に伴う日本への供給不足が心配されますね。この動画の再生数も伸びていますね!おめでとうございます!今ホットな話題なんでしょうね!
NPUというもののその実態は拡張命令と支援機能をゴテゴテに盛った並列化演算器だから、機械学習の処理をディスクリートGPUにさせるのとまったく変わらない早い話がよくあるコプロセッサスマホ向けに載せるったって、SoCにAI支援機能チップセットが混ざるよって程度の話でしかないからあんまり大真面目に受け取ってもガッカリするだけだぞ
一般ユーザーが使う範囲で、ローカル推論がどこまで流行るかは結構微妙なラインな気がしています現状の内蔵NPUくらいの性能だと一般人がAIに期待するような結果を得られないですし業務用途で使うようなソフトだとお金かける前提でGPUになる気がするし開発側としてもCUDAエコシステムが強すぎる
コメントありがとうございます>現状の内蔵NPUくらいの性能だと一般人がAIに期待するような結果を得られないですし激しく同意です‼️ NPU...ローカルでAIが使えるのは良いですが、性能はイマイチだと思っております。ローカルなのでセキュリティ性は担保されるぐらいがメリットで、汎用機には負けると思います。それにGPUの方が高性能な面もありますからね...NPUは伸びしろはあると思いますので今後どう進化するかがカギと思っております。ご視聴ありがとうございました。
ソフトウェアはどのように複数メーカーのNPUに対応するのでしょうね。GPUを計算に使うときはほぼAMDのcuda一択だったというイメージを持ってます。windowsがうまいこと複数メーカーのNPUをラッピングしてくれるのでしょうか?
コメントありがとうございます😌今後のNPUの動向ですが、間違いなくNPUは視野に入れた上での製品開発になりますね。既にAMDやIntelはNPUチップ内蔵型を販売してますが、今後はNPUとCPUやGPUのいいとこ取りをした製品なんかも出てきそうな予想をしております(すんごい値段しそうですが...)。>windowsがうまいこと複数メーカーのNPUをラッピングしてくれるのでしょうか?う~ん。これは視野に入れてくるでしょうね。Microsoftは先日、copilot+PCというAIやNPUを完全に意識したPCを発売しましたので、Windows上でNPUをラッピングする事は、企業側の動きを見ると間違いなくして来ると思います。ただ、今のところ、NPUにしたらアプリが動かなくなった...なんて話を少し聞きますので、まずはその辺の対応からでしょうね。ご視聴ありがとうございました。
今のところはバッテリーの持ちぐらいしか一般人には恩恵が無いなこれからのソフト開発に期待して待ってます
具体的にAIを使ってコンテンツとしてのゲームを超えた物を提供しない限り、GPUあればついでにやらせる程度で期待はしていない。逆に期待を裏切る世界があるなら見せてくれ。その時はAI特化マシン作ったるw
今までもこれからも人柱待ちの姿勢は変わらない私w
いつもご視聴ありがとうございます😊人柱待ち(笑)私も同じく待ってたりしますよ(笑)😆Snapdragon、値段が高いのとNPUとアプリの相性次第では動作しないアプリも、まだありそうな気がしております。買うとしたら、再来年ぐらいの数世代先のSnapdragonかな~?と思っております。ご視聴ありがとうございました‼️
安くなるまでだいぶ時間かかるだろうなーと思いながら眺めてます。動かなくなるアプリケーションも結構出てきそうですね。
コメントありがとうございます😌😌ですね...現在、NPUは高いですからね...動画作った後にニュースで「QualcommがSnapdragon Xの廉価版を開発中。投入は2025年下旬」なんてニュースを見た事もあり、気軽にNPUが買えるようになるには、早くても来年以降かな🤔?と思ってます。また、NPUにした事で動作しなくなってしまうアプリも気になるところです...ご視聴ありがとうございました‼
スナドラ x elite使っているが互換性よりも,さっさとNPUが使われているソフト出して!!
GeForce RTXシリーズのTensorがNPUに相当するプロセッサで何年も前から実用化されていたのにね...。
解説ありがとうございます、プログラムに対しての自然言語という括りがあるのは知りませんでした。医療機器へ搭載されていることや汎用処理向きではないとのこと、PCよりかは専用機器の処理に特化しているのかもしれませんね。AIの学習情報などは個別機器でのストックよりかは、現在では大規模サーバでの運用のほうが利便性はあるのかな~とは思っています。価格が高いのは出始めIT機器のお約束?
いつもご視聴ありがとうございます😌自然言語処理は、今や普及しておりますね。使った事があると思いますが、人間の言語を理解してくれるChatGPTなどがまさにそれです。また、SiriやGoogle Assistantなども、音声アシスタントとしてこの技術を利用しています。AIは性能は凄いものの、まだグラボ搭載PCの方が性能が高いので、AI処理特化感が否めないです。>価格が高いのは出始めIT機器のお約束?お約束です(笑)😆SSDとかも最初は高っ‼️😱って話題になってました。やっぱり新しい技術なので、研究開発投資費用も価格に上乗せされているそうです。安くなってくるのは、早くても2025年の後半かな?と思ってます。ご視聴ありがとうございました‼️
どう考えてもRyzen AIドライバーの機能ほぼほぼ使えるからRSRとかでfpsブーストできる
もしGPUみたいに単体で拡張カード化して数百ワットのTDPやビッグダイ化すれば4090声の計算能力になるのかね?
AIが今後のIT業界の目玉になるのは間違いないですが、ゲームなんかも敵キャラの行動パターンをAIで動かしたり、喋る内容もAI+合成音声で無限に生成されたりとか、そういう未来も来るのかもですね。
NPUとしてはSnapdragonは優秀だけどWindowsのソフトやゲームがまともに動かないという情報も出てるしねまあ総合的に見てまだまだIntelとAMDが安定かな
NPUと言えばネットワークプロセッサだったけどな、ニッチな用語だけど。AI学習はNVIDIAのGPUが圧倒的に多いです(Googleの専用チップは除く)。AMDのGPUは他のRUclipsrさんが検証していましたが、Linux版で有ればほぼNVIDIAのGPUと同等の性能が出るらしいです。しかし、如何せんNVIDIAがスタートダッシュを決めて業界標準的な立場になったので、AMDの逆転は難しそうです。(データセンター向けGPU市場におけるNVIDIAの2023年売上シェアが98%)推論だけならNPUでも十分そうなので、勢力争いがどうなるか見ものです。
コメントありがとうございます‼️お詳しい方かたのようですね👀AI学習はNVIDIAのGPUが優勢な話は聞いた事がありますね。>AMDのGPUは他のRUclipsrさんが検証していましたが、Linux版で有ればほぼNVIDIAのGPUと同等の性能が出るらしいです。おお!これの話は知りませんでした。私としても検証してみたいのですが、製品購入代金も掛かるので断念せざるを得なかったので知りたかった情報です。個人的には、AMDで好きなのでちょっと残念な話もあるんですね😱...NVIDIAは投資界隈でも話題になるぐらいなので、この牙城を崩すのは至難だろうなと思っております。私も今後の展開を楽しみにしておりますねご視聴ありがとうございました😌
ありがとうございました。まさかHOTなNPUが来るとはw w w。ま〜実際な話1〜2年で価格の落ち着きと、為替レート及びソフトウェアと ハードのマッチング?と思います。またNPU搭載PC購入してもChat-GPTするだけの人が多そうw w私的には2年前に自作したintel core i7-12700k and GeForce RTX 3060 Pcで満足して現役バリバリです。でもNPU搭載PCも欲しいw w w
@Takedakatuyori さん、いつもご視聴ありがとうございます😊NPUの価格が落ち着くのは、その位の年数が掛かりそうですね...ドル積み立ての投資をしているので為替(円安)の話は耳にしてますが、それでもちょっと高価格になりそうと思ってます。おお‼️自作PCですか‼️コメントのPCなら暫くは全然現役で使えますね😊私も昔は自作PCを作ってました。そして同じくCPUはやはり「K」シリーズ(笑)😆とは言えNPUは欲しい😶...これはちょっと使ってみたいですからねご視聴ありがとうございました‼️
RTX 3060なら16ビット浮動小数点演算で100TOPS以上はあるので現在のNPU以上の性能は出せますよ
10年後、CPU+GPU+NPUでリアルでリアルタイムなゲームが実現しそうです。
他の方もコメで指摘しているけど学習環境で使う場合、NPUのローカル環境だとサーバー経由で強強GPU使うのに敵わないから、立ち位置微妙だよなぁ、、生成AIみたいに既存の学習モデル使ったソフトが今後スタンダードになれば需要あるのか?
あと、NPUが微妙なのはマシン上で動くWindowsソフト開発環境が微妙なところもあります。Visual Studioは頑張ってますが、Win UIがダサいので旧世代のWPFよりも見た目が悪いなど昨今Web技術ベースのクロスプラットフォーム開発フレームワークを使った重いけど見た目が良くて、いろいろなマシンで動くデスクトップで動くけどプラットフォームの機能を使い切れてはいないソフトが幅を利かせる中でNPUを使うソフトが増えるのかどうかが微妙な気がします。
NPUとGPUは将来統合しそう。
コメントありがとうございます😌この意見、私も薄々思っております(昔、Windows 9x系とNTが統合したように...想像しますよね)。NPUとGPU...これらが統合したら、それぞれの良いとこ取りとなり、画期的なプロセッサが誕生するのでは?🤔なんて思ってます。ご視聴ありがとうございました‼️
AI処理用だと他にLPU、TPU、IPUなんてのもありますね。いずれにしてもGPU同様に専用の記憶領域が必要で特に高速処理が必要な場合は広帯域のものが要るでしょう。CPU、GPU、NPUを搭載して専用メモリもとなるとかなりの高コストになるし、いまのところ、そのような製品がないのでどうなるかはわかりませんが、私の想像力ではモバイルにするベネフィットが見えてきません。今後もいろんなタイプのAI処理向けRISCプロセサが出てくると思いますが、まだ、一般ユーザーは向こう3年ぐらいはGPUかクラウドでしのぐのが得策のように思えます。
結局肝心なAIソフトが使えないものばかりならNPUは「シリコンの無駄」でしかないんだよな…
コメントありがとうございます😌そこなんですよね...AMDやIntelなら本格的なNPUじゃないから、まだ無駄にはならないのですが、Snapdragonを生かすなら、やはりAI対応ソフトでないとコスパが悪く思います😂...今後、AIソフトは増えていくとは思いますが、今年中は厳しい状況だと思いますね...とは言え、NPUは高性能なので使ってみたくはあります。ご視聴ありがとうございました‼️
長年のWIndowsユーザでしたが来年あたりにMacOSに乗り換えようか検討中ですWindowsじゃなければいけない理由もゲーム以外ないのでとくに今後のAI分野に関してはAppleシリコンが優位になりそうですデスクトップ版インテルは爆熱、不具合問題が・・・
気になってたんだよね!
タイトルがスナップドラドンになてますよ。
おお...ご指摘ありがとうございます😌しれっと修正しておきました(いや~気づけなかったです)...
消費電力がキモかなモバイル・IoTデバイス仕向だろうね、そこまで消費電力が落とせるなら価値は出るでーたせんたーあたりはCPU拡張命令追加やGPUで事足りる
コメントありがとうございます😊Snapdoragonの消費電力を活かすならモバイルですね。ノートPCでWindowsのバッテリー稼働時間を延長させる事が出来れば、他のCPUとの差別化でき、ノートPCならSnapdragonにすると稼働時間が大幅に延長!なんて謳い文句もできます(この利点は大きいです)。とは言え、ローカルのNPUではAI処理を活かしきれるのか!?は、まだ疑問に思う人は多いので、将来性に期待ですね。ご視聴ありがとうございました‼️
アップル製は常にぼったくられそうで関わりたくない
コメントありがとうございます。激しく同意です...apple製品はデザインもシンプルかつ比較的高性能、そして自社販売なのに何故にあんなに高いのか(私はappleアンチではないです)...円安の影響は間違いなく受けてますが、それでも以前から「値段高いな...」とは思ってましたね。
それにしてもグラボは高いね。
実はAppleのAシリーズのSoCは2017年のA11BionicチップからAppleNeuralEngineを搭載してるんですよね。AppleはNeuralEngineを強く売り出してないみたいですが、よく考えてみればiPhoneはバッテリー容量がAndroid系よりも少ないのに十分な持続時間があり省電力性に優れてますし、音声認識やカメラのソフト側での処理など、知らないうちにNPUの恩恵を受けてたんですね。NeuralEngineをNPUと言うのかは分かりませんが…GoogleもGeminiを発表し、iOS18からはApple Intelligenceも追加されるのでこれから楽しみです
コメントありがとうございます😊Apple製品にお詳しい方のようですね。そういえば「iPhoneは電池持ちがよい」なんて話を聞いた事があるのですが、この話が裏付けのようですね。NPUと呼ぶかどうか...という話はありますが、技術的な恩師を受けているように思います。私、実はApple製品に詳しくないので、こういったコメントはとても参考になります。ご視聴ありがとうございました‼️
@@yukuri_it_channel お恥ずかしながらNeuralEngineが何なのかはこの動画で気付いたんです…
そのうちPCI Expressで搭載できるやつが来てpytorchが使えればあるいは...
コメントありがとうございます😌おお...この組み合わせは面白そうですね。気軽にNPU機能を拡張できるようになり、PyTorchで機械学習も出来るようになれば、PC市場の別な形が見えてきそうですね。ご視聴ありがとうございました‼️
HAILOがそれっぽいのだすね
最近のGPUなりNPUなり、新技術の進化が凄まじくて追いつけないです。またPCのスペックでCPUの部分だけ見ても、昔はインテルだけだったのが最近はメーカーが多様な上に、その中で性能や世代が多くて選ぶのが大変!!!またメーカーによって世代など表記が違うのでパッと見で分かりにくい。結果、自分に合うモノが分からない。
@VIERDUKEさん、いつもご視聴ありがとうございます😊今は、AI技術の進化背景もあり、多様性になってきましたねCPUは昔はCMで「Intel入ってる!」で、Intelが一世を風靡していた感がありますが、今は他のメーカーも伸びている来ているのを感じます(ちょっと前のAMD Ryzeなど)。高性能化は良いのですが、自分にあったハードウェアを選ぶのが難しくなってますね🤔...その場合、価格.comやレビュー評価とかを気にするようにしてます。ご視聴ありがとうございました‼️
お金ないから買えないや…
NPU搭載SoCと非搭載Socの性能差を示すものがなく、謎が多いので、将来どうするか迷っています。速度よりAIを用いた場合と用いなかった場合の結果の違いを話す映像がありません。宣伝では「よくなった」宣伝的表現で、映像分野を使わない者は、提案するコメントが違うと言いますけど、その内容を採用する程、適切と思えません。その言葉を使えば、ネットの内容とリンクしてしまうため、似せたものに留まってしまい、その情報が洩れているとも言えます。もし、できれば、NPU搭載、非搭載の結果違いを客観的内容で映像を作ってもらえませんでしょうか。少電力、高速などは不要です。出てくる結果内容の違いをお願いします。
HUAWEI Kirin😢金髪のオッさんに消されてたけど😢
省電力?AI演算で発電量が倍になるだろうという話があるのに?まあ、NPUで精度落として消費電力は確かに下がるけれど。。。貧乏人には高くてまだ買えません(号泣)もうちょっと安くなってくれ!!!
それはGPUでの演算の話で、NPUはニューラルネットワークのみに特化してるのでGPU並の性能を出しても消費電力がかなり抑えられるという話です。ちなみにGPUでもGeForce RTX 4000シリーズでも精度を落とした8ビットの浮動小数点演算に対応しています。
これAPUをNPUって言ってるだけとちゃうの? って勝手に解釈してるんだけど実際のとこどうなんでしょ? デスクトップ用NPUとか発表されないし、業界全体でゲーミングノートPCをAI搭載ノートPCって名目で売ろうとしてるんじゃないかと怪しんでますww
それをいうならGPGPUな
違います
ちょっと調べたらタスクマネージャーのパフォーマンスにGPUとは別にNPUの項目が表示されるみたいですね。失礼しました。デスクトップ用NPUも出してほし~
コスパならDELL。8万円台で搭載してるし。NPU搭載と騒ぎ立てて、高く売ろうとしている策略も見える。
つまりcellって事?cellと何が違うん?
イチコメ
話題の割に載らなすぎる9950Xに絶望した早くAIにパソコンを操作してもらいたいのに
Appleは何年も前からNPUを搭載していますって自慢してたけど、大して他社と性能変わらん
ゲーム用なら別になあ・・・
今回はマイクロソフトの「Surface」の新モデルが2024/6/18に発売されたので、NPUにしてみました。
ただ...ゲーミングPCの方が性能が良かったりする場合もあり、悩ましい...
今年もPCを買い替える予定だけど、
コスパを考慮すると今のところAMD Ryzen AI機能があるCPUのノートPCが一番手候補かな...
当チャンネルでは、公式ブログやSNS活動、メンバーシップもしております。
<当チャンネルの公式ブログ>
yukuri-it-channel.com/
動画制作の裏側や、うぷ主の日常やノウハウを不定期で配信!
<SNS活動>
X(Twitter)
twitter.com/yukuri_it
Instagram
instagram.com/yukuri_it_channel/
threads
threads.net/@yukuri_it_channel
何気にAppleは数年前から、NeuralEngineっていう名前でNPU搭載してるよね
しかし、CPUがX86以外だとWindowsはかなり不利なんですよね。MacOSはApple自身がサポートすることで中央集権的にソフトウェア開発を行うことで回避できましたが、Windowsは沢山の会社がハードウェア開発をしているため、その手法を行うことは出来ないので、難しいと言われている。
コメントありがとうございます。
>CPUがX86以外だとWindowsはかなり不利なんですよね。
>MacOSはApple自身がサポートすることで中央集権的にソフトウェア開発を行うことで回避できましたが
おお!そうだったのですね(お詳しい方のようですね)。
私はx86でもx64でも同じかと思ってました。
Appleが何故、自社ブランドで開発しているのか理由が分かった気がします。
この話は面白そうですね(ちょっと動画にしたいな!と思いました)。
ご視聴ありがとうございました😌
今までwindowsPhone やwindows 8等でx64 にも広げようとしてもx86用のソフトウェアが対応してないとかで失敗で終わりましたよね。
何なら昔はWindowsもAlphaとかPowerPCだとかMIPSだとかいろいろ対応してたけどみんな使わんので対応消えましたな
x86-64がWindowsで覇権とっている理由は、レガシーなソフトウェアから最新なものまでいろんなエンジニアが開発したソフトに「大体のものは」対応できる点。今でも20年以上前のソフトが動くって地味に凄いことだと思う。OSが対応してくれない場合を除くけどARM系のだとx86系ほど効率よく処理できる演算器を持ってないから、同じ土俵に立たせるとAppleシリコンでもスナドラXと同じ結果になりそう。
まだまだ買わなくていいな。今のNPU買ったところで性能低いやろうしもうちょい見てよう
各社勝手に NPU 出しているけど、ソフトの互換性は大丈夫なのかと思います。 NVIDIA が圧倒的なのは CUDA が標準に成っているからで、他社では性能が出ないため NVIDIA に集中していますが NPU の標準はまだ無さそうです。今は標準の取り合いかも知れないですね、 NVIDIA は GeForce があるので CPU は相手にしないと思うけど ARM を取り込めば最強かも知れない。
コメントありがとうございます😌HWにお詳しい方のようですね。
>各社勝手に NPU 出しているけど、ソフトの互換性は大丈夫なのかと思います。
>NVIDIA が圧倒的なのは CUDA が標準に成っているからで、~省略~
NPUの実装により、互換性は気になるところですね...
新しいプロセッサだけに、すぐに飛びつきたい気持ちはあるのですが、互換性やAI対応ソフトが少ないのも気になりますので、
まだ購入するには早いのかな?と思います。
NVDIAの標準の話は、私は知りませんでした。
株価が上がっている話は聞いているので、高性能なのは分かっている AND 売れているGPUという印象だったのですが、
そういう優位性があったのですね。
ご視聴ありがとうございました‼️
スナドラNPUボードx16とか出ればデスクトップに刺すだけで、どうでしょう?
コメントありがとうございます😌
個人的にはコメントのような外付けグラボのNPU版みたいな製品は出て欲しいですね(でも値段が高そう...)
Thunderbolt接続でサクッと外付けNPU!←数年後に出そうな気がします(笑)😆
ご視聴ありがとうございました。
5:40
7:47
CPU
MSのNPUサポートによって、NPU搭載機が一気に増えていってますな。
ただ、ライトゲーマーにとっては、NPU搭載の為に、AMDがiGPU側の性能削ってしまったのが痛いですね。
本来ならミドルレンジのdGPU並みになる予定が、出来なくなったようです。
コメントありがとうございます😌
お詳しい方のようですね😲
NPU搭載機は増えている印象はありますね
>本来ならミドルレンジのdGPU並みになる予定が、出来なくなったようです。
おお...そうでしたか...こちらはもったいない話ですね。
私はAMDが好きなのでAMDには頑張って欲しいです。
ご視聴ありがとうございました‼️
機械学習モデルの開発に携わってるんですが、、、実はNPUの方が遅いって事もあるんです…そしてSnapdragon XはGPUアレで..あんま使えませんでした…
ちなみにAppleのチップは随分前からCPUコアで行列演算が効率的にできるようになってます
コメントありがとうございます😌
おお!機械学習に関わっている方の意見、是非聞きたかったです(私の専門外ともあり)。
NPUの方が遅いパターン...やっぱりあるんですね。
この辺、私は明るくないので調べて動画で解説しようか悩んでました。
また、AppleのMシリーズは、やはり高性能なようですね。
動画でも解説しましたが、IntelやAMDに対抗できるぐらいになっているのは、素直に凄いと思います。
ご視聴ありがとうございました。
Apple CPUの行列演算命令は汎用のCPUコアではなくCPU外部のアクセラレータで実装しているので実質NPUです
おっしゃることも一理ありますが、少し補足させていただくと、AppleのCPUに搭載されている行列演算アクセラレーター、特にAMX(M4ではARMv9のSMCもサポートされています)は、汎用的な演算命令を高速化するためのものです。これにより、最大FP64精度の行列演算を効率的に処理できるようになっており、機械学習に特化したものではありません。
一方、NPU(Neural Processing Unit)は、一般的に8bitから16bitの低精度演算を高速で処理するための専用ハードウェアで、特に機械学習の推論などで頻繁に使用されるアルゴリズムに最適化されています。NPUは、例えばActivation Functionといった機械学習に関連する処理を高速化するための専用回路を多数備えています。Apple SiliconではこれがNeural Engineとして実装されています。
また、行列演算自体は、CPUのアクセラレーター(AMXやSMC)でもNPUでも高速に実行可能です。しかし、ハードウェアレベルでの違いとして、AMXやSMCはCPU本体とLキャッシュを介してデータをやり取りするのに対し、NPUは主にRAMを使用してCPUとデータのやり取りを行います。
従って、ハードウェアアクセラレーター(AMXやSMC)とNPUは、同様の行列演算が可能であるものの、その目的も構造も異なると言えます。
スマホやタブレットの仮想RAMの説明をお願いします。
投稿お疲れ様です。
恥ずかしながらNPUを知りませんでした。
CPUよりNPUが省電力かつ高速な処理ができて、AI処理に特化しているのがわかりました。一方、NPUは高価であるですね。でも今後はNPUが必ず伸びてくると感じました。
NPUが高い理由は何でしょうか?生産が増えてくると安くなるのでしょうか。
NPUには何か高い素材が使われているのでしょうか?
NPU製造に必要な資源は何なのかなど、非常に興味が湧く有益な動画でした。
情報ありがとうございました。いろいろ調べてみたいと思いました。
いつもご視聴ありがとうございます😊
NPUは新しい概念というかプロセッサであり、ようやく日の目を見てので知らない方も居られると思います。
現在、とても高価なものの、今後は間違いなく伸びる製品だと思いますね。
NPUの価格が高いのは、やはり円安の影響も少なからずあると思います。
PCパーツには多くの半導体が使われている事と、SSDやHDDなどは海外で製造しているので為替レートの影響もあります。
例として10年ぐらい前にタイで洪水があり、HDDの価格がかなり上昇した事があります。
そして研究開発投資費用も価格に上乗せされているそうです。
また、AI分野が伸びているので需要が高まっている事も要因ですね。
ご視聴ありがとうございました‼️
@@yukuri_it_channel 返信ありがとうございます。やはり海外で製造しているですね。需要増に伴う日本への供給不足が心配されますね。
この動画の再生数も伸びていますね!おめでとうございます!
今ホットな話題なんでしょうね!
NPUというもののその実態は拡張命令と支援機能をゴテゴテに盛った並列化演算器だから、
機械学習の処理をディスクリートGPUにさせるのとまったく変わらない
早い話がよくあるコプロセッサ
スマホ向けに載せるったって、SoCにAI支援機能チップセットが混ざるよって程度の話でしかないから
あんまり大真面目に受け取ってもガッカリするだけだぞ
一般ユーザーが使う範囲で、ローカル推論がどこまで流行るかは結構微妙なラインな気がしています
現状の内蔵NPUくらいの性能だと一般人がAIに期待するような結果を得られないですし
業務用途で使うようなソフトだとお金かける前提でGPUになる気がするし開発側としてもCUDAエコシステムが強すぎる
コメントありがとうございます
>現状の内蔵NPUくらいの性能だと一般人がAIに期待するような結果を得られないですし
激しく同意です‼️ NPU...ローカルでAIが使えるのは良いですが、性能はイマイチだと思っております。
ローカルなのでセキュリティ性は担保されるぐらいがメリットで、汎用機には負けると思います。
それにGPUの方が高性能な面もありますからね...NPUは伸びしろはあると思いますので今後どう進化するかがカギと思っております。
ご視聴ありがとうございました。
ソフトウェアはどのように複数メーカーのNPUに対応するのでしょうね。GPUを計算に使うときはほぼAMDのcuda一択だったというイメージを持ってます。windowsがうまいこと複数メーカーのNPUをラッピングしてくれるのでしょうか?
コメントありがとうございます😌
今後のNPUの動向ですが、間違いなくNPUは視野に入れた上での製品開発になりますね。
既にAMDやIntelはNPUチップ内蔵型を販売してますが、
今後はNPUとCPUやGPUのいいとこ取りをした製品なんかも出てきそうな予想をしております(すんごい値段しそうですが...)。
>windowsがうまいこと複数メーカーのNPUをラッピングしてくれるのでしょうか?
う~ん。これは視野に入れてくるでしょうね。
Microsoftは先日、copilot+PCというAIやNPUを完全に意識したPCを発売しましたので、
Windows上でNPUをラッピングする事は、企業側の動きを見ると間違いなくして来ると思います。
ただ、今のところ、NPUにしたらアプリが動かなくなった...なんて話を少し聞きますので、
まずはその辺の対応からでしょうね。
ご視聴ありがとうございました。
今のところはバッテリーの持ちぐらいしか一般人には恩恵が無いな
これからのソフト開発に期待して待ってます
具体的にAIを使ってコンテンツとしてのゲームを超えた物を提供しない限り、GPUあればついでにやらせる程度で期待はしていない。逆に期待を裏切る世界があるなら見せてくれ。その時はAI特化マシン作ったるw
今までもこれからも
人柱待ちの姿勢は変わらない私w
いつもご視聴ありがとうございます😊
人柱待ち(笑)私も同じく待ってたりしますよ(笑)😆
Snapdragon、値段が高いのとNPUとアプリの相性次第では動作しないアプリも、まだありそうな気がしております。
買うとしたら、再来年ぐらいの数世代先のSnapdragonかな~?と思っております。
ご視聴ありがとうございました‼️
安くなるまでだいぶ時間かかるだろうなーと思いながら眺めてます。
動かなくなるアプリケーションも結構出てきそうですね。
コメントありがとうございます😌😌
ですね...現在、NPUは高いですからね...
動画作った後にニュースで「QualcommがSnapdragon Xの廉価版を開発中。投入は2025年下旬」なんてニュースを見た事もあり、
気軽にNPUが買えるようになるには、早くても来年以降かな🤔?と思ってます。
また、NPUにした事で動作しなくなってしまうアプリも気になるところです...
ご視聴ありがとうございました‼
スナドラ x elite使っているが互換性よりも,さっさとNPUが使われているソフト出して!!
GeForce RTXシリーズのTensorがNPUに相当するプロセッサで何年も前から実用化されていたのにね...。
解説ありがとうございます、プログラムに対しての自然言語という括りがあるのは知りませんでした。
医療機器へ搭載されていることや汎用処理向きではないとのこと、PCよりかは専用機器の処理に特化しているのかもしれませんね。
AIの学習情報などは個別機器でのストックよりかは、現在では大規模サーバでの運用のほうが利便性はあるのかな~とは思っています。
価格が高いのは出始めIT機器のお約束?
いつもご視聴ありがとうございます😌
自然言語処理は、今や普及しておりますね。
使った事があると思いますが、人間の言語を理解してくれるChatGPTなどがまさにそれです。
また、SiriやGoogle Assistantなども、音声アシスタントとしてこの技術を利用しています。
AIは性能は凄いものの、まだグラボ搭載PCの方が性能が高いので、AI処理特化感が否めないです。
>価格が高いのは出始めIT機器のお約束?
お約束です(笑)😆SSDとかも最初は高っ‼️😱って話題になってました。
やっぱり新しい技術なので、研究開発投資費用も価格に上乗せされているそうです。
安くなってくるのは、早くても2025年の後半かな?と思ってます。
ご視聴ありがとうございました‼️
どう考えてもRyzen AI
ドライバーの機能ほぼほぼ使えるからRSRとかでfpsブーストできる
もしGPUみたいに単体で拡張カード化して数百ワットのTDPやビッグダイ化すれば4090声の計算能力になるのかね?
AIが今後のIT業界の目玉になるのは間違いないですが、ゲームなんかも敵キャラの行動パターンをAIで動かしたり、喋る内容もAI+合成音声で無限に生成されたりとか、そういう未来も来るのかもですね。
NPUとしてはSnapdragonは優秀だけどWindowsのソフトやゲームがまともに動かないという情報も出てるしね
まあ総合的に見てまだまだIntelとAMDが安定かな
NPUと言えばネットワークプロセッサだったけどな、ニッチな用語だけど。
AI学習はNVIDIAのGPUが圧倒的に多いです(Googleの専用チップは除く)。
AMDのGPUは他のRUclipsrさんが検証していましたが、Linux版で有ればほぼNVIDIAのGPUと同等の性能が出るらしいです。
しかし、如何せんNVIDIAがスタートダッシュを決めて業界標準的な立場になったので、AMDの逆転は難しそうです。
(データセンター向けGPU市場におけるNVIDIAの2023年売上シェアが98%)
推論だけならNPUでも十分そうなので、勢力争いがどうなるか見ものです。
コメントありがとうございます‼️お詳しい方かたのようですね👀
AI学習はNVIDIAのGPUが優勢な話は聞いた事がありますね。
>AMDのGPUは他のRUclipsrさんが検証していましたが、Linux版で有ればほぼNVIDIAのGPUと同等の性能が出るらしいです。
おお!これの話は知りませんでした。私としても検証してみたいのですが、
製品購入代金も掛かるので断念せざるを得なかったので知りたかった情報です。
個人的には、AMDで好きなのでちょっと残念な話もあるんですね😱...
NVIDIAは投資界隈でも話題になるぐらいなので、この牙城を崩すのは至難だろうなと思っております。
私も今後の展開を楽しみにしておりますね
ご視聴ありがとうございました😌
ありがとうございました。まさかHOTなNPUが来るとはw w w。ま〜実際な話1〜2年で価格の落ち着きと、為替レート及びソフトウェアと ハードのマッチング?と思います。またNPU搭載PC購入してもChat-GPTするだけの人が多そうw w私的には2年前に自作したintel core i7-12700k and GeForce RTX 3060 Pcで満足して現役バリバリです。でもNPU搭載PCも欲しいw w w
@Takedakatuyori さん、いつもご視聴ありがとうございます😊
NPUの価格が落ち着くのは、その位の年数が掛かりそうですね...
ドル積み立ての投資をしているので為替(円安)の話は耳にしてますが、それでもちょっと高価格になりそうと思ってます。
おお‼️自作PCですか‼️コメントのPCなら暫くは全然現役で使えますね😊
私も昔は自作PCを作ってました。そして同じくCPUはやはり「K」シリーズ(笑)😆
とは言えNPUは欲しい😶...これはちょっと使ってみたいですからね
ご視聴ありがとうございました‼️
RTX 3060なら16ビット浮動小数点演算で100TOPS以上はあるので現在のNPU以上の性能は出せますよ
10年後、CPU+GPU+NPUでリアルでリアルタイムなゲームが実現しそうです。
他の方もコメで指摘しているけど学習環境で使う場合、NPUのローカル環境だとサーバー経由で強強GPU使うのに敵わないから、立ち位置微妙だよなぁ、、
生成AIみたいに既存の学習モデル使ったソフトが今後スタンダードになれば需要あるのか?
あと、NPUが微妙なのはマシン上で動くWindowsソフト開発環境が微妙なところもあります。
Visual Studioは頑張ってますが、Win UIがダサいので旧世代のWPFよりも見た目が悪いなど昨今Web技術ベースのクロスプラットフォーム開発フレームワークを使った重いけど見た目が良くて、いろいろなマシンで動くデスクトップで動くけどプラットフォームの機能を使い切れてはいないソフトが幅を利かせる中でNPUを使うソフトが増えるのかどうかが微妙な気がします。
NPUとGPUは将来統合しそう。
コメントありがとうございます😌
この意見、私も薄々思っております(昔、Windows 9x系とNTが統合したように...想像しますよね)。
NPUとGPU...これらが統合したら、それぞれの良いとこ取りとなり、画期的なプロセッサが誕生するのでは?🤔なんて思ってます。
ご視聴ありがとうございました‼️
AI処理用だと他にLPU、TPU、IPUなんてのもありますね。
いずれにしてもGPU同様に専用の記憶領域が必要で特に高速処理が必要な場合は広帯域のものが要るでしょう。
CPU、GPU、NPUを搭載して専用メモリもとなるとかなりの高コストになるし、
いまのところ、そのような製品がないのでどうなるかはわかりませんが、
私の想像力ではモバイルにするベネフィットが見えてきません。
今後もいろんなタイプのAI処理向けRISCプロセサが出てくると思いますが、
まだ、一般ユーザーは向こう3年ぐらいはGPUかクラウドでしのぐのが得策のように思えます。
結局肝心なAIソフトが使えないものばかりならNPUは「シリコンの無駄」でしかないんだよな…
コメントありがとうございます😌
そこなんですよね...AMDやIntelなら本格的なNPUじゃないから、まだ無駄にはならないのですが、
Snapdragonを生かすなら、やはりAI対応ソフトでないとコスパが悪く思います😂...
今後、AIソフトは増えていくとは思いますが、今年中は厳しい状況だと思いますね...
とは言え、NPUは高性能なので使ってみたくはあります。
ご視聴ありがとうございました‼️
長年のWIndowsユーザでしたが来年あたりにMacOSに乗り換えようか検討中です
Windowsじゃなければいけない理由もゲーム以外ないので
とくに今後のAI分野に関してはAppleシリコンが優位になりそうです
デスクトップ版インテルは爆熱、不具合問題が・・・
気になってたんだよね!
タイトルがスナップドラドンになてますよ。
おお...ご指摘ありがとうございます😌
しれっと修正しておきました(いや~気づけなかったです)...
消費電力がキモかな
モバイル・IoTデバイス仕向だろうね、そこまで消費電力が落とせるなら価値は出る
でーたせんたーあたりはCPU拡張命令追加やGPUで事足りる
コメントありがとうございます😊
Snapdoragonの消費電力を活かすならモバイルですね。
ノートPCでWindowsのバッテリー稼働時間を延長させる事が出来れば、
他のCPUとの差別化でき、ノートPCならSnapdragonにすると稼働時間が大幅に延長!なんて謳い文句もできます(この利点は大きいです)。
とは言え、ローカルのNPUではAI処理を活かしきれるのか!?は、まだ疑問に思う人は多いので、将来性に期待ですね。
ご視聴ありがとうございました‼️
アップル製は常にぼったくられそうで関わりたくない
コメントありがとうございます。
激しく同意です...
apple製品はデザインもシンプルかつ比較的高性能、そして自社販売なのに何故にあんなに高いのか(私はappleアンチではないです)...
円安の影響は間違いなく受けてますが、それでも以前から「値段高いな...」とは思ってましたね。
それにしてもグラボは高いね。
実はAppleのAシリーズのSoCは2017年のA11BionicチップからAppleNeuralEngineを搭載してるんですよね。AppleはNeuralEngineを強く売り出してないみたいですが、よく考えてみればiPhoneはバッテリー容量がAndroid系よりも少ないのに十分な持続時間があり省電力性に優れてますし、音声認識やカメラのソフト側での処理など、知らないうちにNPUの恩恵を受けてたんですね。NeuralEngineをNPUと言うのかは分かりませんが…
GoogleもGeminiを発表し、iOS18からはApple Intelligenceも追加されるのでこれから楽しみです
コメントありがとうございます😊
Apple製品にお詳しい方のようですね。
そういえば「iPhoneは電池持ちがよい」なんて話を聞いた事があるのですが、この話が裏付けのようですね。
NPUと呼ぶかどうか...という話はありますが、技術的な恩師を受けているように思います。
私、実はApple製品に詳しくないので、こういったコメントはとても参考になります。
ご視聴ありがとうございました‼️
@@yukuri_it_channel お恥ずかしながらNeuralEngineが何なのかはこの動画で気付いたんです…
そのうちPCI Expressで搭載できるやつが来てpytorchが使えればあるいは...
コメントありがとうございます😌
おお...この組み合わせは面白そうですね。
気軽にNPU機能を拡張できるようになり、PyTorchで機械学習も出来るようになれば、PC市場の別な形が見えてきそうですね。
ご視聴ありがとうございました‼️
HAILOがそれっぽいのだすね
最近のGPUなりNPUなり、新技術の進化が凄まじくて追いつけないです。
またPCのスペックでCPUの部分だけ見ても、昔はインテルだけだったのが最近はメーカーが多様な上に、その中で性能や世代が多くて選ぶのが大変!!!
またメーカーによって世代など表記が違うのでパッと見で分かりにくい。
結果、自分に合うモノが分からない。
@VIERDUKEさん、いつもご視聴ありがとうございます😊
今は、AI技術の進化背景もあり、多様性になってきましたね
CPUは昔はCMで「Intel入ってる!」で、Intelが一世を風靡していた感がありますが、
今は他のメーカーも伸びている来ているのを感じます(ちょっと前のAMD Ryzeなど)。
高性能化は良いのですが、自分にあったハードウェアを選ぶのが難しくなってますね🤔...
その場合、価格.comやレビュー評価とかを気にするようにしてます。
ご視聴ありがとうございました‼️
お金ないから買えないや…
NPU搭載SoCと非搭載Socの性能差を示すものがなく、謎が多いので、将来どうするか迷っています。速度よりAIを用いた場合と用いなかった場合の結果の違いを話す映像がありません。宣伝では「よくなった」宣伝的表現で、映像分野を使わない者は、提案するコメントが違うと言いますけど、その内容を採用する程、適切と思えません。その言葉を使えば、ネットの内容とリンクしてしまうため、似せたものに留まってしまい、その情報が洩れているとも言えます。
もし、できれば、NPU搭載、非搭載の結果違いを客観的内容で映像を作ってもらえませんでしょうか。少電力、高速などは不要です。出てくる結果内容の違いをお願いします。
HUAWEI Kirin😢金髪のオッさんに消されてたけど😢
省電力?AI演算で発電量が倍になるだろうという話があるのに?まあ、NPUで精度落として消費電力は確かに下がるけれど。。。
貧乏人には高くてまだ買えません(号泣)もうちょっと安くなってくれ!!!
それはGPUでの演算の話で、NPUはニューラルネットワークのみに特化してるのでGPU並の性能を出しても消費電力がかなり抑えられるという話です。
ちなみにGPUでもGeForce RTX 4000シリーズでも精度を落とした8ビットの浮動小数点演算に対応しています。
これAPUをNPUって言ってるだけとちゃうの? って勝手に解釈してるんだけど実際のとこどうなんでしょ?
デスクトップ用NPUとか発表されないし、業界全体でゲーミングノートPCをAI搭載ノートPCって名目で売ろうとしてるんじゃないかと怪しんでますww
それをいうならGPGPUな
違います
ちょっと調べたらタスクマネージャーのパフォーマンスにGPUとは別にNPUの項目が表示されるみたいですね。失礼しました。
デスクトップ用NPUも出してほし~
コスパならDELL。8万円台で搭載してるし。NPU搭載と騒ぎ立てて、高く売ろうとしている策略も見える。
つまりcellって事?
cellと何が違うん?
イチコメ
話題の割に載らなすぎる
9950Xに絶望した
早くAIにパソコンを操作してもらいたいのに
Appleは何年も前からNPUを搭載していますって自慢してたけど、大して他社と性能変わらん
ゲーム用なら別になあ・・・