智慧手機中最「雞肋」又最「強大」的晶片--NPU,底層原理深度講解!為什麼說人工智慧離不開它?

Поделиться
HTML-код
  • Опубликовано: 16 ноя 2024

Комментарии • 70

  • @camfocus8888
    @camfocus8888 2 года назад +76

    這比喻我覺得不好!
    GPU是針對大量簡單平行計算的,NPU只是在GPU減少計算單元但是增加複雜一點的計算,是針對神經網路應用做設計的,其實都一樣,跑車卡車轎車的差別而已,一開始用轎車載人也能載一點貨物又能稍微飆一下車,後來才有專門載貨的卡車或專門飆車的跑車,都是針對需求去設計的車或處理器,沒有誰服務誰
    CPU是通用所以沒有太多加法器但是有可應付複雜的計算功能,也靠指令集跟寄存器完成配合程式做的特殊複雜的計算
    GPU是因為針對像素計算,有很多計算器尤其是矩陣計算的單元,所以不算通用是專門為大規模簡單計算設計的,能用在像素也能用在AI神經元細胞,複雜的AI細胞多到跟像素一樣多,所以平行同時做一堆簡單特定計算是GPU設計初衷
    沒有誰跟誰服務,都是給程式服務的,需要攏長複雜變化的交給CPU,需要大規模簡單計算的交給GPU,好比a+b要算一萬次,CPU必須快速算一萬次結束,GPU剛好有一萬個簡單計算器一次就算完了,又好比一個複雜的公式加減乘除都有而且很長,CPU來回計算三五次就出答案,交給GPU要先人工拆解成只剩簡單一萬次先後因果不能平行計算,然後GPU只能用萬分之一的一個計算器連續算一萬次才得出答案,所以CPU GPU NPU APU都是廣告術語,都是計算器只是專長不同都是給作業系統服務的

    • @ufo639-q4m
      @ufo639-q4m 2 года назад +3

      請问 GPU 有没有 MAC? 如果圖形旋转就必须用 MAC?我的问题是:有没有可能是 GPU 也利用 NPU 的 MAC 来完成旋轉功能?換句话说 NPU 可不可以是 CPU & GPU 二者的 slave?

    • @ray911abc
      @ray911abc 11 месяцев назад

      赞👍

    • @qiyugu6626
      @qiyugu6626 5 месяцев назад

      👍

    • @王嵩皓-m6u
      @王嵩皓-m6u 5 месяцев назад

      正解在這

    • @rexhoh7786
      @rexhoh7786 5 месяцев назад

      正解

  • @leeveschou3577
    @leeveschou3577 2 года назад +22

    关注大刘硬核科普视频很久了,学到不少硬核知识,希望大刘一直坚持下去,这类硬核科普视频 即使在b站也不容易涨粉。

    • @getstevenliu
      @getstevenliu  2 года назад +5

      谢谢您的支持!

    • @feifeishuishui
      @feifeishuishui Год назад +1

      什么叫即使在b站,这里的用户教育程度比站应该高不少,更容易涨粉才对吧

    • @imissyou0423
      @imissyou0423 Год назад

      ​@@feifeishuishui看得懂中文的不外乎
      大陸
      馬來西亞
      香港
      台灣人

    • @imissyou0423
      @imissyou0423 Год назад

      ​@@feifeishuishui其中台灣人在牆外最多也最腦

    • @imissyou0423
      @imissyou0423 Год назад +1

      ​@@feifeishuishui台灣人整天在網路上噴的那種
      一堆南部高職學店畢業
      不然做服務業那種

  • @johnw9220
    @johnw9220 2 года назад +3

    感謝大劉老師! 這集的卷積說的很具象,幫助我更了解它~

  • @定廉
    @定廉 2 года назад +6

    獲益良多,謝謝您!

  • @杜嘉成
    @杜嘉成 2 года назад +2

    哈哈 找了一天 终于找到一个npu架构的解释视频了

  • @DakerTT
    @DakerTT 5 месяцев назад +9

    坦率地说,主播很努力的准备了这期节目。但是,内容本身远远超过主播能力上限了

  • @MrLaurencewu
    @MrLaurencewu 2 года назад +6

    講得很好!from台灣.

  • @ggg-wv8qz
    @ggg-wv8qz 2 года назад +2

    讲的非常好!

  • @tysoonfang1999
    @tysoonfang1999 5 месяцев назад +1

    问一下,是否可以利用NPU的算力来加强3D游戏的性能?例如游戏程序里是否可以调用部分NPU的算力来提高游戏帧率?

  • @sail
    @sail 5 месяцев назад +1

    簡單說,就是針對某些資料處理優化的專用處理單元。
    就幹專用的事特別行。

  • @ZenKuan
    @ZenKuan Год назад

    你好老师, 我想问一个问题, 就是关于SOC的。 我知道现在手机里的处理器, 比如snapdragon 和mediatek 都是SOC, 因为里面包含了CPU, GPU, TPU, NPU,RAM 和 storage, 所以形成了System on Chip。 但是电脑的处理器算是SOC吗? 因为电脑处理器好像只有CPU而已, 有些会有GPU, 但是RAM, storage,GPU 这些都是外接的

  • @YTTVSteven
    @YTTVSteven 4 месяца назад

    很不錯的講解~給你一個讚👍

  • @沈世忠
    @沈世忠 6 месяцев назад +2

    其實多個晶片分攤暫存也好,不然原來只有cpu一定常過熱,gpu圖形或3維的矩陣運算又那嚜強,a+b×c是AI的sigmaid(英文有點忘記)基礎算式,在1秒內試出人類花了100年用的數字組合變化,當然有更統計學的AI公式。說到圖片三原色256的瞬間組合,矩陣算列的公式較硬盒比這兒A+b×c快我記得是30幾倍,所以gpu價值就上飆。npu我認識看看,分擔一些暫存也不錯。說真的AI要作到神像生成式要雲,不然AI也會被假訊息影響。

  • @andrewzhao7769
    @andrewzhao7769 5 месяцев назад

    大刘讲的好!谢谢!

  • @jasonzhang1156
    @jasonzhang1156 2 года назад +2

    通俗易懂

  • @dl662
    @dl662 2 года назад

    不太熟ASIC,但算力up是不是想说的是flops啊

  • @徐劲夫
    @徐劲夫 5 месяцев назад

    内容非常好,就是这个焦时准时脱的,我还以为我的眼坏了🤣

  • @HeartinWhere
    @HeartinWhere 2 года назад +3

    CPU更像一個實體企業 具體而微什麼功能都有 內還有FPU 浮點運算單元
    而CPU內特別做線路pipeline直連FPU處理 就稱為HT 多線程處理 可見FPU重要性
    而GPU是浮點運算處理器 以流處理器模式特別強化浮點運算能力 比CPU內部的FPU要強上數十倍數百倍數千倍不等
    NVIDIA為什麼要收購ARM 我猜想就是想強化他自身GPU加入ARM的CPU
    變成是一種CGPU,CPU專為GPU服務 藉以強化並省去一些通訊審核資料的步驟 以加速GPU的性能
    那麼主機板的主導將是CGPU 不再CPU跟GPU分開

    • @沈世忠
      @沈世忠 6 месяцев назад

      簡單講cpu是CEO,gpu是某個部的長官,npu比較像資深員工。

    • @HeartinWhere
      @HeartinWhere 6 месяцев назад

      @@沈世忠 有那個味兒~~
      但現在來看 因為NV收購ARM案不成
      加上AI的需求大增
      CPU跟GPU都在競爭加入NPU的功能
      那麼NPU(也就是AI)更像似秘書了。

  • @cloudask
    @cloudask 5 месяцев назад

    一打開看到黑板,還以為到某老師的頻道。😂

  • @yaochen1870
    @yaochen1870 8 месяцев назад

    和IPU有什么区别呢?

  • @大哥黃-e4n
    @大哥黃-e4n 4 месяца назад

    博主,共享:這種卷積運算,最早來自,蝴蝶效應的計算,當初計算機,是用遞增序列,產生連續。

  • @andy936162
    @andy936162 2 года назад +2

    意思是末来制程越细,功耗越小的情况下,NPU就可以更浪费? 由最初的8bit,游戏到现在,也几十年了,但近年进步最快,特别智能手机出现 后

  • @xiaoyuzhu9118
    @xiaoyuzhu9118 Год назад

    百度:嵌入式神经网络处理器(NPU)采用“数据驱动并行计算”的架构,特别擅长处理视频、图像类的海量多媒体数据。装备了神经网络处理器的芯片应用在监控摄像头上,摄影头由“眼睛”升级为“带有大脑的眼睛”。通俗一点就是给摄像头加上一个可以智能识别物品的芯片,把摄像头变成“眼睛”。
    归纳:拍照处理器

  • @oliverchang8272
    @oliverchang8272 2 месяца назад

    我使用npu 電腦。非常難用。相容性很差。 速度不如我在五年前用的頂規cpu筆電

  • @zhigangxu2007
    @zhigangxu2007 5 месяцев назад

    U怎么听起来像是O?

  • @wanderzok
    @wanderzok 9 месяцев назад

    Could you put Brazilian

  • @flower_street
    @flower_street 2 года назад +1

    好看!冒昧的问一句,大刘是半导体相关业内人士吗,能够深入浅出地讲的这么从容,应该不是光看文档就能做到的。

    • @getstevenliu
      @getstevenliu  2 года назад +3

      我不是从业者,只是一个爱好者。感谢你的认可!

    • @flower_street
      @flower_street 2 года назад

      @@getstevenliu 💯

  • @maxliu1613
    @maxliu1613 Год назад

    来啦来啦!哈哈哈

  • @itsnotai
    @itsnotai 2 года назад +1

    厉害,什么都懂

  • @TuttleVictoria-i8j
    @TuttleVictoria-i8j 2 месяца назад

    Garcia Ronald White John Hernandez Susan

  • @perfectwong7242
    @perfectwong7242 Год назад

    哈哈哈,剝削呢?

  • @部落课程
    @部落课程 5 месяцев назад +1

    哪个初中讲了半经典浮点数。。。

    • @MarkZeng1227
      @MarkZeng1227 5 месяцев назад

      我也是滿頭問號😅

  • @tyronetyrone2652
    @tyronetyrone2652 Год назад

    NPU是图像处理,NPU是计算处理,感觉这样理解也不对

    • @ricklin2755
      @ricklin2755 5 месяцев назад

      NLP是做AI模型inference用的,GPU是訓練的時候用的

  • @oscaryang5733
    @oscaryang5733 7 месяцев назад

    😂還是聽不懂,付錢買新電腦就對了🎉

  • @建嵐吳
    @建嵐吳 5 месяцев назад +1

    可以講台語嗎,卷舌太重聽不清,謝謝啦

    • @garyli9914
      @garyli9914 5 месяцев назад +1

      一本正經的胡說八道,這是科普頻道,請不要搞意識形態。

    • @594wei
      @594wei 5 месяцев назад

      @@garyli9914
      有些人就是習慣填鴨式的
      什麼都準備好 等別人塞進去
      有些人則是自己想辦法學習

    • @michaelchen4879
      @michaelchen4879 5 месяцев назад

      這種高精尖的複雜變化和解析要如何用台語來講解?你真是個廢人!為何不乾脆叫國際科學期刊也都用台語出版發行?問題是這個世界有台語文嗎?你寫出來大家看,沒人會鳥你的!大家都`聽得懂,就你一個人聽不懂?該去看醫生了!

    • @ericrock2943
      @ericrock2943 4 месяца назад

      干 ,你是在 靠北 殺小 ,聽不懂 去吃大便

    • @ericrock2943
      @ericrock2943 4 месяца назад

      靠北殺小,聽不懂去吃大便

  • @成非-l6c
    @成非-l6c Год назад

    最深理解才有最恰当比喻!
    所见当老师是套词语混饭!
    学霸都是鄙视老师脑袋瓜!
    师无智而越敬畏自然运规!

  • @jianguowu2042
    @jianguowu2042 5 месяцев назад

    地主和驴

  • @migemige-nf6lk
    @migemige-nf6lk 5 месяцев назад

    不懂不用勉强

  • @limlim4251
    @limlim4251 Год назад +1

    跟上新时代国际语言的中华文字简体中文发展趋势。大家要醒!这个时代不需要继续让世界复杂旧体难学繁体的! 醒呀!海外许多地方很久以前小学生就学习中华简体中文了,没有必要继续将文字复杂化!文字觉醒呀! 让世界及子子孙孙容易学中文, 全面跟上国际大成员的中华文字发展趋势的简体中文. 海外很久以前小学生就学习简体中文了! ! 不要脱离中华文字发展趋势呀! 全面采用容易学的简体中文,让世界及子子孙孙容易学! 加油! 复杂旧体的繁体留给专家。

    • @Lunp2008
      @Lunp2008 11 месяцев назад

      可悲啊,中華文字的美,都被你當屎丟了

  • @georgechang4163
    @georgechang4163 14 дней назад

    2年過了,建議你重新去理解,內容要改變了