智慧手機中最「雞肋」又最「強大」的晶片--NPU,底層原理深度講解!為什麼說人工智慧離不開它?

Поделиться
HTML-код
  • Опубликовано: 28 сен 2024

Комментарии • 77

  • @leeveschou3577
    @leeveschou3577 2 года назад +22

    关注大刘硬核科普视频很久了,学到不少硬核知识,希望大刘一直坚持下去,这类硬核科普视频 即使在b站也不容易涨粉。

    • @getstevenliu
      @getstevenliu  2 года назад +5

      谢谢您的支持!

    • @feifeishuishui
      @feifeishuishui Год назад +1

      什么叫即使在b站,这里的用户教育程度比站应该高不少,更容易涨粉才对吧

    • @imissyou0423
      @imissyou0423 Год назад

      ​@@feifeishuishui看得懂中文的不外乎
      大陸
      馬來西亞
      香港
      台灣人

    • @imissyou0423
      @imissyou0423 Год назад

      ​@@feifeishuishui其中台灣人在牆外最多也最腦

    • @imissyou0423
      @imissyou0423 Год назад +1

      ​@@feifeishuishui台灣人整天在網路上噴的那種
      一堆南部高職學店畢業
      不然做服務業那種

  • @camfocus8888
    @camfocus8888 Год назад +71

    這比喻我覺得不好!
    GPU是針對大量簡單平行計算的,NPU只是在GPU減少計算單元但是增加複雜一點的計算,是針對神經網路應用做設計的,其實都一樣,跑車卡車轎車的差別而已,一開始用轎車載人也能載一點貨物又能稍微飆一下車,後來才有專門載貨的卡車或專門飆車的跑車,都是針對需求去設計的車或處理器,沒有誰服務誰
    CPU是通用所以沒有太多加法器但是有可應付複雜的計算功能,也靠指令集跟寄存器完成配合程式做的特殊複雜的計算
    GPU是因為針對像素計算,有很多計算器尤其是矩陣計算的單元,所以不算通用是專門為大規模簡單計算設計的,能用在像素也能用在AI神經元細胞,複雜的AI細胞多到跟像素一樣多,所以平行同時做一堆簡單特定計算是GPU設計初衷
    沒有誰跟誰服務,都是給程式服務的,需要攏長複雜變化的交給CPU,需要大規模簡單計算的交給GPU,好比a+b要算一萬次,CPU必須快速算一萬次結束,GPU剛好有一萬個簡單計算器一次就算完了,又好比一個複雜的公式加減乘除都有而且很長,CPU來回計算三五次就出答案,交給GPU要先人工拆解成只剩簡單一萬次先後因果不能平行計算,然後GPU只能用萬分之一的一個計算器連續算一萬次才得出答案,所以CPU GPU NPU APU都是廣告術語,都是計算器只是專長不同都是給作業系統服務的

    • @ufo639-q4m
      @ufo639-q4m Год назад +2

      請问 GPU 有没有 MAC? 如果圖形旋转就必须用 MAC?我的问题是:有没有可能是 GPU 也利用 NPU 的 MAC 来完成旋轉功能?換句话说 NPU 可不可以是 CPU & GPU 二者的 slave?

    • @ray911abc
      @ray911abc 9 месяцев назад

      赞👍

    • @qiyugu6626
      @qiyugu6626 3 месяца назад

      👍

    • @王嵩皓-m6u
      @王嵩皓-m6u 3 месяца назад

      正解在這

    • @rexhoh7786
      @rexhoh7786 3 месяца назад

      正解

  • @johnw9220
    @johnw9220 Год назад +3

    感謝大劉老師! 這集的卷積說的很具象,幫助我更了解它~

  • @DakerTT
    @DakerTT 3 месяца назад +6

    坦率地说,主播很努力的准备了这期节目。但是,内容本身远远超过主播能力上限了

  • @沈世忠
    @沈世忠 4 месяца назад +2

    其實多個晶片分攤暫存也好,不然原來只有cpu一定常過熱,gpu圖形或3維的矩陣運算又那嚜強,a+b×c是AI的sigmaid(英文有點忘記)基礎算式,在1秒內試出人類花了100年用的數字組合變化,當然有更統計學的AI公式。說到圖片三原色256的瞬間組合,矩陣算列的公式較硬盒比這兒A+b×c快我記得是30幾倍,所以gpu價值就上飆。npu我認識看看,分擔一些暫存也不錯。說真的AI要作到神像生成式要雲,不然AI也會被假訊息影響。

  • @定廉
    @定廉 2 года назад +6

    獲益良多,謝謝您!

  • @sail
    @sail 4 месяца назад +1

    簡單說,就是針對某些資料處理優化的專用處理單元。
    就幹專用的事特別行。

  • @YTTVSteven
    @YTTVSteven 3 месяца назад

    很不錯的講解~給你一個讚👍

  • @andrewzhao7769
    @andrewzhao7769 3 месяца назад

    大刘讲的好!谢谢!

  • @大哥黃-e4n
    @大哥黃-e4n 2 месяца назад

    博主,共享:這種卷積運算,最早來自,蝴蝶效應的計算,當初計算機,是用遞增序列,產生連續。

  • @andy936162
    @andy936162 2 года назад +2

    意思是末来制程越细,功耗越小的情况下,NPU就可以更浪费? 由最初的8bit,游戏到现在,也几十年了,但近年进步最快,特别智能手机出现 后

  • @dl662
    @dl662 Год назад

    不太熟ASIC,但算力up是不是想说的是flops啊

  • @cloudask
    @cloudask 3 месяца назад

    一打開看到黑板,還以為到某老師的頻道。😂

  • @itsnotai
    @itsnotai 2 года назад +1

    厉害,什么都懂

  • @wanderzok
    @wanderzok 8 месяцев назад

    Could you put Brazilian

  • @ShannonSmith-b7v
    @ShannonSmith-b7v 17 дней назад

    Lewis Edward Clark Charles Lopez Shirley

  • @larrysholmes7588
    @larrysholmes7588 9 дней назад

    Hall Betty Martinez David Perez Richard

  • @MithalPollards-k8o
    @MithalPollards-k8o 25 дней назад

    Thompson Robert Moore Helen Smith Frank

  • @yaochen1870
    @yaochen1870 6 месяцев назад

    和IPU有什么区别呢?

  • @GregoryEarl-t8r
    @GregoryEarl-t8r 26 дней назад

    Clark Sharon Lopez Ruth Brown Charles

  • @tyronetyrone2652
    @tyronetyrone2652 11 месяцев назад

    NPU是图像处理,NPU是计算处理,感觉这样理解也不对

    • @ricklin2755
      @ricklin2755 3 месяца назад

      NLP是做AI模型inference用的,GPU是訓練的時候用的

  • @jianguowu2042
    @jianguowu2042 3 месяца назад

    地主和驴

  • @migemige-nf6lk
    @migemige-nf6lk 3 месяца назад

    不懂不用勉强

  • @MrLaurencewu
    @MrLaurencewu 2 года назад +6

    講得很好!from台灣.

  • @tysoonfang1999
    @tysoonfang1999 3 месяца назад +1

    问一下,是否可以利用NPU的算力来加强3D游戏的性能?例如游戏程序里是否可以调用部分NPU的算力来提高游戏帧率?

  • @NsiejdSnidnfp
    @NsiejdSnidnfp 19 дней назад

    Rodriguez Mark Rodriguez Karen Jones Patricia

  • @sydneylawman803
    @sydneylawman803 25 дней назад

    Walker Barbara Rodriguez Jason Young Anthony

  • @CrunchKathy
    @CrunchKathy 22 дня назад

    Rodriguez Thomas Clark Angela Johnson Ruth

  • @VincentAnnabelle-l4l
    @VincentAnnabelle-l4l 23 дня назад

    Williams Margaret Wilson Joseph Brown Sandra

  • @oliverchang8272
    @oliverchang8272 17 дней назад

    我使用npu 電腦。非常難用。相容性很差。 速度不如我在五年前用的頂規cpu筆電

  • @Orbitaakter
    @Orbitaakter 13 дней назад

    Miller Shirley Williams Cynthia Thompson Melissa

  • @TuttleVictoria-i8j
    @TuttleVictoria-i8j 22 дня назад

    Garcia Ronald White John Hernandez Susan

  • @杜嘉成
    @杜嘉成 2 года назад +2

    哈哈 找了一天 终于找到一个npu架构的解释视频了

  • @jasonzhang1156
    @jasonzhang1156 2 года назад +2

    通俗易懂

  • @ggg-wv8qz
    @ggg-wv8qz 2 года назад +2

    讲的非常好!

  • @部落课程
    @部落课程 3 месяца назад +1

    哪个初中讲了半经典浮点数。。。

    • @MarkZeng1227
      @MarkZeng1227 3 месяца назад

      我也是滿頭問號😅

  • @flower_street
    @flower_street 2 года назад +1

    好看!冒昧的问一句,大刘是半导体相关业内人士吗,能够深入浅出地讲的这么从容,应该不是光看文档就能做到的。

    • @getstevenliu
      @getstevenliu  2 года назад +3

      我不是从业者,只是一个爱好者。感谢你的认可!

    • @flower_street
      @flower_street 2 года назад

      @@getstevenliu 💯

  • @ZenKuan
    @ZenKuan 10 месяцев назад

    你好老师, 我想问一个问题, 就是关于SOC的。 我知道现在手机里的处理器, 比如snapdragon 和mediatek 都是SOC, 因为里面包含了CPU, GPU, TPU, NPU,RAM 和 storage, 所以形成了System on Chip。 但是电脑的处理器算是SOC吗? 因为电脑处理器好像只有CPU而已, 有些会有GPU, 但是RAM, storage,GPU 这些都是外接的

  • @xiaoyuzhu9118
    @xiaoyuzhu9118 Год назад

    百度:嵌入式神经网络处理器(NPU)采用“数据驱动并行计算”的架构,特别擅长处理视频、图像类的海量多媒体数据。装备了神经网络处理器的芯片应用在监控摄像头上,摄影头由“眼睛”升级为“带有大脑的眼睛”。通俗一点就是给摄像头加上一个可以智能识别物品的芯片,把摄像头变成“眼睛”。
    归纳:拍照处理器

  • @oscaryang5733
    @oscaryang5733 6 месяцев назад

    😂還是聽不懂,付錢買新電腦就對了🎉

  • @成非-l6c
    @成非-l6c Год назад

    最深理解才有最恰当比喻!
    所见当老师是套词语混饭!
    学霸都是鄙视老师脑袋瓜!
    师无智而越敬畏自然运规!

  • @徐劲夫
    @徐劲夫 3 месяца назад

    内容非常好,就是这个焦时准时脱的,我还以为我的眼坏了🤣

  • @zhigangxu2007
    @zhigangxu2007 3 месяца назад

    U怎么听起来像是O?

  • @perfectwong7242
    @perfectwong7242 Год назад

    哈哈哈,剝削呢?

  • @maxliu1613
    @maxliu1613 Год назад

    来啦来啦!哈哈哈

  • @建嵐吳
    @建嵐吳 3 месяца назад +1

    可以講台語嗎,卷舌太重聽不清,謝謝啦

    • @garyli9914
      @garyli9914 3 месяца назад +1

      一本正經的胡說八道,這是科普頻道,請不要搞意識形態。

    • @594wei
      @594wei 3 месяца назад

      @@garyli9914
      有些人就是習慣填鴨式的
      什麼都準備好 等別人塞進去
      有些人則是自己想辦法學習

    • @michaelchen4879
      @michaelchen4879 3 месяца назад

      這種高精尖的複雜變化和解析要如何用台語來講解?你真是個廢人!為何不乾脆叫國際科學期刊也都用台語出版發行?問題是這個世界有台語文嗎?你寫出來大家看,沒人會鳥你的!大家都`聽得懂,就你一個人聽不懂?該去看醫生了!

    • @ericrock2943
      @ericrock2943 3 месяца назад

      干 ,你是在 靠北 殺小 ,聽不懂 去吃大便

    • @ericrock2943
      @ericrock2943 3 месяца назад

      靠北殺小,聽不懂去吃大便

  • @HeartinWhere
    @HeartinWhere Год назад +3

    CPU更像一個實體企業 具體而微什麼功能都有 內還有FPU 浮點運算單元
    而CPU內特別做線路pipeline直連FPU處理 就稱為HT 多線程處理 可見FPU重要性
    而GPU是浮點運算處理器 以流處理器模式特別強化浮點運算能力 比CPU內部的FPU要強上數十倍數百倍數千倍不等
    NVIDIA為什麼要收購ARM 我猜想就是想強化他自身GPU加入ARM的CPU
    變成是一種CGPU,CPU專為GPU服務 藉以強化並省去一些通訊審核資料的步驟 以加速GPU的性能
    那麼主機板的主導將是CGPU 不再CPU跟GPU分開

    • @沈世忠
      @沈世忠 4 месяца назад

      簡單講cpu是CEO,gpu是某個部的長官,npu比較像資深員工。

    • @HeartinWhere
      @HeartinWhere 4 месяца назад

      @@沈世忠 有那個味兒~~
      但現在來看 因為NV收購ARM案不成
      加上AI的需求大增
      CPU跟GPU都在競爭加入NPU的功能
      那麼NPU(也就是AI)更像似秘書了。

  • @limlim4251
    @limlim4251 Год назад +1

    跟上新时代国际语言的中华文字简体中文发展趋势。大家要醒!这个时代不需要继续让世界复杂旧体难学繁体的! 醒呀!海外许多地方很久以前小学生就学习中华简体中文了,没有必要继续将文字复杂化!文字觉醒呀! 让世界及子子孙孙容易学中文, 全面跟上国际大成员的中华文字发展趋势的简体中文. 海外很久以前小学生就学习简体中文了! ! 不要脱离中华文字发展趋势呀! 全面采用容易学的简体中文,让世界及子子孙孙容易学! 加油! 复杂旧体的繁体留给专家。

    • @Lunp2008
      @Lunp2008 9 месяцев назад

      可悲啊,中華文字的美,都被你當屎丟了

  • @a35504804
    @a35504804 3 месяца назад

    高通驍龍晶片就沒NPU啊
    他的AI是靠cpu+gpu+dsp達成