ChatGPT爆火，为什么英伟达又赢麻了？
HTML-код
- Опубликовано: 9 апр 2023
- 从游戏到人工智能，从云计算到挖矿再到现在爆火的AI大模型，风口一个一个的换、天上的猪一个一个的飞，去金矿淘金的人换了一波又一波，但在金矿旁边卖铲子的人一直都没变，那就是……
今天的视频，一起聊聊为什么英伟达总能踩中所有的风口？
------------------------------------------------------------------------------------------------------------------------------------------------
关于我：
大家好，我是芯片工程师老石，欢迎关注我的频道“老石谈芯”。
欢迎订阅👉reurl.cc/8ob9Ej
敲响小铃铛🔔，可以第一时间收到我的频道动态。
我会持续带来更多专注于芯片的科普、硬核知识、以及偶尔极度硬核的技术分析与解读。我也会不断分享高效工作和学习的方法与技巧。更多内容，也欢迎关注我的微信公众号、微博。也欢迎加入我的知识星球，和我进一步交流。
🎵 我使用的音乐/BGM：go.shilicon.com/epidemicsound
📚 我写的书：go.shilicon.com/book
📝 个人网站：www.shilicon.com
📚 公众号：老石谈芯
🏮微博：老石谈芯的老石
🌍知识星球：老石谈芯 - 进阶版
#老石谈芯 #科技 
Наука
TSMC 只管生產鏲子，NVIDIA 賣鏲子、還讓你依賴他的鏲法、更過分的是還回去教TSMC怎麼快速的把鏲子的設計圖轉化成工程圖，最近還成立了鏟工大隊，有需要的直接叫工算租金。
NVIDIA 設計鏟子 CUDA 的閉源繞不開 儘管 Apple 有 mps 還是尚不足以競爭
博主讲的真好❤
有深度專業的頻道 有料
現在晶片的江山幾乎都掌握在台灣人的手上，中國人不要來蹭，老黃和蘇媽都是台裔，而且有實業才是硬道理，老要賺短平快錢，偷技術，拷貝別人的技術，國家早晚完蛋！
终终终终终终终终终于，更新了
25年前IC設計公司還有10億美元的障礙，而如今….😮
小伙子 老熟人啊 讲得不错
9:38 左腳踩右腳螺旋升天
CUDA 的設計都已經很多年，賣鏟都把鏟進化到很好的工具
生態系統，芯片設計及製造，两个內循環玩得真溜，習包要好好學習
英伟达是我为数不多佩服的科技大公司！
能讲一件Grace hopper 吗？ 推荐真的需要很大算力
买入NVDA
有遠見！
牛比啊，服气
INTEL 的80860 裡面不是也有GPU嗎？ 只是沒有辦法大範圍的販賣而已
老實說
的確！一個月後，輝達市值爆量登峰！ 有眼光！
哇噻 今天有開美顏嗎？ 哈哈哈 皮膚看起來特別好 sorry 跑題了
台灣人總是這麼優秀~
中國人也不差..馬雲這樣先知也很棒
輝達的黃仁勳根據中國大陸的資料是外省人第二代，然後確定張忠謀是外省人
好啦 谷愛凌是中國人😂
@@akaihuang 但是這兩個人都公開表示支持蔡英文的外交政策，連黃仁勳的家人，都是出錢出力支持賴清德選台南市長😂😂
@@TheTriprog70 都是客氣話，你怎麼這麽喜歡把客氣話當真？他不講好話難道要跟政府對著幹？這對他明顯沒有好處，當然就口頭隨便講點好聽話敷衍一下，以上我講的是張忠謀。至於黃仁勳我沒看過他對台灣政治發表過意見，不排除是你搞錯了，
補充一下，我知道張忠謀跟蔡英文關係大致不錯，不過網路上也沒查到張忠謀有什麼很明確支持蔡英文的言論，有人可能搞錯了，希望注意一下不要發表錯誤言論誤導網友
能说一下下一个会腰斩的股票吗？
请问博主苹果的M芯片在人工智能算力方面有什么优势吗？
英偉達攜手新思.ASML和台積電，意圖在半導體產業甩開全世界
產子很簡單，但是生產產子的廠商很少密切跟用產子的人溝通理解需求，也沒有很好的說明書，設計通用處理器CPU的難度是設計GPU的十倍以上，因為要顧慮的事情太多，而x86系列的包袱更多，設計GPU跟設計記憶芯片難度難一倍，但是跟十倍二十倍的通用處理器來說相對簡單許多，但是英偉達為何一支獨秀？因為英偉達從遊戲市場開始就緊密跟遊戲開發商合作，提供任何需要的服務協助開發套件，同時也注意遊戲玩家的體驗積極改進驅動跟應用，這個好習慣延伸到挖礦到AI計算的市場，所以他家的產子真的沒比其他家的產子材料設計更好多少，而且代工廠商也是一樣的，但是他家鏟子的手感最好用起來省力，同時有完整詳細明書讓使用者輕鬆上手
Nvidia 是設計賣鏟子的，但他背後還有一個代工鏟子的。
TSM笑了
老子大半年前就重仓英伟达，你丫还回国，还买因特尔，你的见识配得上你未来将会遇到的苦难
😂別這樣說，我還想看好戲
下期介紹intel oneAPI吧
nvidia在ai方面唯一的對手，就是對centos跟cuda library欠支援
優點是跟x86共用api，tensorflow跟pytorch等軟件跟cpu版本在軟件層面共用，基本裝好driver就可以無痛使用，問題在於市場能見度有限
不論Intel有什麼,在巨大的價格落差上,都只是放屁:今年3月份才剛上市的第四代 Intel Xeon 中最強的Platinum 8490H“Sapphire Rapids”，其性能只是很接近上一代AMD EPYC中最強的7773x，當然遠不如去年底上市的新一代AMD EPYC中最強的9654。
7773x定價8,800，而 8490H卻高達$17,000, 新一代AMD EPYC 9374f 性能雖然只是小勝8490H,但9374f價格更是進一步降至4850，進一步擠壓Intel在伺服器CPU的生存空間....如此糟糕的“Sapphire Rapids”,nVindia卻還要幫忙吹,主要是AMD發表MI300,nVidia看得下尿了,哈哈
第四代 Intel Xeon 與上一代AMD EPYC均是採用Intel 7與相當的台積電7nm製程，因此AMD並非簡單靠台積電先進製程在伺服器CPU領域中取得巨大的成就,同時AMD去年每一季都維持有盈餘，反觀售價向來高很多的Intel反而持續虧損中。
第四代 Intel Xeon 雖然也是採用MCM CPU，但從其售價來看，並未充分發揮MCM的低成本優勢，可見Intel在MCM上性能發揮不如預期，成本卻高得嚇人，這讓Intel吃足了苦頭...
採用5nm更昂貴製程又是委託台積電代工的新一代AMD EPYC 9374f，性能與剛上是不久的8490H十分接近，但價格只要不到1/3，可見歷經幾代的演進，AMD在MCM 的設計能力已經十分精湛。
再對照功耗，不難看出Intel 根本是吃電怪獸，或是說為了推升一點性能，耗費掉更多電能，這是十分不利的產品性能。在AI運算方面，真正最貴的成本其實不是硬體費用，而是電費，因此如果能用較低功耗獲取相當性能，其實才是伺服器硬體所追求的目標。
最有趣的是，剛上是不久的nVidia H100伺服器，其所搭配的CPU卻是非常昂貴的“Sapphire Rapids"系列，故意不搭配廉價很多的AMD EPYC，是否意味著nVidia也畏懼AMD在AI伺服器的挑戰? (上一代nVidia A100是搭配價格低廉性能強大的AMD EPYC)
刻意選用高功耗低性能的“Sapphire Rapids"系列，這使得nVidia H100伺服器整體功耗提昇不少，其實很不利於其產品銷售，但nVidia其實是不得不的作法。也許非nVidia的伺服器廠商會變更成AMD EPYC。
AMD Instinct MI300即將在今年上市,到時候就可以知道MI300實際上性能有多恐怖，他可是首款直接整合CPU與GPU的晶片，強大到迫使nVidia與Intel要聯手與之對抗。
Google公布Cloud TPU v4 AI晶片技術，號稱效能更快、更節能，AMD跟INTEL CPU很強，但做為對手...還是排不上。
@@enixdks 你是在比較香蕉與蘋果哪個好吃?真是搞笑
都什麼年代了你還在用centos 我寧願你說你用clearlinux也不會說用centos 笑死
ROCm是不是比oneAPI好一些？還是半斤八兩？
老黄命真好
竟然听到了小Lin的背景音...
,,,串台了
男中老石，女中小lin刷起来！
@@MrDaniel739 他俩一个科技一个金融， 双管齐下。 还喜欢刷老高但是老高有的时候有点飘，不知道飘哪里去了
😊 😅😅
NVDA is more like a software company, which makes it stand out as the most valuable company in the semiconductor industry. It has become more and more like Apple.
Transformer计算量太大，目前的AI瓶颈就在算力上了，亟需新的硬件架构，如果大模型可以本地训练本地部署，AGI就真的来了。
卷的飞起
老石可以去研究OpenXLA，未來AI趨勢應該是會走向NVIDIA以外的運算單元，畢竟你推理與即時訓練不可能都只靠電腦GPU，還得靠其他裝置，要不然AI發展不起來
@@DK-cd4sm 你如果知道OpenXLA是全部顯卡場都有參加的共同規範項目就不會這樣留言了吧
@@homenum6887 openCL, openACC, SYCL, 全都撼不動CUDA這座大山
然後他廠的策略就是you can't beat them, join them
直接在CUDA 以上建立與其他gpu互通的抽象層，然後你調用AI庫同時支援到cuda跟本廠的硬件加速，人家才會有嘗試的可能
@@homenum6887 openXla在RUclips上就可以自学了吗？有没有更好的学习管道？
沒錯！用GPU做計算是不得已的，AI發達普及後，專業AI的矩陣計算會超越GPU數十倍，這時候GPU就沒用了，挖礦或神經網路都用到矩陣計算，就是簡單的計算單元但是數量很多，這些計算器只能做簡單計算無法做到複雜計算，像素就是類似的矩陣計算，AI矩陣計算優化跟GPU還是有顯著差別，但是一開始只有GPU能有大量的矩陣平行運算，現在很多專門開發AI計算的晶片設計公司，未來要更快速訓練更大的神經矩陣都要靠專門的AI處理器，架構就是GPU架構但是每一個處理器都是專門針對計算需求設計不是圖像需求，目前AI的瓶頸在計算價格，平均是谷歌查詢的兩倍，按照目前的廣告收費模式無法盈利才是真正需要突破的關鍵，專門的處理器能加速同時減少運算成本，不然AI無法做到目前谷歌這種羊毛出在狗身上豬買單模式盈利，如果谷歌變成要註冊帳號繳費才能查詢能像今天的規模嗎？
@@camfocus8888 Nvidia 都有Transformer Engine 跟tensor core
重點是軟件支援，以前寫好的模型只支援CUDA,轉成onnx真正實用的設備也很有限，還是Nvidia gpu比較通用
英雄所见略同
GPU 拼软件生态》》》》》》拼硬件规格，当然硬件规格也很重要，当年Nv GTX10 系列16nm的制程跟AMD 7nm的 产品打的有来有回，这里硬件规格差了2代，硬生生用软件生态把农企给碾压了
软件生态把农企给碾压了???笑死,在巨大的性能與價格落差下,不論nVidia有什麼,都只是放屁:AMD今年要推出的MI300,算力是3月才剛推出的H100伺服器的10倍，但MI300的功耗還略低一點。AMD早已推出可以將CUDA程式碼轉換成AMD的相當程式碼，生態上可以直接架構在CUDA
试了试，至少verilog之类的模板可以很好的生成，不知道综合之类的工作它做的怎么样？！
逻辑综合不行的，我让chatgpt帮我跑logic minimization然后他像模像样的给我返回了结果，仔细一看一塌糊涂，chatgpt正确率堪忧因为他只是模仿你讲话，没法跑真正的eda算法
@@kevinnoweebs2775 prompt,可以试试不直接提问，而是先给他一些提示，然后再生成。
石老师这个视频里的自己是AI生成的吗？感觉很像。要么就是打光跟美颜开太高😂
我也覺得有種返老還童的感覺XD
4 sets of AI supercomputers wii be set up. The two sets will be installed in Taiwan.
国内最强的显卡厂商摩尔线程，纸面参数很强，能超过3060，做游戏什么的一个个适配估计要花太长时间，老石看看这个是不是可以做ai计算会更合适些？
沒希望，EUV代工都封鎖了，摩爾線程難道用中芯14nm的GPU跟台積電3nm拼？摩爾線程有DPU嗎？摩爾線程有CPU嗎？H100和MI300都緊密結合CPU和DPU。
@@wwxyz7570 是啊，可是，那就难道不要做了吗？还是得干啊。后发就是这么难。
老石 我怎麼覺得你又會被打面
用股價跟技術混為一談...😂
不知道为什么我特别喜欢看他被打脸😆
其實他是臺北人，不是南蠻人😂
在不归海就要被圣上锤麻了。
哈哈哈習大大很重視芯片的 但是早晚會收拾這些騙子做題家😂
我空了，PE 157。值嗎
ASIC才是主流啊，hugging face那些大型AI雲端運算後面都轉向AWS或其他使用ASIC服務提供廠商，
初期都是用CUDA，但是後面絕對不會用它，因為GPU說到底還是GPU，架構就卡死未來。
高級玩家早已經用ASIC為自己的AI模形開發專用晶片。
如Google、Tesla等。
基本上只有中低層玩家先會用NVIDIA的CUDA技術來開發自家的AI模形。
但是正是中低層玩家令NVIDIA發大財。
另外是CUDA和GPU的架構關係不大，因為每一代GPU的架構都是不同的。
股票买少了😊
賺爛了 賺爛了
一千塊A100H100是大模型AI的基礎。。。看到這裡 我默默又加了500股$NVDA
英伟达其实是一家芯片设计和软件公司，通过找代工厂生产芯片挣钱，通过挣到的钱，提高其软件水平和软件易用性，来垄断市场，现在并行编程领域，就是intel的 mpi和cuda两家独大
笑死,在巨大的性能與價格落差下,不論nVidia有什麼,都只是放屁:AMD今年要推出的MI300,算力是3月才剛推出的H100伺服器的10倍，但MI300的功耗還略低一點。AMD早已推出可以將CUDA程式碼轉換成AMD的相當程式碼，生態上可以直接架構在CUDA
@@user-mm7ot5zq2c 所以MI300火了嗎
黄仁勋仍未算出(？，0，2，3，？)
马斯克在采访中提到，自己不敢在大街上走，很好奇，为什么他不提议暂停人类生育6个月，却要暂停Ai，真是匪夷所思，哈哈
台灣人
以我經驗，若用在AI，NVIDIA的CUDA目前性價比還是比較適合實驗室，長遠來看，還是得有專用晶片，或者NVIDIA繼續努力。
只是做資訊都知道，軟體不好，硬體再好也沒用，嚴格來說，短期五年內，除非AI能改變軟體用手打字的手工業缺點，要不然移轉還是有難度。CUDA軟體生態還使比較完整，至少比起AMD跟其他硬體公司，NVIDIA成功關鍵還是軟體面做得好非常之多。
我覺得software和hardware是互補的
Amd不是nvidia的對手，intel oneAPI才是
Amd要跑ai模型得用docker還不完美支援，intel直接baremetal可跑tensorflow pytorch
以軟體開發來說AI這塊已經有很多好用的工具了，完全取代人是不太可能。我都笑說，除非哪天AI學會了「通靈術」一個可能連自已要什麼都不知道的客戶「自已跟自已通靈」能自力完成整個專案，不然其實根本不怕寫程式的被AI取代。但是低階的軟體工程師（碼農）可能就要擔心了。因為很基本的發單給你把程式寫出來這樣的工作真的有被取代的可能性，中高階的軟體工程師自已就能用AI去完成了。
老石很快又會再被打臉，因為AMD今年要推出的MI300,算力是3月才剛推出的H100伺服器的10倍，但MI300的功耗還略低一點。AMD早已推出可以將CUDA程式碼轉換成AMD的相當程式碼，生態上可以直接架構在CUDA
@@user-mm7ot5zq2c 每个评论挨个回复…如今amd推广这么努力了吗？
说了很多，看起来很有内容，其实是说天书，看完后只知道英伟达很厉害。
华为又赢啦🥇
Up都说出要点, 只要AI时代继续下去, 英伟达就是龙头,80% 以上的市场占有率..........门票多少他们定,垄断也是迟早的事........现在入股稳赚几率就是80%.没有第三方打压(比如政府打压AI),这是稳赚不赔的道路.(投资有风险,看你怎么决断.)
我在220价位和270价位分别入了成吨的英伟达股票，这是我这三年股市上面唯一碰过的股票
@@junpengqiu4054 一样 今天又突破300
@@Az-kt9sy 太爽了 ，只能说太爽了
@@junpengqiu4054 今天已经316了 要起飞了
@@Az-kt9sy 让子弹再飞一会
UP主是不是经常出门戴着墨镜又顶着个大太阳，感觉眼眶附近的肤色比其他地方的白，像画了京剧脸谱似的。。
這家公司叫輝達啦！傻B
英偉達是英業達的子公司
Google 在AI競爭上居然落後，不可思議，它有全世界最強大的數據庫，它在幹什麼？？
問題是Google因為之前的Blake Lemoine 對外宣稱他正在研究的機器人 LaMDA 可能有意識，更不用說AI道德方面的問題，影響了Google在AI方面的發展。
AI會影響他自己搜尋業務，所以封存
又一个伟大的公司诞生了，只能表示羡慕……
你可以買他們的股票長期參與，十年後一定比現在高，除非直到有一天英偉達出現足以威脅他的競爭對手將之擊潰，而目前唯一的挑戰者AMD在短期內要反超幾乎是不可能的
@@seanfu522 老黄多年前就开始布局ai，组建联盟，那时候amd只是靠cp值跟在后面，那时流传的是游戏用n卡，视频用a卡。随着openai 一声惊雷，一切都将重写。amd看似紧咬着nvidia,其实已经被超了一圈
AMD活着的原因怕不是提防反托拉斯诉讼😂
@@seanfu522 nVidia 沒有對手，對手是美聯儲，把經濟搞垮，nVidia 股價就漲不上去。
笑死,在巨大的性能與價格落差下,不論nVidia有什麼,都只是放屁:AMD今年要推出的MI300,算力是3月才剛推出的H100伺服器的10倍，但MI300的功耗還略低一點。AMD早已推出可以將CUDA程式碼轉換成AMD的相當程式碼，生態上可以直接架構在CUDA
元宇宙和区块链的教训这么就忘记了？爆炒之后回归理性的过程中，多少钱蒸发了。英伟达的算力需要巨量的电来驱动，又要挖矿，又要驱动 ai，又要工业用，又要保民用，这电够用么😂😂😂😂
題外話有點敏感 ..... 中國人會不會又說黃仁勳中國台灣人 .英偉達是中國公司 ..?
肯定會
他還真的這樣做字幕
不会，因为他是美国人，如果部分人硬绑关系的话，顶多算华人。
我以為我在看現在這時候的馬後炮,想不到是一個月前的,真有遠見
你还是太年轻
等黄老板季度分红了
遊戲GPU的問題在於礦潮退潮之後30系列卡在市場裏不上不下，銷售推不動，事實上遊戲GPU市場也沒什麼太多好提的，還是NVIDIA一騎絕塵，都不知道跑到哪邊去了。最新的steam使用者軟硬體報告自已去看，沒什麼好說的。3060已經變成佔有率第一了，4060還沒開賣呢...
NVIDIA我個人認為最厲害的，或是說別家公司都沒有的，就是軟體團隊。連Intel大概都沒這樣的能力去整合軟硬體，做出一個「只管用就好」的軟硬體結合的生態系。硬體屌炸天但沒幾隻貓知道怎麼用那一點屁用也沒有！你要一個非程式領域但需要大量運算或學AI的人去試著用shader硬刻出他們想要的功能來？不是不可能，而是那是大神的領域， 一般人只能跪在地板上看。即使有能力搞也太費時，太麻煩了。偏偏搞出一整個好用的整合好軟硬體的環境可沒那麼容易，人家就是有本事把GPU加速整到TensorFLow跟Pytorch，現在玩AI深度學習的，沒用NVIDIA的GPU差不多等於「全殘」，速度差太多了...
了解一下Intel oneAPI,直接支援pytorch TF
就是cupy, cudf, dask等還未有對應的版本
但intel優勢是能用回x86平台的接口，你用MKL能調度Intel GPU,只是要多做市場推廣，起碼以優惠價賣卡到大學吧...
@@LongLongKo 感謝您的資訊, 有空去研究, 受教了. 市場能有多些選擇是好事.
你講錯了，老石說的還是比較接近事實，NVIDIA現在的本業與營收都不靠遊戲，因為衰退的非常慘。
看一些IDC或其他國際出貨統計資料，AMD在RX6000以後是逆勢超車NVIDIA，steam那個統計是不可參考，因為他是知道你硬體之後再抽出他覺得需要的，再問使用者是否接受統計，若以NVIDIA財報，事實就是NVIDIA在遊戲慘輸，而且還不說INTEL進步很快，即便他發展不全。
@@jerryhuang3565 每一代nv游戏芯片基本在硬件制程以及规格上落后AMD1到2代，靠软件优化扳回劣势，并且价格比农企还卖的贵。那为啥市场占了这么多呢？
@@jerryhuang3565 你如果覺得AMD好就AMD好吧，我自已的工作經驗（2000年開始寫3D遊戲）上AMD就是差人技術一大截，自已認識的人就沒有人買AMD顯卡的，以前同事還有過AMD粉用掛了兩三張AMD顯卡就以後不再買的。對一個技術人員來說，GPU，Shader，CUDA這些誰發明的？AMD發明了什麼改變遊戲界的技術？我真的沒什麼印象...
如果全世界最大的遊戲平台的軟硬體調查不具參考性，我還真的不知道什麼東西具有參考性...IDC出貨報告？好，假設都是真的，那貨都出去哪了，賣給誰了？都賣給了從不玩遊戲的人嗎，還是AMD的使用者都不同意給Steam統計？這邏輯我是真的不懂啦。
遊戲程式大神中的大神John Carmack有講過一句話我一直都記得，如果程式有問題，是在別家的顯卡上發生的，他會先認為是GPU廠商的問題（對他就是這麼屌）；如果是在N家卡上發生的，他會先考慮是不是自已的問題。
Intel，這個我之前就講過，整個技術支援團隊跟NVIDIA或是跟AMD都不能比的，對遊戲的測試，Driver的調整優化，對遊戲廠商支援（幫忙解決在他們家顯卡上開發遇到的問題，幫遊戲看code改code，甚至派駐人到遊戲公司去幫忙做優化）投下去的資源，人力，時間等等差太遠了。不是有能力設計GPU造出顯卡，有能力寫Driver，就一定有能力把真正跟使用者最需要的東西都做好。至少目前為止以遊戲顯卡來說，我不覺得Intel會對NVIDIA造成什麼威脅，AMD就比較不好說，算是有機會正面對決的對手。
不過這也就我個人看法，我只是以我自已個人很偏頗的工作經驗來看，也有可能我錯的就是很離譜！您完全可以有您的看法。當然我也可以有我的看法就各自表述。總之市場還有競爭都是好事。
老石很快又會再被打臉，因為AMD今年要推出的MI300,算力是3月才剛推出的H100伺服器的10倍，但MI300的功耗還略低一點。AMD早已推出可以將CUDA程式碼轉換成AMD的相當程式碼，生態上可以直接架構在CUDA
鸿蒙也可以执行安卓应用…事实上撼动了安卓几分地位？
@@JasonToronto 手机鸿蒙就是换皮安卓，也配拿来跟AMD做比较？
不知道为什么我特别喜欢看他被打脸😆
@@Guavaava 嗯，那我就等着看amd怎么打老黄的脸
@@JasonToronto 不太可能说AMD出了MI300，NVIDIA马上就不行了。假设它真有楼上说的那么好用，最后也是AMD吃掉一部分市场份额，但是NVIDIA和AMD还是都可以从这一波大语言模型的热潮里赚很多钱。
今天更打脸
人工智能不能过度依靠N卡，需要百花齐放，过度依赖N卡的算力，垄断除了对英伟达是好事情，其他都不是好事情
N卡並沒有壟斷，因為AMD今年要推出的MI300,算力是3月才剛推出的H100伺服器的10倍，但MI300的功耗還略低一點。AMD早已推出可以將CUDA程式碼轉換成AMD的相當程式碼，生態上可以直接架構在CUDA
Intel 的oneAPI架構在程式轉移上有巨大優勢
問題在於新産品的驅動安裝麻煩，還有linux只官方支援到 Ubuntu 跟WSL,大型數據中心需要centOS的簡易驅動程序
A家有ROCm
@@LongLongKo 不論Intel有什麼,在巨大的價格落差上,都只是放屁:今年3月份才剛上市的第四代 Intel Xeon 中最強的Platinum 8490H“Sapphire Rapids”，其性能只是很接近上一代AMD EPYC中最強的7773x，當然遠不如去年底上市的新一代AMD EPYC中最強的9654。
7773x定價8,800，而 8490H卻高達$17,000, 新一代AMD EPYC 9374f 性能雖然只是小勝8490H,但9374f價格更是進一步降至4850，進一步擠壓Intel在伺服器CPU的生存空間....如此糟糕的“Sapphire Rapids”,nVindia卻還要幫忙吹,主要是AMD發表MI300,nVidia看得下尿了,哈哈
第四代 Intel Xeon 與上一代AMD EPYC均是採用Intel 7與相當的台積電7nm製程，因此AMD並非簡單靠台積電先進製程在伺服器CPU領域中取得巨大的成就,同時AMD去年每一季都維持有盈餘，反觀售價向來高很多的Intel反而持續虧損中。
第四代 Intel Xeon 雖然也是採用MCM CPU，但從其售價來看，並未充分發揮MCM的低成本優勢，可見Intel在MCM上性能發揮不如預期，成本卻高得嚇人，這讓Intel吃足了苦頭...
採用5nm更昂貴製程又是委託台積電代工的新一代AMD EPYC 9374f，性能與剛上是不久的8490H十分接近，但價格只要不到1/3，可見歷經幾代的演進，AMD在MCM 的設計能力已經十分精湛。
再對照功耗，不難看出Intel 根本是吃電怪獸，或是說為了推升一點性能，耗費掉更多電能，這是十分不利的產品性能。在AI運算方面，真正最貴的成本其實不是硬體費用，而是電費，因此如果能用較低功耗獲取相當性能，其實才是伺服器硬體所追求的目標。
最有趣的是，剛上是不久的nVidia H100伺服器，其所搭配的CPU卻是非常昂貴的“Sapphire Rapids"系列，故意不搭配廉價很多的AMD EPYC，是否意味著nVidia也畏懼AMD在AI伺服器的挑戰? (上一代nVidia A100是搭配價格低廉性能強大的AMD EPYC)
刻意選用高功耗低性能的“Sapphire Rapids"系列，這使得nVidia H100伺服器整體功耗提昇不少，其實很不利於其產品銷售，但nVidia其實是不得不的作法。也許非nVidia的伺服器廠商會變更成AMD EPYC。
AMD Instinct MI300即將在今年上市,到時候就可以知道MI300實際上性能有多恐怖，他可是首款直接整合CPU與GPU的晶片，強大到迫使nVidia與Intel要聯手與之對抗。
NV繼續壟斷不是什麼好事
科技UP主都比我们普通人更懂得这些技术的变革，可是为什么只靠做点视频赚钱呢？
这些独占的公司 就该被欧盟踢出去
有時間講講為什麼FPGA在機器學習領域為什麼不如GPU唄，是不是FPGA只能做小模型，不論訓練或者推理？
沒有容易使用的軟件平台，再快的晶片也不能發揮算力
Nvidia的GPU全名是general purpose gpu，能稱霸市場全在於通用性編程
Fpga針對特定應用需要重新編程，沒有GP的特性
@@LongLongKo 意思是这个意思，但是gpu是graphics processing unit😂
FPGA走低價低功耗路線，但在比較領先的AI公司都會走向自研ASIC，而不是使用CUDA
@@oyjl616 gpgpu general purpose graphic processing unit通用圖像處理單元是Nvidia 首先提出的概念，具體的實踐就是CUDA
笑死,在巨大的性能與價格落差下,不論nVidia有什麼,都只是放屁:AMD今年要推出的MI300,算力是3月才剛推出的H100伺服器的10倍，但MI300的功耗還略低一點。AMD早已推出可以將CUDA程式碼轉換成AMD的相當程式碼，生態上可以直接架構在CUDA
呵呵 量子计算 表示 垃圾
中國大陸就沒有門票，不能入場
其实全世界也只有美国在引领这波科技潮流，大陆只能用它的成果去做一些应用型的领域比如新能源车之类的，能挖金已经很难了，能卖铲子的企业那是真的神仙
@@erasersc5509 你真是把美国看得太高了，单就美国这电网和基础设施建设，以后要驱动 ai 这种巨量的算力，怕是要崩😂😂😂
来了
呵呵 mainframe表示 垃圾
老石很快又會再被打臉，因為AMD今年要推出的MI300,算力是3月才剛推出的H100伺服器的10倍，但MI300的功耗還略低一點。AMD早已推出可以將CUDA程式碼轉換成AMD的相當程式碼，生態上可以直接架構在CUDA
AIML 从来不是堆spec堆起来的 后来者除非能在性能上有10x的提升，数据中心业务都是利好incumbent。试想你是openai 就算amd纸上数据再好 你敢押注么？ 错一步就会被bard claude超越。所以在infra 平台还是会保守
严重怀疑这位老哥重仓了AMD股票
不知道为什么我特别喜欢看他被打脸😆
@@allenwu5435 试想你是openai 就算amd纸上数据再好 你敢押注么？ 笑死,你自己都不是都講到"數據好",為什麼就不敢用?自己給自己掌嘴,真是有趣
@@allenwu5435 沒錯,错一步就会被bard claude超越,所以實作GPT4的組織,肯定會用AMD MI300,因為同樣一筆投資,用MI300可以獲得更大的算力,但功耗卻更低,讓自己維持或提升競爭力