인텔 AI 칩 스펙 공개... HBM2E 탑재하고도 HBM3 탑재 NVIDIA H100보다 빠르다! 본격 반격 시작한 인텔 AI 칩 세부 공개
HTML-код
- Опубликовано: 10 апр 2024
- Intel Vision 2024 행사에서 공개한, 인텔의 차세대 AI용 가속기 칩 Gaudi 3의 스펙! H100보다 앞선 퍼포먼스를 보여주며, FP16에서는 AMD MI300X와 NVIDIA H100을 모두 앞지르는 결과를 보여주었는데요. HBM3를 사용한 경쟁사들과는 달리 인텔은 HBM2E를 쓰면서도 더 많은 용량과 더 높은 Bandwidth를 가지도록 여러 다이를 탑재하여 대응하였습니다. 인텔이 본격적으로 AI 칩 시장에 뛰어들며 NVIDIA의 아성을 무너뜨리고 AMD를 견제하는데, 네이버 클라우드와의 협력으로 Hyper CLOVA X 관련 내용까지 개방형 생태계 중심으로 Ethernet 을 도입하는 건, NVIDIA의 Infiniband라는 독자규격으로 데이터센터 통신 네트워크를 구축하는 것과 차별화를 보입니다. 관련 내용 자세히 살펴보시죠.
#인텔 #가우디3 #H100
H100 White Paper :
www.advancedclustering.com/wp...
resources.nvidia.com/en-us-te...
Written by Error
Edited by 이진이
unrealtech2021@gmail.com 
Наука
엔비디아 독점보단 경쟁자들이 있다는게 긍정적이라고 봅니다!! 옛날 외계인 고문하던 인텔시절도 있었는데.. ㅠ
구독합니다
전고체배터리에 대해서도 알려주세요. 전망이나 당장 양산이 안되는 한계등등 궁금합니다
문제는 전력도 잡아야 비용으로 승부볼 수 있는거고 지금 h100은 다른 회사들이 다시 파는 매물도 넘쳐서 싸게 구할 수 있음 h100구매했던 기업들은 h200이랑 b100기다리고 있고
고생 많으십니다ㅠ;;
(나중에 꼭 전체 정리본을 공유드릴께요^^)
안녕하세요
정말 잘 듣고 있습니다
감사합니다
명석하사분이시네요~^^
응원합니다~~~
NVIDIA가 너무 비싸게 불러재끼는데, 요번에 인텔이 가성비라도 좀 챙겨주면 그나마 잘 팔리지 않을까요?
그리고 엔비디아 혼자서만 저 많은 AI 수요를 감당할 수 있을 것 같지도 않은데 HP, DELL, LENOVO에도 보급된다고 하면... 🤔 나쁘지 않네요.
이정도면 꽤나 큰 발전같은데 인텔 주가 미동도 안하는거보면 시장은 기대를 안하고 있다고 봐야되나
데스크탑 cpu 빼고는 이빨을 많이 까서 기대를 안하는듯
인텔이 발표한거치고 제시기에 제대로 나온게 있나? 이거라서
지금도 전기 드럽게쳐먹어서
사옹할수록 병신 cpu가 되는게 현실
감사합니다 ~^^
이더넷으로 저렇게 통신이 가능하면 겁나 뜨거울것 같은데요
Ai칩이나 gpu가 엔비디아만 있는게 아닌데 성능이 도대체 얼마나 좋길래 엔비디아만 이렇게 잘팔리는지 누가 쉽게 설명해줄수있나요? 엔비디아가 10이면 다른건 몇점인가요?
결국 구매를 결정하는건 성능보다 AI소프트웨어를 엔비디아가 제공하고있는게 요인이 크다고 보면 됩니다. 쿠다라고 인터넷 쳐보세요
@@user-so3ss5bn3u 그렇군요. 이해가조금 되는거같은데.. 어렵네요. 번역가역할을하는 플랫폼이라는데 메타나 테슬라도 엔비디아제품수만개를 이용하는데 빅테크들이 자체적으로 칩을 설치하고 개발 엔지니어들이 쿠다를 이용해서 개발을하는건가요? 본체에 그냥 amd나 nvidia갖다 꽂아쓰는 gpu랑 개념이 다르네요...
다음에는 전력 효율도 알려 주세요
수십개 수백개 칩을 한개의 칩처럼 사용하도록 해야하는데 엔비디아말고 그런 기술 가능한 칩이 있나?
mi300x도 쿠다의 벽을 못 넘고있는데 인텔이 넘을수있을지 기대되네요
나온지 1년된 제품하고 비교는 의미 없는거 같은데여 신제품이 당연히 성능이 더 좋아야죠
앞으로 h200이 성능 2배라는데...
가격 저렴하고 발열 적으면 괜찮다고 생각합니다. 엔비디아 제품은 가성비가 너무 떨어지고 사려면 대기해야 하니까요.
@@user-sf2hu7yb2t하지만 엔비디아는 쿠다가 있죠 쿠다 때문에 다른 제품 못쓰는거임
@@user-so3ss5bn3u 각 데이터센터에서 엔비디아 점유율이 조금씩 떨어지는중요. 쿠다의 절대성은 알지만 가격비싸고 구하기 힘드니 다른 제품 점유율이 올라가는중요.
가성비 전성비 좋은걸 칩렛구조로 여러게 붙이면 엔비디아 최신꺼랑 성능 비슷하게 됨.
이제 시작한 AI 인데 ㅎㅎ 마켓선점 먼저한 엔비디아를 이길수없지요 ^^ 엔비디아 제품에 익숙해진 빅텤들이 짧은기간내에 인텔제품으로 갈아탄다 ..?? 빅텤들도 서로 경쟁에 안밀릴려고 속도 내고있는 중인데 중간에 검증도 안된 인텔제품으로 구지 ..? 끽해야 이제서야 ai메타에 올라타려는 기업에서 규모작은 오더로 쪼금씩 쓰다가 제품 좋다는게 확정되면 그때부터 조금씩 바꾸겠지만 엔비디아가 그동안 가만히있을까여 ㅋㅋㅋ
뭘 안다고 ㅋㅋㅋㅋ 거품 엔비디아 마이 찬양해라 난 인텔에 한표
주가가 모든것을 말해주지요
AI 이전에 근본 사업인 CPU나 좀 잘만들지... 12세대 ~ 14세대 하나같이 똥망;;
지속적으로 앤비디아에 대항마가 출시되고 있다는것이 팩트일듯합니다 감사합니다 😊
지금 시점에서는 절대 네버 에버 제어무리 인텔이 블랙웰을 능가하는 블랙웰 할애비 GPU를 냈다고 광고를 해도 엔비디아 매출 못이김
인텔이 제조에 성공만 해준다면 뜻대로 될텐데 과연…
저건 본인 파운드리로 안만들거같네요ㅋㅋ
인텔 랜카드 잘 만들지
인텔 안이 그래서 cuda 없잔아 ‼ 그래도 화이팅 ㅠㅠ 엔당 이랑 경쟁해줘 ㅠㅠ
와..여윽시 인텔 홍보 채널 답다..
나오지도 않은 자기들 희망 스팩과 현재 팔리는 제품들과 비교라니.
인텔 CPU 결함으로 터져나가는 중인데. 리콜도 보상도 안하고..
보드 제조사 욕만 하는 뻔뻔함을 보이고 있지.
인텔이라는 회사..입만 열면 거짓말. 불량품을 팔고도 뻔뻔하게 배째라 하는 회사인데..
이제 스폰서를 바꾸는게 어떨지..
시장에선 벌써 경쟁력이 없다고 보고있음 시장에 냉혹함
이 영상 부대 비용까지 생각 안 하고 말씀하시네요 인텔 것 1년에 60조 원 전기료 낸다
엔비디아 B200 성능을 위해 인텔은 10배 성능 높이면 10장 필요하고 10port 추가 점유로 인피니티 밴드 스위칭 장비가 ~5천만 원 합니다. 결론 장비 포함 20배 추가로 들어가고
인텔칩 전기로 9kw + 추가 장비 3kw = 500만 원(전기로 1년 6,000만 원)
새롭게 MS 데이터센터 투자 100만 장 GPU 성능을 위해 X 전기료 6,000만 원= 1년에 60조 원 전기로 내는 것예요 얼마나 비효율 인텔 제품이라고 제대로 아세요
중얼중얼 한글부터 제대로 쓰세요 ㅋㅋ
@@KK-ub6ub 쭝꿔인듯..
댓글에 엔비디아 올라탄 사람들이 많네 ㅋㅋㅋㅋㅋㅋㅋ
더 박터지게 싸워서 엠바고걸린 기술까지 풀어주면 좋겠다..
그래야 싼값에 주워먹을게 많지
그래봤자 엔비디아 B200 보다 20배느린 인텔 누가 쓸가요
엔비디아 연산속도가 B200은 20,000TFLOPS vs 인텔 1,800TFLOPS
전력 소모 B200 1,000w vs 인텔 900w 비효율 임
▩ 인텔이 새로운 AI 프로세서인 가우디 3를 공개하며 엔비디아 H100에 본격 도전장을 내밀었다
◎ 가우디 3는 HBM2E를 사용했음에도 HBM3를 탑재한 H100보다 우수한 성능을 보여준다 (1:07)
－ 추론 성능이 H100 대비 최대 50% 높고, 전력 효율도 40% 좋다 (3:14)
－ 실제 Nvidia의 백서에 따르면 H100의 FP8 성능은 sparse 기준 4,000 TFLOPS, dense 기준 2,000 TFLOPS인 반면, 가우디 3는 dense 기준으로 H100과 유사한 수준이다 (7:33)
ㆍ Nvidia의 FLOPS 수치는 sparse 기준이고, 가우디 3는 dense 기준이므로 직접 비교하기 어렵다
→ 인텔은 dense 기준으로 H100과 유사한 성능을 보여준다 (8:48)
◎ 가우디 3는 HBM2E 사용에도 불구하고 용량과 대역폭 측면에서 경쟁력이 있다
－ HBM 용량을 H200에 버금가는 수준으로 확보했다 (9:38)
－ HBM2E를 사용했음에도 H100보다 높은 메모리 대역폭을 확보했다 (9:49)
◎ 가우디 3는 개방형 이더넷 기반 인터커넥트로 효율적인 확장성을 확보했다 (12:27)
－ 21개의 200Gb 이더넷 링크로 1TB/s의 총 대역폭을 제공한다 (12:30)
－ 가속기 8개당 1개의 NIC만 필요해 Nvidia나 AMD 대비 효율적인 아키텍처를 구현했다 (11:38)
안될공학이라고 박아놓으면 물건을 사는데 더 좋지 아니할카요?
ai 라이브러리 없지 않나?
이 채널은 인텔홍보 채널 스준으로 엄청나게 인텔 편향되 있습니다. 무슨 제품 하나 나올때 마다 타사제품보다 압도적으로 좋다고 홍보에 진심임. 걸러들으세요
개소리 자제요 쭉 봐온 사람이면 니 말이 개헛소리인건 개도 압니다요
1
형..설마 구라인텔 말을 믿는거예요??,?
왜 구라인텔인가요
인텔..독점으로 20년넘게 탱자탱자하다가..듀얼코어로 10년 가까이 울궈먹음.이후 AMD 가 4,6 코어 출시하자 그때서야 인텔도 멀티코어 시작.. 독점의 폐해.망해간다.
핵심을 뺀 내용 FPGA 프로그램밍 짜봐냐 인텔것 FPGA AI 학습 추론 TEST 한것다 한마디로 쓰리게지 엔비디아 FPGA 학습 하면 지금보다 20배에서 100배 가속된다
인텔을 ㅋㅋㅋㅋ 기대 할 바엔 ㅋㅋㅋㅋ 없는게 남
이 칩이 잘된다는 삼성 마하칩도 빈말이 아닐 듯
Cpu도 불량 랜카드도 불량 ai칩도 얼마안가 불량 이슈 생길듯 내 인생에 ㅈ텔은 없다
HBM2E 탑재했는데, 이걸 사겠냐고 // 다음버젼은 살듯
그래봤자 엔비디아 B200 보다 20배느린 인텔 누가 쓸가요 엔비디아 연산속도가 B200은 20,000TFLOPS vs 인텔 1,800TFLOPS 전력 속모 B200 1,000w vs 인텔 900w 비효율 임
B200 그거는 fp4인뎁쇼..
@@user-fc5wi8bn6x 인텔과 동일한 fp8 10PFLOPS 입니다 인텔 10장 쓰야하고 네트워크 10 port 점유로 추가로 들어가 인피니티 밴드 스위칭 1대가 3~5천만원합니다. B200 쓰면 네트워크 까지 포함 최소 20~40배 이익임 추가 전기로 까지 하면 50배 9kw (인텔은 같은 성능을 위해 에어콘 4대 돌리는 전기 하마) 한달 전기료 500만원 나옴 1년 6,000만원 영상 전체 부대 비용까지 생각 안 하시고 말씀 하시네요
@@user-fc5wi8bn6x pf8은 10,000TFPS 입니다.
이 영상 부대 비용까지 생각 안하고 말씀 하시네요
인텔은 10배 성능 높이면 10장 필요하고 10port 추가 점유로 인피니티 밴드 스위칭 장비가 ~5천만원합니다. 결론 장비포함 20배 추가로 들어가고
인텔칩 전기로 9kw + 추가장비 3kw = 500만원(전기로 1년 6,000만원)
새롭게 MS 데이타센타 투자 100만장 GPU 성능을 위해 X전기료 6,000만원= 1년에 60조원 전기로 내는것예요 얼마나 비효율 인텔 제품이라고 제대로 아세요
형 엔비디아에 투자했어?
하이닉스 주주는 웃죠잉