국내최고 고객경험 설계 전문가 차경진 교수의 ‘데이터 기반 고객경험 설계 방법론’ 강좌 출시 □ 기업 사내교육용 구매 : ttimes6000@gmail.com / (02)724-7718 / 010-5327-9524 □ 개인 수강 : 티타임즈 교육사이트(ttimes.liveklass.com/ ) -------------------------------------------------------------------- 📌오늘의 주제 모아보기📌 00:00 하이라이트 00:26 박성현 대표 소개 00:44 AI반도체, AI가속기, NPU. 뭐가 맞나 02:32 AI반도체는 어디서 일을 하나? 04:04 AI반도체는 언제, 왜 등장했나? 07:58 챗GPT의 등장이 반도체 시장에 미치는 영향? 11:09 그럼에도 왜 GPU가 대세인가? 13:32 AI반도체는 어떤 경쟁력이 있나? 16:01 AI반도체가 발달하면 엣지에서도 인공지능 연산이 되나? 17:17 AI반도체 활용하면 칩을 덜 써도 되나? 18:20 반도체도 버티컬하게 가는가? 21:40 리벨리온은 어떤 제품을 만들까? 24:27 반도체 회사는 챗GPT 시대를 어떻게 대비하나? 27:17 최종적으로 LLM이 스마트폰에서도 돌아갈까? 시청해 주셔서 감사합니다😀 좋아요와 구독은 큰 힘이 됩니다
저 사람 얘기가 먼 훗날에는 맞을수도 있죠. 지금 AI 발전 즉 소프트웨어의 발전이 너무 빠르고 그걸 따라가고 그 하입트레인에 탑승하기 위해서는 범용성 높은, 그리고 원래 써오던 성능도좋은 엔비디아 쿠다 gpu들을 쓸수밖에 없어서 엔비디아 주가가 미친듯이 오르는건데, 이 상황을 무조건 빅테크들은 벗어나려고하겠죠. 아무리 좋은 AI를 개발해봤자 결국 엔비디아한테 과하게 의존해야되는게 너무 큰 리스크니까요. 그래서 오픈ai의 샘알트만같은 사람들이 AI반도체즉 하드웨어 개발에 올인한다 선언하는거고요. 이 AI 반도체개발과 생산이 얼마나 효율적이고 빠른시일내에 가능할지는 모르겠습니다만, 이게 오래걸리고 힘들수록 엔비디아 주가는 미친듯이 더 오를거고, 성공하는것처럼 보이는순간 엔비디아 주가는 빠지고 매출은 줄어들겠죠. 근데 솔직히 빠른시일내에 되기에는 힘들어보입니다. 그 판단이 섰기때문에 지금 엔비디아 주가가 미친듯이 오른거고요. 저 레벨리온 대표님은 엄청나게 성공하실것같습니다. 엔비디아 주가가오르고 패악질과 독점이 심해지면 심해질수록 결국 반사이익 보는건 저런분들이죠. 물론 실력이 뒷받침될때의 얘기지만요.
엔비디아는 여전히 잘나가고있네요. 오를때마다 조금씩팔다가 다시 일부 구매하고 홀드중입니다. 좋은 기업은 언제나 돌파구를 찾는듯합니다. 해외 유명한 분석가가 올해부터 gpu 급격히 밀린다더니 지금 엔비디아 주가는 고삐풀린망아지네요. 국장 영상보면 우리나라 주식장점만 너무 내세우는데 국장 미장 공평히 긍정적인 분석 부정적인 분석 부탁드린ㅂ니다.
칩들끼리 카드끼리 랙들끼리 묶는 IO가 엄청나게 어려운 것으로 들었는데 대역폭에 엄청난 자신감이 있으신게 아닐까 싶습니다. 놀라운 자신감입니다. 최종적으로 AI추론 모델이 로컬에서 대규모로 돌아간다면 휴대폰이 아닌 처음엔 자율주행 차량 향후엔 로봇이 되지 않을까 싶습니다. KT와 함께 LLM 모델에서 강자가 되시길 진심으로 기원합니다.
왜냐면 엔비디아가 10년동안 해오던거니까요. 마치 AI를 상정하고 만든것마냥 gpu끼리의 연결 칩렛 최적화가 다 끝나있고 범용성도 넓고요. 범용성대비 성능으로 쳤을때 압도적으로 엔비디아 유리하고 빅테크들 이외에 그냥 AI를 쓰고싶은 나머지 중형 기업 또는 개인들은 무조건 엔비디아 gpu를 사야합니다. 그리고 단순 성능으로도 엔비디아를 아무도 못따요. 라데온? 인텔? 어림도없죠. 근데 올해 더 좋은 gpu가 엔비디아에서 나온답니다. 지금도 못따라가는데 그거보다 더 좋은게 나온다? 완전한 독주죠. 진짜 앞으로 한 5년은 독주할거같네요 최소.
전기 이슈가 굉장히 골치 아프죠. 어떤 미래산업 관련 논문을 본적이 있는데, 거기서도 지적되는 사안이었습니다. 딥 러닝, 블록체인, 전기차, 메타버스 등 미래산업이라 불리는 기술은 과거 제조업 시대와는 비할수 없는 전력 소비량에 있다. 각 기술당 기존 재래 기술에서 드는 전력 사용량의 80 - 100배 정도의 전력 사용량을 보이는데, 이건 간단히 말해 전세계의 금융 거래가 블록 체인 거래로 바뀐다고 가정할시, 지금 현재 전 세계의 온라인 금융 거래에 발생하는 전력 소모량은 같은 정보량을 처리한다고 봤을때 전략 사용량이 100배가 늘어난다는 것이라고 합니다. 문제는, 현재 전력 사용량을 증가 추세가 아닌 탄소 문제로 인한 감소 추세에 있다는 것으로, 각 기술들의 한계는 어쩌면 기술적 한계로 인해 오는 것이 아닌 전력량 이슈로 인해 정체될 가능성이 있다더군요. 지금과 같은 도입기의 적은 전력량이면 단순히 연구 목적으로 쓰이니깐 눈에 띄지 않지만, 각 기술들이 현업과 일상에서 쓰이게 되면 그 전력량 이슈는 가시적으로 문제가 된다는 이야기입니다. 가용 전력량은 줄어드는 추세인데 필요한 전력량은 기하급수적으로 늘어나기 때문에 핵융합 발전이 상용화 되지 않는 한 이 문제는 언젠가 봉착하게 될거라고 하더군요. 만일 핵융합 발전 같은 솔루션이 마련되지 않으면, 각 국가는 국가 경쟁력을 위해 국가나 거대 기업이 전기를 독점하는 상황으로까지 갈수 있을 거라는 이야기입니다. 더 이상 가정이나 인프라에서 전기를 사용할수 있는 시대는 없어지고, AI나 금융, 군사 분야등 국가 경쟁력과 직결되는 분야에서만 이제 전기가 허용되는 시대가 될지도 모른다고 전망 하더군요. 각 미래 기술이 곧 국가 경쟁력이 된 시대에서 국가들이 기술을 포기하고 시민들의 생활 보장을 선택할 리가 없고, 그렇다면 전 세계적으로 국가 경쟁력을 위해 시민들의 생활에서 전기를 박탈하는 방향으로 갈 가능성이 높다고 합니다.
AI의 핵심은 판단과 인식입니다. 일반적으로 인식 분야의 데이터는 음성, 그림, 영상, 그리고 측정값 등이 있고 이거들은 보통 현재 컴퓨터에서 처리하는 16, 또는 32, 64bit를 기본으로 하는 매우 큰 정보량을 갖는 것이 일반적이고, 판단의 분야에서는 이렇게 인식 분야에서 처리된 정보나 자연 정보를 기반으로 판단을 할때 그 정보를 그대로 처리하면 매우 비효율적인 연산처리를 하게 됩니다. 그래서 기존의 GPU를 이용하여 AI연구를 할때 영상 등과 같은 데이터를 처리하는 것은 꽤 괜찮은 효과를 가져다 주지만 처리된 결과를 가지고 판단과정을 거칠때 이 GPU라는 놈의 기본 처리 데이터폭이 너무 커서 오히려 비효율적인 처리과정을 보인다는 것입니다. 특히 매우 짧은 시간에 반복적으로 판단처리를 계속해야 할 경우에 기존의 GPU는 너무 비효율적이라는 것이 문제이죠? 그래서 요즘은 데이터의 처리와 색인(인식)정도만 기존의 시스템에서 수행하고 그것을 기반으로 판단해야 하는 프로세서를 위한 전용 칩을 개발하는 추세이죠? 그래서 AI칩도 이제 매우 다각화될 것입니다. 우리나라에서도 많은 발전이 있었으면 합니다.
1년전 엔비디아가 걱정돤다고 하시더니...초기 개발자들이 Nvidia 범용 Gpu 로 개발할수밖에 없는 현실과 동시에 쓸수밖에없는 상황에서 GPU 를 NPU 로 바꿀 설득력이 많이 부족하네요. 전기$ < AI 수익. 그리고 시장이 npu 를 필요로 해서 npu 로 gpu 대채가 아니라 npu로 새로운 application 들고 나와야 뭔가 바뀌지 않을까요. 그런점에서 Nvidia gpu application 또 나오면 그때도 npu 로 대채한다고...
AI 하드웨어 가속기가 가장 정확한 표현. AI특유의 알고리즘 연산에 특화된 반도체. CPU는 있어야 하고 GPU대용으로 사용 가능하나 게임이 가능할 정도는 아님. CPU는 작업반장 같은 역할(근데 작업반장보다 목수 인건비가 비싼,,). NPU도 10년의 역사를 가졌기에 세대가 있다. 지금까지의 NPU는 범용성이 중요했으나, GPU와 차별점이 적어져 백투더베이직(리벨리온의 창업동기). 그러나 여전히 범용성은 중요하다. 범용성을 조금씩 희생해보는 과정. GPT-MS가 캐시번 중. 이로 유지되는,,(전기세를 엄청나게 잡아먹음) . 때문에 NPU와 AI가속기의 중요성이 부각. 현재 엔비디아의 세력이 유지되는 것은 엔비디아 개발 생태계(쿠다)를 벗어나기 쉽지 않기 때문이다. 테키한 회사라고 NPU로의 전환이 쉽지 않다. 개발자들이 이미 익숙해져있기 떄문. (구글은 TPU) NPU는 가격과 특정 알고리즘에서의 퍼포먼스가 더 좋다. 천천히라도 분할 전환.. AI에선 GPU영역을 NPU가 먹을것. 모든걸 대체하진 못하겠으나. 테슬라-데이터센터를 직접 지음. 레이어별 최적화. 알고리즘, 칩, 하드웨어 풀 스택. 애플-PASM팀,, 실리콘. 리벨리온-엔비디아 아래에선 만민이 평등한 시장이라 공략 가능하다고 여겨 진출.(www.chosun.com/economy/tech_it/2023/04/06/2FCECWG5PZE6FCPXAYZYIRQ7UE/ 종사자가 아니라 얼마만큼의 쾌거인진,,) 하드웨어 개발과 양산까지 2년 정도 걸리는데, 요즘엔 양산이 나오는 시점에서 모델이 얼마나 커질지를 알 수 없는 상황->때문에 이 속도를 맞추기보다 확장성에 초점. 스마트폰에서 LLM연산은 불가능할것. 데이터센터로 보내 연산하는 방향으로 갈 것이기 때문에 5G, 6G의 중요성이 커질듯.
너무 좋은 영상입니다. 엔비디아 주가 댓글이 많이 보이는데요. 이 영상을 처음부터 끝까지 보신 분들은 아실테지만... 대표님께서 "한 동안" 엔비디아가 시장 지배력을 가지고 갈 것이다. 라고 정확히 예측하셨네요... 이 영상을 1년전에 보았으면... 제대로 공부했으면..하는 아쉬움이 있네요.
맞는말이긴함. 지금은 지속적인 연구개발하며 배포하는 사이클이여서 npu 도입하기는 시기적인 상황이 아님. 그러나 완성형으로 종착점 찍을만한 모델이 나오면, 비용 절감 단계이고 그때는 하드웨어적인 부분에 있어서 대대적인 수술이 진행되긴 할거임. 엔디비아는 그래도 탑이지만, 매출비중에서 빅테크가 사주는 비중은 줄어들고라고 봄. 주식은 광기라 뭐 어캐될지 모르지
황회장 기존보다 30배 성능 개쩔고 전기는 팍 하고 덜먹는 신규 gpu 가격은 더 비싸게 대체는 개뿔 그게 대체가 될려면 엔비데아 보다 더한 규모로 배팅이 되어야 하는데 전부 고만 고만한 회사에서 쥐꼬리만한 투자를 하는데 엔비데아가 가만히 있으면 몰라도 당장 ai 관련해서 선점 못하면 나가리 나는 상황인데 대체가 되겠냐고
![[FULL] 미래의 부 AI 반도체, 이 영상 하나로 정리하세요 (권순우 팀장)](http://i.ytimg.com/vi/ScaV5fW6sTg/mqdefault.jpg)
![[DRAGON BALL LEGENDS REVEALS ＆ STUFF] LEGENDS FESTIVAL 2024 Special Edition Part 1](http://i.ytimg.com/vi/mV5bGIswTtQ/mqdefault.jpg)
국내최고 고객경험 설계 전문가 차경진 교수의 ‘데이터 기반 고객경험 설계 방법론’ 강좌 출시
□ 기업 사내교육용 구매 : ttimes6000@gmail.com / (02)724-7718 / 010-5327-9524
□ 개인 수강 : 티타임즈 교육사이트(ttimes.liveklass.com/ )
--------------------------------------------------------------------
📌오늘의 주제 모아보기📌
00:00 하이라이트
00:26 박성현 대표 소개
00:44 AI반도체, AI가속기, NPU. 뭐가 맞나
02:32 AI반도체는 어디서 일을 하나?
04:04 AI반도체는 언제, 왜 등장했나?
07:58 챗GPT의 등장이 반도체 시장에 미치는 영향?
11:09 그럼에도 왜 GPU가 대세인가?
13:32 AI반도체는 어떤 경쟁력이 있나?
16:01 AI반도체가 발달하면 엣지에서도 인공지능 연산이 되나?
17:17 AI반도체 활용하면 칩을 덜 써도 되나?
18:20 반도체도 버티컬하게 가는가?
21:40 리벨리온은 어떤 제품을 만들까?
24:27 반도체 회사는 챗GPT 시대를 어떻게 대비하나?
27:17 최종적으로 LLM이 스마트폰에서도 돌아갈까?
시청해 주셔서 감사합니다😀
좋아요와 구독은 큰 힘이 됩니다
엔비디아가 npu만들어서 팔면 되는거 아닌가요?
❤
이 영상 올라오고...
10개월만에...
NVDA(엔비디아) 주가 4배 정도 올랐소.
이 때 엔비디아를 샀어야 ㅋㅋㅋ
엔비디아 경쟁사라 이렇게 떠드는게 당연했지만 이 영상이후 몇배가 오른거냐ㅋㅋ
미래에서 왔는데, 엔비디아 여전히
잘 나가고 있네요.. 역시 전문가조차도 미래를 예측하는건 힘드네요
일초뒤 미래?
저 사람은 자기네 회사께 엔비디아 이길것이라고 주장하는것 임. ㅎㅎㅎ
그런데 엔비디아는 CUDA라는, 자기네 칩 만 돌아가는 라이브러리를 가지고 있어서. AI계를 거의 독점 함.
@@구름비-i9q 미래 불확정한 싯점으로 말하는 자체가 난센스네요..
1초 뒤도 미래예요..
저 사람 얘기가 먼 훗날에는 맞을수도 있죠. 지금 AI 발전 즉 소프트웨어의 발전이 너무 빠르고 그걸 따라가고 그 하입트레인에 탑승하기 위해서는 범용성 높은, 그리고 원래 써오던 성능도좋은 엔비디아 쿠다 gpu들을 쓸수밖에 없어서 엔비디아 주가가 미친듯이 오르는건데, 이 상황을 무조건 빅테크들은 벗어나려고하겠죠. 아무리 좋은 AI를 개발해봤자 결국 엔비디아한테 과하게 의존해야되는게 너무 큰 리스크니까요. 그래서 오픈ai의 샘알트만같은 사람들이 AI반도체즉 하드웨어 개발에 올인한다 선언하는거고요. 이 AI 반도체개발과 생산이 얼마나 효율적이고 빠른시일내에 가능할지는 모르겠습니다만, 이게 오래걸리고 힘들수록 엔비디아 주가는 미친듯이 더 오를거고, 성공하는것처럼 보이는순간 엔비디아 주가는 빠지고 매출은 줄어들겠죠. 근데 솔직히 빠른시일내에 되기에는 힘들어보입니다. 그 판단이 섰기때문에 지금 엔비디아 주가가 미친듯이 오른거고요. 저 레벨리온 대표님은 엄청나게 성공하실것같습니다. 엔비디아 주가가오르고 패악질과 독점이 심해지면 심해질수록 결국 반사이익 보는건 저런분들이죠. 물론 실력이 뒷받침될때의 얘기지만요.
@@telecast712 레벨리온은 힘들지 않을까요 ? 큰 기업들은 자체 솔루션 개발하고. 작은 회사들은 엔비디아 꺼 계속 쓰는 방향으로 갈것 같습니다. 제 생각엔.
엔비디아는 여전히 잘나가고있네요. 오를때마다 조금씩팔다가 다시 일부 구매하고 홀드중입니다. 좋은 기업은 언제나 돌파구를 찾는듯합니다. 해외 유명한 분석가가 올해부터 gpu 급격히 밀린다더니 지금 엔비디아 주가는 고삐풀린망아지네요. 국장 영상보면 우리나라 주식장점만 너무 내세우는데 국장 미장 공평히 긍정적인 분석 부정적인 분석 부탁드린ㅂ니다.
칩들끼리 카드끼리 랙들끼리 묶는 IO가 엄청나게 어려운 것으로 들었는데 대역폭에 엄청난 자신감이 있으신게 아닐까 싶습니다. 놀라운 자신감입니다. 최종적으로 AI추론 모델이 로컬에서 대규모로 돌아간다면 휴대폰이 아닌 처음엔 자율주행 차량 향후엔 로봇이 되지 않을까 싶습니다. KT와 함께 LLM 모델에서 강자가 되시길 진심으로 기원합니다.
박대표님 깊이 있고 실전에서 나온 지식, 감사합니다!
이렇게 틀릴수가!!!
역시 주식관련 영상은 1년쯤 지나고 보는게 제일 재밌음 ㅋㅋㅋㅋ
새로운 시장에서 크게 성공하시기 빕니다!
기자님이 준비를 많이하셔서, 좋은 내용을 많이 이끌어 내셨네요.
기자시군요.. 저는 전문가신줄.. 질문이 좋습니다..
이번 인터뷰는 정말 레전드네요. 현업의 현장 이야기를 생생하기 듣고 배울 수 있어서 좋았습니다. 무어의 법칙이 무색하다는 말에 변화가 대체 얼마나 빠른 건지 감도 안 오는 상황입니다.
이 인터뷰를 어느순간 반틈쯤 알아듣는 내가 신기하네. SOXL에 물린지 2년이고 엔비디아는 물렸다가 이제 수익전환하니 이런 말도 반쯤은 알아듣게 되는구나.
좋은 인터뷰 감사합니다
다른채널에서도 박성현 대표 설명 들었지만, 티타임즈에서 명확하게 정리가 되네요!
cpu = 배달회사 + 대형화물차
gpu = 1톤화물차
npu = 오토바이
ai = 치킨
치킨을 배달할때는 화물차도 되지만 여러대 사려면 도입 비용 비싸고 운용 하려면 기름값도 많이든다ᆞ 골목길이나 단거리는 ᆞ 오토바이로 하는것이 효울적이다.
알고리즘 = 배달의민족이냐 쿠팡이츠냐
전용하드웨어 하번에 한집 배달
좋은 영상 준비해주셔서 정말 감사합니다
오히려 반대로 엔비디아 지배력은 이제껏 어떤 분야에서도 인류가 겪어보지 못한 정도로 막강해질 걸.
여러 방면에서 걱정될 정도로...
왜이렇게 생각하시게된거에요?
왜냐면 엔비디아가 10년동안 해오던거니까요. 마치 AI를 상정하고 만든것마냥 gpu끼리의 연결 칩렛 최적화가 다 끝나있고 범용성도 넓고요. 범용성대비 성능으로 쳤을때 압도적으로 엔비디아 유리하고 빅테크들 이외에 그냥 AI를 쓰고싶은 나머지 중형 기업 또는 개인들은 무조건 엔비디아 gpu를 사야합니다. 그리고 단순 성능으로도 엔비디아를 아무도 못따요. 라데온? 인텔? 어림도없죠. 근데 올해 더 좋은 gpu가 엔비디아에서 나온답니다. 지금도 못따라가는데 그거보다 더 좋은게 나온다? 완전한 독주죠. 진짜 앞으로 한 5년은 독주할거같네요 최소.
우와...AI 반도체 이야기에서 깊이가 다릅니다...^^
쉽게 설명해주시는게 정점에 오른사람들이 비전문가에게 해줄수있는 최고의 설명이란걸 알아서 좋은 정보 감사합니다
공학박사라고 생각이안들정도로 진짜 설명을 쉽게 잘해주시네요. 레전드입니다!
지나가던 공학박사과정생 뼈맞고 웁니다 ㅋㅋㅋㅋㅋㅋ
와.........! 정말 좋은 정보 많이 얻어 갑니다. MSDC에서 업무 경험도 있어서 언급하시는 내용들이 반갑?네요. 건승 하세요! 응원 드립니다.
뭔가 지금 느껴지는 감정이
제가 한 2006년 2007년 이럴때 스마트폰이 등장하면 어떻게 세상이 바뀔거 같다, 스마트폰은 필요하다 필요하지 않다, 스마트폰은 세상을 점유한다 못한다 이런 갑론을박이 있던 느낌과 굉장히 유사하네요
AI 중 반도체쪽일까요? GPT 등장이 그렇게 느껴지신걸까요?
개발자 인건비 합보다 gpu 전기세값이 높아지면
Npu가 매우 중요해질거 같습니다
인공지능이 보편화 되려면, 전기세 해결해야 하고, 최적화도 필수고, 공정화도 1나노까진 가야, 뭔가 의미가 있지 않을까 생각함... 지금은 특정 직업군에게만 좋음,,
뭔가 다 막연한 말만 하시는 거 같아요.
이런 사람들은 물은 물이요, 산은 산이로다. 앞으로 뭔가 진행되지 않는 대화법입니다.
소프트웨어 엔지니어입니다. 제가 별로 맞상대 안 하는 타입
교육 모든 생산 제작 방산 서비스 전부가능해짐 법이 안막았다면 지금쯤 사람들은 모니터 스마트폰이 아닌 안경착용하고 다니는게 일상일정
지금보면 이거 되게 민망하겠다.
AI 대장주가 엔비디아로 주가는 폭등중인데….
이 기자도 전문가 수준이네요,
"리벌리언"사명이 암시하듯이 기성제품을 확 뒤집어 보세요,한국의 스티브잡스가
되시길 기원합니다
이제는 한국안에서만의 목표가 아닌 전세계를 상대로 해야죠.
ㅋㅋㅋ 저때 엔비디아 산 사람들이 진짜 박사지 ㅋㅋ
Npu.tpu.테슬라 도조칩이 gpu를 대체할거라고 의심만하다. 대표님이 확실히 설명해주시니 속시원 하내요.
Per 160배에 거래되는 엔비디아 정체성이 드러난 강의.
ㅎㅎㅎ
엔비디아는 시총 1위 찍을 기세네요. ㅠㅠ
ㅋㅋㅋㅋㅋㅋㅋ
@ryankim7372 얼마나 넣으셨나요? 수익률이...?😊
그런데 지금은 떨어지네요 결국 이 영상이 맞았나
@ryankim7372 수익금액이...?
정말 많이 배웁니다👍 대표님 한국 업체가 글로벌 시장에서 활약할 수 잇는 날을 기대하겟습니다 :)
전기 이슈가 굉장히 골치 아프죠. 어떤 미래산업 관련 논문을 본적이 있는데, 거기서도 지적되는 사안이었습니다. 딥 러닝, 블록체인, 전기차, 메타버스 등 미래산업이라 불리는 기술은 과거 제조업 시대와는 비할수 없는 전력 소비량에 있다. 각 기술당 기존 재래 기술에서 드는 전력 사용량의 80 - 100배 정도의 전력 사용량을 보이는데, 이건 간단히 말해 전세계의 금융 거래가 블록 체인 거래로 바뀐다고 가정할시, 지금 현재 전 세계의 온라인 금융 거래에 발생하는 전력 소모량은 같은 정보량을 처리한다고 봤을때 전략 사용량이 100배가 늘어난다는 것이라고 합니다.
문제는, 현재 전력 사용량을 증가 추세가 아닌 탄소 문제로 인한 감소 추세에 있다는 것으로, 각 기술들의 한계는 어쩌면 기술적 한계로 인해 오는 것이 아닌 전력량 이슈로 인해 정체될 가능성이 있다더군요. 지금과 같은 도입기의 적은 전력량이면 단순히 연구 목적으로 쓰이니깐 눈에 띄지 않지만, 각 기술들이 현업과 일상에서 쓰이게 되면 그 전력량 이슈는 가시적으로 문제가 된다는 이야기입니다. 가용 전력량은 줄어드는 추세인데 필요한 전력량은 기하급수적으로 늘어나기 때문에 핵융합 발전이 상용화 되지 않는 한 이 문제는 언젠가 봉착하게 될거라고 하더군요.
만일 핵융합 발전 같은 솔루션이 마련되지 않으면, 각 국가는 국가 경쟁력을 위해 국가나 거대 기업이 전기를 독점하는 상황으로까지 갈수 있을 거라는 이야기입니다. 더 이상 가정이나 인프라에서 전기를 사용할수 있는 시대는 없어지고, AI나 금융, 군사 분야등 국가 경쟁력과 직결되는 분야에서만 이제 전기가 허용되는 시대가 될지도 모른다고 전망 하더군요. 각 미래 기술이 곧 국가 경쟁력이 된 시대에서 국가들이 기술을 포기하고 시민들의 생활 보장을 선택할 리가 없고, 그렇다면 전 세계적으로 국가 경쟁력을 위해 시민들의 생활에서 전기를 박탈하는 방향으로 갈 가능성이 높다고 합니다.
시민들에게 전기를 박탈하면 시민들은 어떻게 생활하면 되는걸까요?
권위주의 국가에선 가능할지 모르겠으나 민주주의 국가에선 어려울듯
아 정말 암담한 디스토피아 영화 시나리오에서나 다룰 법한 이야기인데 너무 현실적으로 와닿는 내용들이네요.. ㅠ
@@jellyjoa1423 그래서 에코 라이프로 가나봅니다.
일반시민들만 전기누진세 왕창
물려 최대한 억제할 듯~
와 기자가 정리 너무잘함
2편이 기대되네요
리벨리온 엠엘퍼프 우승을 축하드립니다. 삼프로에서 보고 요즘 근황이 궁금했는데 반갑고, IPO기다리고 있겠습니다. 기왕이면 나스닥에서 상장하시길...!
같은 일을 하는 사람이라 관심되게 봤네요. 박성현 말씀하시는 자막중 오타가 있어 말씀드립니다. PASM이 아니라 PA Semi 정정하면 더 좋을듯합니다.
쿠다 대체하는게 쉬웠으면 이미했죠...
사실상 쿠다생태계 벗어나는게 불가능합니다
무너지긴 개나 ㅋㅋㅋ
너무 생소한 얘기인데 대충 알아들은 것 같은 착각을 일으키는 신기한 현상. 정말 똑똑하구나... 대단하구나... 이런 생각이 드네요. 보통 사람들하고는 뇌구조가 다른 듯.ㄷㄷ
정말 쉽게 잘 설명해주셨네요. 감사합니다.
대단하신 분이네요
지금 봐도 대단하냐 ?
우와... 압도적으로 AI시장 투자에 필요한 정보들만 꽉꽉 채운 영상이네요 ..... 채널 구독박을..까?
최근 cpu를 보면 특정 기능에 효율적인 코어가 들어가고 있습니다. 엔비디아도 텐서코어라는 코어가 추가됐죠. 아마 곧 특화된 코어를 내장해서 나올겁니다.
전문가의 의견을 듣고 투자하면 실패하는 이유가, 전문가라는 분들은 100% 어는 한 조직에 속해서 일을 하고 있을 수 밖에 없기 때문에 객관적인 의견이 나올 수가 없어서 이죠...
성능으로는 증명했네요. 대단하십니다.
반도체 팹리스 설계단이나 파운드리에서 전력효율성을 앞으로 얼마나 빠르게 향상시킬 수 있을 진 모르겠지만, 그 속도가 빠르지 않다면 smr같은 탄소배출량이 적으면서도 기저 전력을 공급할 수 있는 에너지 쪽이 더 각광받겠네요.
지금 샘의 말이 왜 천기누설이라고 하는지 이걸보니 더 이해되네요. 향후 엔비디아 위력이 더욱 공고해지겠어요.
유튭에서 가장 조심해서 봐야 되는 게 자칭 전문가 넘들
마치 강연을 듣는듯한... 재밌었습니다.
진짜 제대로 알려주시네
이 사람 말 듣고 엔비디아 일찍 판사람들 피눈물 흘리는중 언젠가 이분말데로 되겠지만 그날은 빨라야 10년후라는게 함정
박성현 대표님 정말 다양한 이야기 감사합니다😊
채굴은 초창기에 CPU였다가 GPU로 대체하고 나중에 가서야 ASIC으로 대체한 사례가 있는걸 봐서는 AI도 이런식으로 대체될 가능성이 있을지도 모르니까요.
10개월이 지난 지금 엔비디아 주가는 거의 사상 최고를 찍고 있네요 😂
설명을 뭐랄까 되게 잘하시네요 전문용어가 나오면 아무래도 듣다가 뇌정지 오는데 익숙하지 않은 용어임에도 되게 이해가 편하다는 생각이 들었습니다 감사합니다
리벨리온 화이팅~!!!
잘봤어요 질문답변이 구체적이라 좋음
박성현 리벨리온 대표님, 그대는 진정한 '대한사람'입니다. 존경합니다.
음...공상인가? 아직 시기상조인듯. GPU가 문제가 아니라 개발프로그램의 쿠다를 따라 잡을수 있을것인가
사업은 모르겠는데 주식투자는 절대 하면 안될분일듯
겸손
이재원기자 박성현 대표님 사촌?? ㅋㅋ 분위기 비슷해요.... 박대표님 통찰력있는 의견 기다렸어요..
AI의 핵심은 판단과 인식입니다.
일반적으로 인식 분야의 데이터는 음성, 그림, 영상, 그리고 측정값 등이 있고 이거들은 보통 현재 컴퓨터에서 처리하는 16, 또는 32, 64bit를 기본으로 하는 매우 큰 정보량을 갖는 것이 일반적이고, 판단의 분야에서는 이렇게 인식 분야에서 처리된 정보나 자연 정보를 기반으로 판단을 할때 그 정보를 그대로 처리하면 매우 비효율적인 연산처리를 하게 됩니다. 그래서 기존의 GPU를 이용하여 AI연구를 할때 영상 등과 같은 데이터를 처리하는 것은 꽤 괜찮은 효과를 가져다 주지만 처리된 결과를 가지고 판단과정을 거칠때 이 GPU라는 놈의 기본 처리 데이터폭이 너무 커서 오히려 비효율적인 처리과정을 보인다는 것입니다. 특히 매우 짧은 시간에 반복적으로 판단처리를 계속해야 할 경우에 기존의 GPU는 너무 비효율적이라는 것이 문제이죠?
그래서 요즘은 데이터의 처리와 색인(인식)정도만 기존의 시스템에서 수행하고 그것을 기반으로 판단해야 하는 프로세서를 위한 전용 칩을 개발하는 추세이죠?
그래서 AI칩도 이제 매우 다각화될 것입니다. 우리나라에서도 많은 발전이 있었으면 합니다.
ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ
대량생산이 가능한 가장 좋은 ai칩도 엔비디아가 만들고 있는데...
어떻게 엔비디아의 지배력을 무너뜨린다는 건지 참...
우와. 역시 반대로 하는게 답인가
비전문가가 기본적으로 알아야될 것들 설명 잘해주네...
1년전 엔비디아가 걱정돤다고 하시더니...초기 개발자들이 Nvidia 범용 Gpu 로 개발할수밖에 없는 현실과 동시에 쓸수밖에없는 상황에서 GPU 를 NPU 로 바꿀 설득력이 많이 부족하네요. 전기$ < AI 수익. 그리고 시장이 npu 를 필요로 해서 npu 로 gpu 대채가 아니라 npu로 새로운 application 들고 나와야 뭔가 바뀌지 않을까요. 그런점에서 Nvidia gpu application 또 나오면 그때도 npu 로 대채한다고...
전기료 때문에 결국은 바꾸게 될것 같아요.꼭 필요한 곳 외는 GPU를 사용하지 않을것 같아요.지금 개인용 컴퓨터의 GPU와 CPU의 전기 사용량이 웬만한 에어컨과 맞 먹는데 이런것을 몇만개씩 사용한다면 감당이 안되죠.
재밌어요
AI 하드웨어 가속기가 가장 정확한 표현. AI특유의 알고리즘 연산에 특화된 반도체. CPU는 있어야 하고 GPU대용으로 사용 가능하나 게임이 가능할 정도는 아님. CPU는 작업반장 같은 역할(근데 작업반장보다 목수 인건비가 비싼,,).
NPU도 10년의 역사를 가졌기에 세대가 있다. 지금까지의 NPU는 범용성이 중요했으나, GPU와 차별점이 적어져 백투더베이직(리벨리온의 창업동기). 그러나 여전히 범용성은 중요하다. 범용성을 조금씩 희생해보는 과정.
GPT-MS가 캐시번 중. 이로 유지되는,,(전기세를 엄청나게 잡아먹음) . 때문에 NPU와 AI가속기의 중요성이 부각.
현재 엔비디아의 세력이 유지되는 것은 엔비디아 개발 생태계(쿠다)를 벗어나기 쉽지 않기 때문이다. 테키한 회사라고 NPU로의 전환이 쉽지 않다. 개발자들이 이미 익숙해져있기 떄문. (구글은 TPU)
NPU는 가격과 특정 알고리즘에서의 퍼포먼스가 더 좋다. 천천히라도 분할 전환.. AI에선 GPU영역을 NPU가 먹을것. 모든걸 대체하진 못하겠으나.
테슬라-데이터센터를 직접 지음. 레이어별 최적화. 알고리즘, 칩, 하드웨어 풀 스택.
애플-PASM팀,, 실리콘.
리벨리온-엔비디아 아래에선 만민이 평등한 시장이라 공략 가능하다고 여겨 진출.(www.chosun.com/economy/tech_it/2023/04/06/2FCECWG5PZE6FCPXAYZYIRQ7UE/ 종사자가 아니라 얼마만큼의 쾌거인진,,)
하드웨어 개발과 양산까지 2년 정도 걸리는데, 요즘엔 양산이 나오는 시점에서 모델이 얼마나 커질지를 알 수 없는 상황->때문에 이 속도를 맞추기보다 확장성에 초점.
스마트폰에서 LLM연산은 불가능할것. 데이터센터로 보내 연산하는 방향으로 갈 것이기 때문에 5G, 6G의 중요성이 커질듯.
요약 감사합니다
온다비이스는 허상일까요?
@@반안 오래전이라 확실하진 않지만 저리 적어둔걸 보면 리벨리온 대표님이 그리 말씀하시나봅니다 ㅎㅎ llm은 데이터량이 어마무시하니 현재로선 유의미한 온디바이스 기기가 나올 수 있을지,,? 란 생각은 드네요
엔비디아 주가가 하늘을 찍는구만ㅋㅋ
클라우드 기반 os 만들면 개인용은 gpu,저장장치 기타등등 부품 사라질텐데
기업들은 gpu,저장장치 더 필요 하겠지만
클라우드 기반으로 만들면 전자기기 스펙도 딱히 필요없고 서버망 유지비만 월정액 받으면
아직 만드는 회사가 없는거 같음
믿고보는 이재원 기자
너무 좋은 영상입니다. 엔비디아 주가 댓글이 많이 보이는데요. 이 영상을 처음부터 끝까지 보신 분들은 아실테지만... 대표님께서 "한 동안" 엔비디아가 시장 지배력을 가지고 갈 것이다. 라고 정확히 예측하셨네요... 이 영상을 1년전에 보았으면... 제대로 공부했으면..하는 아쉬움이 있네요.
K전문가는 믿을게 못된다는 걸 증명하는 영상😂
컨슈머 개발자가 AI 가속기에 쉽게 접근할 수 있어야 생태계가 만들어지지 않을까요?
세상의 전문가라는 것이 실제는 엉터리라는 것을 검증했네요...
전혀 아닌데 ㅋㅋ 엔비디아가 없음 chatgpt도 핫바지죠~~
엔비디아가 발맞춰움직일거라 믿는다
그렇게 되면 cup를 못팔게되잖아요. 많은 기업들이 그렇게 망했습니다. 기존의.파이를 쉽게 포기못해서 새로운 기술이 나왓는데도 능력은 되나 적용을 못해서 망했죠 노키아가.대표적
잘 되었네요. 저렴한 가격에 앞으로 그래픽 카드 구입 할 수 있겠네요.
그건 아닙니다.
@@damoatech 왜 아닌가요? 이유가 뭔가요?
@@백영래-u3x 저건 GPU 대체가 아니기 때문입니다. 다른 시장입니다. 혹시 GPU가 안팔려서 가격이 내린다고 하면 맞습니다.
@@damoatech 영상제목 확인하세요.
Nvdi 의 약점 모르고 있을까요 ? 기술개발은 계속 되고 있을텐데 ?!!!
영어 발음이 너무 최고이시네요 ㅋㅋ
리벨리온 상장하기 전에 투자 하려면 어떻게 하나요 ? SPEC 만드시나요 ? 꼭 알려주세요
쿠다코어같은건가 보네요 화이팅입니다
엔비디아 화이팅 - 엔비디아 주주 -
앤비는 손놓고 가만 있으까? 희망사항을 늘어놓으신듯
11:26 ChatGPT 때문에 거대 IT기업들이 줄서서 황당한 가격의 Nvidia H100을 줄서서 사는 현상황 ?
빠른 변명이 필요합니다.
나는 주식전문가가 아냐?
AI전문가지 ~~~~
15:00😊
엔비디아가 ai최대 수혜종목인데..ㅎㅎ
맞는말이긴함. 지금은 지속적인 연구개발하며 배포하는 사이클이여서 npu 도입하기는 시기적인 상황이 아님. 그러나 완성형으로 종착점 찍을만한 모델이 나오면, 비용 절감 단계이고 그때는 하드웨어적인 부분에 있어서 대대적인 수술이 진행되긴 할거임. 엔디비아는 그래도 탑이지만, 매출비중에서 빅테크가 사주는 비중은 줄어들고라고 봄. 주식은 광기라 뭐 어캐될지 모르지
엔비디아도 종교군요 여러 댓글이 그럴리 없다라는데...
설명진짜잘한다
리벨리온 기다리고 있음
AI반도체로 학습, 추론이 가능하면 LLM도 한번 해보시면 어떨런지요?
저로서는 좀 이해가 안되는게 gpu의 시장지배력이 무너질 수는 있어도 엔비디아의 지배력이 무너질 일은 없지 않나요? 엔비디아도 텐서 코어를 자사 gpu에 내장한 게 벌써 3년 가까이 됐는데 그 비중만 늘리면 그게 ai 반도체거든요.
엔비디아의 마진율이 너무 높아서 그런 게 아닐까요.
그렇게해도 비싸고 전력도 많이 들죠.
텐서 코어를 GPU에 추가하는 걸로는 근본적인 격차를 줄일 수 없습니다. Systolic array 검색해보시면 도움되실 겁니다. GPU는 범용성을 포기할 수 없기 때문에 전용 아키텍처와는 큰 틀에서 다릅니다.
황회장 기존보다 30배 성능 개쩔고 전기는 팍 하고 덜먹는 신규 gpu 가격은 더 비싸게 대체는 개뿔 그게 대체가 될려면 엔비데아 보다 더한 규모로 배팅이 되어야 하는데 전부 고만 고만한 회사에서 쥐꼬리만한 투자를 하는데 엔비데아가 가만히 있으면 몰라도 당장 ai 관련해서 선점 못하면 나가리 나는 상황인데 대체가 되겠냐고
싹 다틀렸네? 쪽팔려서 어쩌냐ㅋㅋ
치킨게임하는거지..
그대가 보는 시각이 다 맞다는 생각이드나요?
보이는 것만 보이는거겠지요..
엔비디아 시총 3위네요.
주식시장에서 전문가는 없다 ㅋㅋㅋ