(오늘의 교훈) 엔비디아 칩과 삼성 마하1 칩은 서로 경쟁 관계가 아니다. 엔비디아: 학습에 사용 (대형 슈퍼컴퓨터) 삼성 마하1: 추론에 사용 (예를 들어 핸드폰 등) 참고: 1. NPU는 사람의 신경망을 흉내낸 것이 아님 2:52 - NPU는 GPU보다 소숫점을 줄여서 연산을 간단하게 하는 것이 주 목적 - 사람의 신경망을 흉내내는 것은 NPU가 아니라 뉴로모픽
주식투자 안할거면 모르겠지만 투자 계속할거면 주식으로 10만원에서 40억으로 만든 [주식의정석] 이 채널의 영상들을 꼭 보셔야 할거에요 (영상들이 짧아서 보는데 무리없음) 주식투자를 어떻게 해야하는지 주식의 정석을 보여주고 있더군요 아마 은둔고수로 추정괴는데요 광고 아니니 오해 없으시길..
@@mindbridge00 그게 잘못된거지. 윤한이 그때 뭉가의 쫄땨였지. 박근혜를 뇌물죄로 엮으면 된다는 녹취가 나왔지. 기업인이 운동선수에게 후원하는건 전세계적인 보편화된 일이야. 왜 뇌물인데. 박근혜랑 삼성과도 경제공동체냐. 5년내내 괴롭혔어요. 빵에 안있을땐 외국에도 못나가게 했고 그때 네달랜드의 최신장비. 수급이 시급한 시점이었고..... 내가 원한다고 막 살 수 있는 장비가 아니요. 그리고 경제민주화라며 재벌기업 해체하자고 난리도 아니었죠. 자...삼성가가 경영권 방어를 못하면 어떤 일이 일어나는지 알아요. 상속세 계속올린 집단이 누구죠. 좌파들 아니요. 할말이 너무나 많지만 ....ㅠㅠ ㅈ
퀀타이제이션은 AD converting 할 때 모든 반도체가 다 거치는 과정으로 복잡한 아날로그데이터를 1과 0으로 바꿔주는 공정으로 데이터양을 줄이는거라 모든 반도체가 다 거치는 과정이라 같은 데이터 샘플링을 갖는다면 크게 차이는 없을 듯하고, 프루닝 이게 찾아보니까 말씀하신데로 암호화를 통해서 파라미터 값을 줄이고 패키징을 통해서 메모리가 다른 공정 끝날때까지 멈춰있는 걸 최소화하는 과정을 거치는거로 봐선 엔디비아 칲처럼 학습 보다는 학습 후 추론에 더 강점이 있고 저전력에 고효율 칲을 생산하는거 같은데, 아예 시장이 좀 다른 영역이지 않을까 짧은 지식으로 의견 나눠 봅니다. 어째든 잘 되었음 좋겠습니다.
주식투자 안할거면 모르겠지만 투자 계속할거면 주식으로 10만원에서 40억으로 만든 [주식의정석] 이 채널의 영상들을 꼭 보셔야 할거에요 (영상들이 짧아서 보는데 무리없음) 주식투자를 어떻게 해야하는지 주식의 정석을 보여주고 있더군요 아마 은둔고수로 추정괴는데요 광고 아니니 오해 없으시길..
1:30 부터 1:48 까지, 그리고 그 뒤의 이야기는 다른 이야기입니다. '그러면서' 라는 말을 쓸 정도로 인과가 있지는 않지 않나요. 1:35 부터 1:48 까지는 '학습에서 고려할 요소: 데이터 양의 중요성'이죠. 이 때문에 데이터 필요량이 증가하였습니다. 그건 맞아요. 그런데 그것만이 ai의 학습 결과, 즉 모델의 성능에 영향을 주는 것은 아닙니다. 여러 요인이 있지만, 그 중에 딥러닝 모델의 변천사를 살펴보면 파라미터 수가 모델의 성능에 직결된다는 것은 널리 알려진 사실입니다. 그런데 파라미터 수는 결국 모델의 크기에 영향을 주죠. 여기서 만족할만한 속도, 더 빠른 속도로 처리를 하고 싶어하니 더 더 많은 병렬 처리가 필요한 것이고 ai 장치가 무거워지는 것이죠. 데이터 필요량과 파라미터 수의 필요는 각각이 개별적으로 필요하다고 인정되었거나 또는 파라미터를 늘리고자 해서 데이터가 필요해졌다 라고 보는게 맞지 않나 싶습니다. (ai 성능을 올리려고 할 때 채널 수(실제로 코드 상에서 보면 인풋 레이어의 파라미터 수라 할 수 있겠죠)를 끌어올리면 성능은 올라가지만 그에 따라서 데이터 양도 비례적으로 늘려주어야 한다는 것이 정설인데, ai 발전의 변천사에 있어 앞선 이야기(더 많은 파라미터 필요->더 많은 데이터 필요)와는 역으로 데이터의 필요가 파라미터의 필요를 촉발시키지는 않았다고 생각합니다) 대다수 맞는 이야기이고 좋은 영상이지만 영상의 내용 전개에 다소 의아한 부분이 있어서 적어두고 갑니다
에이 그건 잘못 알려진 듯. 우리나라만큼 소프트웨어 강국이 없어요. 유럽이나 일본에서 구하는거보다 한국에서 구하는게 훨씬 빠름. 우리나라가 전자제품 석권한게 결국 코딩의 힘이죠. 세계 가전 양대산맥이 우리나라에 있지. 미국 이외 독립적 자국 포털이 있고 it 독자생태계가 있는 최소 3손가락안에 드는 나라입니다.. 전기차에서도 두각을 나타내는 이유가 결국 코딩 때문. 이제는 전자제어 코딩 능력부분에서는 거의 미국에 필적하는 수준. 그래서 헌기차들 두각을 나타내는거죠.. 일본이나 유럽차들이 개발세발하는 이유가 그런 인프라와 고급두뇌가 부족. 전멸수준이기에 힘든겁니다. 가전과 전기차는 밮으로 단순가공이 아니라 각 장치들을 세밀하게 제어하는 능력이 중요한데. 우리나라는 가히 코딩의 민족이라고 할만큼 개발자들이 출중합니다.
기자 말만 들으면 결국엔 소프트웨어적으로 메모리 악세스 효율을 높이겠다는 건데 압축/압축풀기 데이터셋의 재배치로 인한 효율적인 병렬처리 인거 같은데 압축/압축풀기 그리고 재배치에 드는 처리 비용이 과연 HBM보다 더 효율적일까하는 의심이 든다. 그리고 데이터 용량이 더 늘어났을 때 압축비율의 코스트한계에 도달 했을 때 발전은 없다는 명확한 한계가 보이는 것은 아닌지...HBM은 쌓는 기술의 발전이라고 하면 더 쌓을수 있는 것이고...흠...좀 아닌거 같긴 한데...
인퍼런스 칩이 가지는 이점은 그거 아닌가 보통 쓰는 하이프리시젼 말고 쿼터나 하프 수준 부동소수점 연산을 전용으로 하게 만들어서 뭔가 이점을 챙겨가려는거? GPGPU는 말그대로 범용이라서 가지는 타협점이 있는거고 엔비디아도 이거에 대응하려고 칩안에 텐서코어 RT코어 같이 전용 유닛들 만드는거라고 생각하는데 그렇다면 엔당도 그냥 텐서코어만 빼서 패키징만 하면 사실 인퍼런스 전용칩 나오는거 그냥 가능한거 아님? 솔직히 인퍼런스 전용칩? 나는 딱히 잘 모르겠네 ㅇㅇ 다만 엔당 예전에 테그라 말아먹은 흑역사 때문인지 모바일 칩은 별로 관심 없어 보이긴해 ㅋㅋ
마하1이 뭔지는 지금도 모르겠지만 그걸 pc에 장착만 하면 엔비디아 제품들처럼 바로 사용이 가능합니까? 사용자가 쉽게 사용을 하려면 하드웨어 뿐만 아니라 소프트웨어가 있어야 가능합니다 삼성에 도대체 무슨 소프트웨어 파워가 있습니까 타이젠도 도태되었고 과거 삼성이 손 댄 소프트웨어는 전멸인데 무슨 엔비디아와 경쟁을 합니까 기계가 아무리 있으면 뭘 해요 쓸 수가 없는데 불편한데 gpu와 cuda를 하나의 라인으로 봐야하는데 gpu만 백날 이야기하면 뭘 하느냔 말입니까
그냥 앤비디아한테 도전장 날린거임. 이론상은 전력소모가 적어서 엔비디아보다 효율적이다라는 말은 있지만.... 과연 단점이 없을까 라는겁니다ㅋㅋㅋㅋㅋㅋㅋ 이게 단점이 명확하면 전력소모가 많더라도 엔비디아는 시간이 지남에 따라 전력소모를 줄일것이고 그렇게되면 삼성은 어떤 단점이 나올지 모르는 상태로 단점을 찾아나가며 보완해 나가는반면 앤비디아는 전력소모만 잡으면서 쭉쭉 달리는......... 분명 이론상은 삼성이 유리해보일지 모르지만 어떤 단점이 나타날지 모른다는게 가장큰 단점 . 만약 전련소모를 저렇게나 많이 줄인 칩을 만들었는데 단점이 없다???????? 지금 앤비디아 독주가 예상되는게 삼성전자 독주가 될수있다는거죠. 그러면 삼성 HBM이 문제가 아니라 다른 HBM기업들한테 "야~ 우리한테 맞춰서 이렇게 HBM만들어서 납품해~" 이런 입장이 된다는거죠ㅋㅋㅋㅋ
시장이 다른 거라고 봐야 합니다. 엔비디아-HBM과 시장이 다른 소규모 인공지능-마하1이렇게요. 어짜피 인공지능을 엔비디아가 다 독점할 수도 없고, 인공지능은 계속 소형화되고 가격이 떨어집니다. 거기에 맞춘 거겠죠. 엔비디아-HBM 단점이 전력 소비량이 높은데다가 가격을 낮추기가 매우 어렵거든요. 삼성도 온디바이스 Ai 를 열심히 만들고 있는데 여기에 붙일 메모리도 있어야겠죠. 예를 들어, 삼성 폰에 저전력 AI지원 전용 메모리를 넣으면 지금 관심을 많이 받는 갤럭시24보다 훨씬 더 강력한 인공지능 성능을 갖추게 되겠지요. 애플이 맛이 가고 있는 중인데 삼성에겐 기회가 왔지요 삼성이 전용 메모리를 탑재해서 온디바이스 ai 성능을 확 끌어올리면 애플을 잡을 기회가 생길 겁니다. 이런 식으로 온디바이스에서 작동할 수 있도록 하기 위해 저전력이 필요하고, 어짜피 온디바이스 기기들은 64비트 기반이라 64비트로 만든 거죠. 온디바이스, 또는 소규모 인공지능을 타겟으로 한 메모리고, 삼성이 시장을 잘 만들면 수익이 쏠쏠할 것으로 보입니다.
@@coco-v6f9i 엑시노스도 헉헉대는 삼성이 엔비디아까지 넘볼 필요도 이유도 가치도 능력도 없구요. 삼성이 gpu 능력이 안되어서 amd와 gpu 협업을 하는데 이거 생각보다 잘 안되는 마당에 무슨 엔비디아까지 엔비디아와 유사한 길을 가는 겁니다. 엔비디아가 그래픽 카드 수요가 줄어들자 그래픽 카드 판매량을 높이고 시장 지배력을 강화하기 위해 쿠다라는 그래픽카드 연산 지원 소프트웨어를 만들었죠. 삼성도 메모리 시장을 확장하고 시장을 지키려고 옛날부터 메모리에다가 소프트웨어를 넣어서 연산 효율을 높이는 작업을 계속해 왔습니다. PIM이라고 하지요. 주로 cpu가 하는 단순 반복 연산을 메모리가 일부 떠안아서 cpu 효율성을 높이는 목적입니다. 마하는 그냥 gpu/npu- 메모리 병목현상을 줄이기 위해 데이터를 압축하고 처리 효율성을 높이는 거지, gpu/npu를 대체하는 것 아닙니다. cpu나 gpu npu 연산을 지원해서 서버용 메모리 시장 장악력을 높이려는 수준이지, cpu/npu/gpu와 직접 경쟁하려는 의도는 아니죠. 쿠다가 인공지능에 효율적이라는 논문이 나와서 갑자기 엔비디아가 뜬 것처럼 삼성 PIM이 어떤 유형의 인공지능에 최적이라는 논문이 나오며 엔비디아의 길을 갈 가능성이 없다고는 말은 못하겠지만, 그냥 운빨인 거죠. 그냥 메모리입니다. 쿠다처럼 범용 지원 언어가 있는 것도 아닌, 메모리에 간단한 소프트웨어를 내장시킨 수준.
원래 한국 대기업은 태생부터 글로벌 대기업에 머리 박고 이로 물어뜯으면서 여기까지 왔습니다. 세계 유일무이 철광석 없는 글로벌 철강사, 석유없는 석유화학사. 이가 없으면 잇몸으로 무는 게 한국인이죠. 삼성이 선도하는 건 잘 못하는데, 잘 나가는 기업 나가리 시키는 건 잘해서 지켜볼만 합니다.
반도체탐구생활 소통 채널 OPEN!!!
t.me/bandocheEXPgo
🔶링크 클릭!
업로드 하루 전에 만나 보는 최강 스포일러!!!와
강해령기자와 함께 반도체 이슈·정보에 대한 이야기도 나눠보세요~!
우연히 업로딩이 되어 있어 들어와 봤다가 생각지도 못했는데 덕분에 너무 공부 잘하고 잘 배웠습니다.
(오늘의 교훈)
엔비디아 칩과 삼성 마하1 칩은 서로 경쟁 관계가 아니다.
엔비디아: 학습에 사용 (대형 슈퍼컴퓨터)
삼성 마하1: 추론에 사용 (예를 들어 핸드폰 등)
참고:
1. NPU는 사람의 신경망을 흉내낸 것이 아님 2:52
- NPU는 GPU보다 소숫점을 줄여서 연산을 간단하게 하는 것이 주 목적
- 사람의 신경망을 흉내내는 것은 NPU가 아니라 뉴로모픽
오늘의 교훈
NPU에서의 N은 neural로 신경망을 흉내낸것이 맞다
너무 잘 봤습니다. 마하1 영상을 준비하고 있었는데 기자님 표현과 비유 등이 큰 도움이 될 것 같습니다.
늘 많이 배우고 갑니다 :)
에스오디님 감사합니다!
저도 유튜브 잘 보고 있어요~
다음에 콜라보 한번 해요~! :)
둘이 ㅁㅇㅁㅇ
Sod님이 여기에…^^;
이게 뭐냐고 물어보려고 했구만ㅎ
마하1 과외 너무 감사합니다.
아무리 좋은 칩이 나와도 개발자들과 기업들은 nvidia의 cuda때문에 바꾸질 못합니다. nvidia도 결국 하드웨어 중심에서 소프트웨어와 플랫폼 중심 기업으로 바뀔것이고 그 전에 다른 기업들이 따라잡지 못하면 nvidia의 독주가 꽤 오래 갈 것입니다.
삼성은 꼬치좁쌀을 만드면 어떨까요 .
ㅎㅎ ㅎ
맞아요 cuda때문에 못 바꾸는게 맞죠.. 아무리 잘 만들면 머하냐고요
소프트웨어가 받쳐줘야지..
마하라 추억의 이름이군요.
ATi 마하 시리즈 그래픽 카드
통로가 작아서 압축 전송은 S3칩에서 사용한 기술
컴퓨터 한계를 극복하기 위한 기술였다는
감사합니다!!! 고마워요!!! 큰 도움이 됐습니다.
엔비디아 신나게 발표하던데 삼성 화이팅 !
덕분에 공부 잘 하고 갑니다^^
주식투자 안할거면 모르겠지만 투자 계속할거면
주식으로 10만원에서 40억으로 만든 [주식의정석] 이 채널의 영상들을 꼭 보셔야 할거에요 (영상들이 짧아서 보는데 무리없음)
주식투자를 어떻게 해야하는지 주식의 정석을 보여주고 있더군요
아마 은둔고수로 추정괴는데요 광고 아니니 오해 없으시길..
삼성이 잘되기를 ㅎㅎ
@koopd1955좋은거는 혼자보세요^^
민주당이 안괴롭히면 알아서 잘할ㅈ기업입니다.
@@candleproducer 민주당이 삼성을 왜 괴롭힙니까...
오히려 삼성을 괴롭힌건 한동훈 윤석렬인데요..? 그리고 그것은 삼성도 아니고 승계를 위해 말사주고 자시고 했던 이재용을 잡아넣은것이죠.. 구분은 합시다..
@@mindbridge00 그게 잘못된거지.
윤한이 그때 뭉가의 쫄땨였지.
박근혜를 뇌물죄로 엮으면 된다는 녹취가 나왔지.
기업인이 운동선수에게 후원하는건 전세계적인 보편화된 일이야.
왜 뇌물인데.
박근혜랑 삼성과도 경제공동체냐.
5년내내 괴롭혔어요.
빵에 안있을땐 외국에도 못나가게 했고
그때 네달랜드의 최신장비. 수급이 시급한 시점이었고.....
내가 원한다고 막 살 수 있는 장비가 아니요.
그리고 경제민주화라며 재벌기업 해체하자고
난리도 아니었죠.
자...삼성가가 경영권 방어를 못하면 어떤 일이 일어나는지 알아요.
상속세 계속올린 집단이 누구죠.
좌파들 아니요.
할말이 너무나 많지만 ....ㅠㅠ
ㅈ
@@mindbridge00 왜 댓글이 없지.
틀린말 한게 하나도 없는데.
이러니 무식하면 용감하다고 범죄자와 적국에 돈을 받치고, 국회청문회에서 자기는 사회주의자라는 자의 일가족이 주식펀드사기를 치는 잉간들을 뽑지요.
제발 좀 틀린 말이 아니면 지우지 마세요.
퀀타이제이션은 AD converting 할 때 모든 반도체가 다 거치는 과정으로 복잡한 아날로그데이터를 1과 0으로 바꿔주는 공정으로 데이터양을 줄이는거라 모든 반도체가 다 거치는 과정이라 같은 데이터 샘플링을 갖는다면 크게 차이는 없을 듯하고, 프루닝 이게 찾아보니까 말씀하신데로 암호화를 통해서 파라미터 값을 줄이고 패키징을 통해서 메모리가 다른 공정 끝날때까지 멈춰있는 걸 최소화하는 과정을 거치는거로 봐선 엔디비아 칲처럼 학습 보다는 학습 후 추론에 더 강점이 있고 저전력에 고효율 칲을 생산하는거 같은데, 아예 시장이 좀 다른 영역이지 않을까 짧은 지식으로 의견 나눠 봅니다. 어째든 잘 되었음 좋겠습니다.
설명을 참 잘해주시네요 감사합니다
마하1을 내놓겠다면 마하2도 계획하고 있겠네요.
오 며칠전에 기사났던데 2도 개발할거래여 사장이
마하3도 나왔으면 좋겠어요. 망하지 않았다는 증거겠죠?
마하 3 울트라도 나옴
Quantization, pruning 등은 이미 서비스모델(추론모델)을 만들때 사용하는 방법이에요. 이것은 하드웨어 작업이 아닌 소프트웨어 작업입니다. 또한 추론 칩과 lpddr은 관련이 없습니다. 잘못된 정보가 제공되는 이유가 뭔지...
그럼 제대로 된 설명을 해봐요
설명을 아주 잘하시네요 ❤ 감사합니다 삼성 응원합니다 삼성 힘내요 ~!!!!! ❤❤❤
설명을 아주 잘하시네요
좋아요 누르고, 시청 시작~!
좋은정보 감사합니다 🎉
주식투자 안할거면 모르겠지만 투자 계속할거면
주식으로 10만원에서 40억으로 만든 [주식의정석] 이 채널의 영상들을 꼭 보셔야 할거에요 (영상들이 짧아서 보는데 무리없음)
주식투자를 어떻게 해야하는지 주식의 정석을 보여주고 있더군요
아마 은둔고수로 추정괴는데요 광고 아니니 오해 없으시길..
ㅋㅋ 이 영상을 지금 보길 다행이네..오늘 5만원대 마감인데
삼성이 반도체시장에서 승리해야한다 ㅠㅠ
삼성 꼭꼭꼭 성공하길 빕니다.
과연 엔비디아 생태계를 파괴할수 있냐가 관건이네요
강기자님 영상 잘보고 있어여. 근데 문돌이 출신이어서 이해하는데는 어려움이 있어여 ㅋㅋㅋ
삼성 꼭 성공할겁니다
인공지능 칩이 AGI의 핵심이기에...누가 선점할것인가? 알트만과 메타가 한국에 오는 사유는? ㅎㅎ
과외 잘 하고 갑니다. 감사합니다~
1:30 부터 1:48 까지, 그리고 그 뒤의 이야기는 다른 이야기입니다. '그러면서' 라는 말을 쓸 정도로 인과가 있지는 않지 않나요.
1:35 부터 1:48 까지는 '학습에서 고려할 요소: 데이터 양의 중요성'이죠. 이 때문에 데이터 필요량이 증가하였습니다. 그건 맞아요.
그런데 그것만이 ai의 학습 결과, 즉 모델의 성능에 영향을 주는 것은 아닙니다. 여러 요인이 있지만, 그 중에 딥러닝 모델의 변천사를 살펴보면 파라미터 수가 모델의 성능에 직결된다는 것은 널리 알려진 사실입니다. 그런데 파라미터 수는 결국 모델의 크기에 영향을 주죠. 여기서 만족할만한 속도, 더 빠른 속도로 처리를 하고 싶어하니 더 더 많은 병렬 처리가 필요한 것이고 ai 장치가 무거워지는 것이죠.
데이터 필요량과 파라미터 수의 필요는 각각이 개별적으로 필요하다고 인정되었거나 또는 파라미터를 늘리고자 해서 데이터가 필요해졌다 라고 보는게 맞지 않나 싶습니다. (ai 성능을 올리려고 할 때 채널 수(실제로 코드 상에서 보면 인풋 레이어의 파라미터 수라 할 수 있겠죠)를 끌어올리면 성능은 올라가지만 그에 따라서 데이터 양도 비례적으로 늘려주어야 한다는 것이 정설인데, ai 발전의 변천사에 있어 앞선 이야기(더 많은 파라미터 필요->더 많은 데이터 필요)와는 역으로 데이터의 필요가 파라미터의 필요를 촉발시키지는 않았다고 생각합니다)
대다수 맞는 이야기이고 좋은 영상이지만 영상의 내용 전개에 다소 의아한 부분이 있어서 적어두고 갑니다
양자화에 대한 오버헤드가 존재할텐데 그것에 대한 언급이 없네요. 그리고 트레이닝 과정과 추론과정중 추론과정에서만 사용되는것으로 보이는데요
2달이 지났습니다. 2달전 삼전 주가 8만6천원.
오늘 삼전주가 7만 3천원.
quantization접근방법은 추론을 위한 접근방법이고, 정확도를 높이기는 쉽지 않습니다. 원래 의도한 대로 엣지용으로는 그럭저럭 괘않겠습니다. Nvidia/CUDA와 비교대상은 아니지요.
리벨리온 같은 스타트업 칩으로 패키징해서 파는건가요? 삼성전자 단독제품?? 그 짐켈러 아저씨랑 작업한게 마하1 이거인가
4~5개월 전 방송이네요.
7월 2일 현재는?
삼성이 어려운거 하네요. 압축과 프루닝이 정밀도 손실, 복잡한 최적화, 과적합 위험, 하드웨어 호환성 문제 등 실제로 얼마나 효율이 좋을지... 장점보다 단점을 더 만들어낼수도 있을거 같음.
그건 이미 엔비디아에서도 하는 겁니다. HBM 자체가 데이터 손실을 어느정도 각오한 포멧이예요.
미래에서 왔습니다. 삼전 이것 저것 다 죽쓰고 있습니다.
AGI칩을 누가 선점할것인가?
그게 먼데여 그거 컴퓨터에 달면 게임속도도 빨라지나여?
못담 ㅋㅋㅋ 모바일용으로 개발된거라 안됨 ㅋㅋㅋ
강해령의 하이엔드 테크 잘보고 있습니다.
용접기 뒤에 엄청난 크기의 박스 보이죠? 이것 레이저 용접기 입니다. 실제물건은 이 박스사 없습니다. 납땜만 되는건데 알리에서 만원 합니다. 그나마 인두촉 바로바로 닦아내야 하는데 이마저도 불가능한 엉터리 납땜기입니다.
설명 차분하게 잘한다 ㅡ신뢰감 업
개발 SW가 중요할듯
블렉웰 엔비디아가 경쟁사들 성능 아득히 뛰어넘어버림.
이런게 과연 파운드리에 힘을 싫어야 하는 시점에서 좋은일일까? 시기가 좋지 안다!!!
수십년동안 사활을 걸고 돈 쏳아붇고 있는 엑시노스도 성능이 그모양인데 삼성이 만들수 있을까요?
삼성이 소프트웨어에 탁월한 기업이 아닌데, 갑자기 소프트웨어로 성능을 씹어먹겠다라.
에이 그건 잘못 알려진 듯.
우리나라만큼 소프트웨어 강국이 없어요. 유럽이나 일본에서 구하는거보다 한국에서 구하는게 훨씬 빠름.
우리나라가 전자제품 석권한게 결국 코딩의 힘이죠. 세계 가전 양대산맥이 우리나라에 있지. 미국 이외 독립적 자국 포털이 있고 it 독자생태계가 있는 최소 3손가락안에 드는 나라입니다..
전기차에서도 두각을 나타내는 이유가 결국 코딩 때문. 이제는 전자제어 코딩 능력부분에서는 거의 미국에 필적하는 수준. 그래서 헌기차들 두각을 나타내는거죠.. 일본이나 유럽차들이 개발세발하는 이유가 그런 인프라와 고급두뇌가 부족. 전멸수준이기에 힘든겁니다. 가전과 전기차는 밮으로 단순가공이 아니라 각 장치들을 세밀하게 제어하는 능력이 중요한데. 우리나라는 가히 코딩의 민족이라고 할만큼 개발자들이 출중합니다.
와 삼성전자 대단하네요
기자 말만 들으면 결국엔 소프트웨어적으로 메모리 악세스 효율을 높이겠다는 건데 압축/압축풀기 데이터셋의 재배치로 인한 효율적인 병렬처리 인거 같은데 압축/압축풀기 그리고 재배치에 드는 처리 비용이 과연 HBM보다 더 효율적일까하는 의심이 든다.
그리고 데이터 용량이 더 늘어났을 때 압축비율의 코스트한계에 도달 했을 때 발전은 없다는 명확한 한계가 보이는 것은 아닌지...HBM은 쌓는 기술의 발전이라고 하면 더 쌓을수 있는 것이고...흠...좀 아닌거 같긴 한데...
삼성 파운드리 인텔인수합병 언제쯤 인수합병 하나요 ~
엔비디아에게 HBM 수주 하고 싶다고 하면서 마하1으로 뒤통수 치면 과연 HBM 주문을 줄까요 ?
마하1이 엔비디아 AI칩 보다 낫다면 뒷통수 치는게 아니라 혁신이지.
GPU는 태생이 그래픽이 위주인 칩인데 그걸 AI용으로 쓰는거니 한계가 있지.
당장 전력을 엄청나게 잡아먹고 열도 엄청나게 발산하지.
잘만하면 엔비디아에 HBM 납품하는것보다 수만배 이득이다.
@@kkkjjjnnn7449 엔비디아 GTC 행사에서 추론칩 시장도 장악하기 위해서 NIM 도 출시했어요.
하나만 알고 둘은 모르는 사람이네
우선 이론상 마하1이 엔비디아칩보단 전력소모상 이득이 커서 마하1이 나올때쯤 엔비디아가 새로운 칩을 만들어내서 마하1의 전력소모를 비슷하게만 잡아도 문제가 생길지 몰라도
현재까진 이론상 마하1이 기대는 된다는게 업계 얘기임.
한마디로 삼성이 앤비디아한테 도전장을 날린거임.
지금 앤비디아한테 도전장 날릴 기업자체가 없었는데 엄청난 기대긴하죠ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ
그럼 HBM 수주 받으려고 신기술 개발을 안합니까?? 어이가 없네 ㅡ.ㅡ
그래서 마하원이 대체 뭔데요!!!!!!!!!!!!! 제목은 마하라 하면서 왜 인공지능 경량화 기술만 말해주는거에요
인퍼런스 칩이 가지는 이점은 그거 아닌가 보통 쓰는 하이프리시젼 말고 쿼터나 하프 수준 부동소수점 연산을 전용으로 하게 만들어서 뭔가 이점을 챙겨가려는거? GPGPU는 말그대로 범용이라서 가지는 타협점이 있는거고 엔비디아도 이거에 대응하려고 칩안에 텐서코어 RT코어 같이 전용 유닛들 만드는거라고 생각하는데 그렇다면 엔당도 그냥 텐서코어만 빼서 패키징만 하면 사실 인퍼런스 전용칩 나오는거 그냥 가능한거 아님? 솔직히 인퍼런스 전용칩? 나는 딱히 잘 모르겠네 ㅇㅇ 다만 엔당 예전에 테그라 말아먹은 흑역사 때문인지 모바일 칩은 별로 관심 없어 보이긴해 ㅋㅋ
초전도체마냥 이런영상 올려서 개미들 빨아먹는거구나 싶다
삼성 파운드리 분야에서 5년정도밖에 안됐는데 세계2위면 대단하네요 ㅋㅋ ㅋㅋ ㅋㅋ
엔비디아의 B200과 삼성의 마하1칩이 같은 종류의 추론칩인지 마하1은 가속기인지 궁금하네요.
엥 양자화 설명이 그게 맞나? 그냥 압축이라고????
그러게요. 양자화는 아날로그 디지털 컨버터에서 아날로그 데이터를 디지털로 변환하는 기술에서 많이 쓰죠. 다만 줃힌 목적이 압축이 목적은 아니죠. 다만 샘플링 간격을 조절해서 데이터양을 좀 더 불필요한 데이터 사이즈를 줄여서, 어느 정도 압축과 같은 효과를 뉴릴순 있죠.
훈련용이 비싸고, 추론칩은 싸구려 많습니다. 삼성전자에서 하겠다는게 추론칩이구요. 제대로 붙을려면 훈련시장에 뭔가 내놔야죠
ㅎㅎ 양자화 네트워크 압축 안 하는 칩이 있나요? 뭐가 특별한건지 모르겠네요.
역시 삼성이다 화이팅
어떤 놈들은 삼성을 못죽여 난리지만 삼성이 우리나라에 미치는 좋은 역량을 공부해 보길 바란다
우리나라는 자유민주주의 시장경제체제다 사회주의.공산주의가 아니란 말이다
엔비디아 아성을 넘어 세계화로
확실한건 아닌거네요? 여전히...
주가는 올라도 불안한 상황의 연속.
삼성파운드리인톌흡수 언제쯤 ~
마하? 이거 냄새가 풀풀..... 마하라는 모델네임 구ATI에서 쓰던 이름인데;;; 마하32 마하64
AMD엔지니어나 기술이 관련되있는듯...
기술 경쟁에서 승리하는 기업만이 세계를 선도하는 기업이 될 수 있다
강기자님 마하칩 관련 기사 잘보고 후속도 기다리고 있습니다. 아울러서 마하1 팔리면 삼성이 네이버에 로열티 얼마줘야하는지 좀 취재부탁해요
지금 보니까 코미디
핸드폰도 애플이 만든후 삼성이 만들었지만 성공하였습니다.
이번에도 대박났음 합니다
무슨 개 풀뜯는 소리인지. 휴대폰은 삼성이 먼저 만들었지. 애플이 후발주자이고..다만 스마트폰 사용자 인터페이스에서 짓밟혀서 이 지경이 되었지만..
@@kyusrhee ㄷㅅ 쓸데없는 개지식 자랑질.
한두 달에 새로운 기술이 나오는 시기에 내년에 내놓는다니 너무 느리네요. ㅠ
cerebras는 비교도 안되는 속도로 처리한다는데,,,,
그래도 그렇지 엔비댜를 삼성이 어떻게 이겨여 ㅎㅎㅎ 하드웨어를 잡았다쳐도 소프트웨어는 또 언제 따라 잡나요 ㅎㅎㅎ 하드웨어도 안드로메다급인디 ㅎㅎ
소프트웨어를 왜 삼성이 해? 네이버 Open AI 메타같은 AI업체들이 하는거지. 엔비디아도 반도체 설계회사일 뿐이다.
@@kkkjjjnnn7449 쿠다는 소프트웨어가 아니고 뭔데?
쯪쯪, 저게 경쟁하려는 것으로 보이냐?
삼성이 메모리에 cpu/npu/gpu 연산 지원하는 소프트웨어 깔아서 파는 게 하루 이틀 전에 시작한 것도 아니고.
엔비디아 하청업체 벗어나 경쟁하려는 상성.
대만은 온국민이 tsmc를 성원하는데
한국은 왜 온국민이 삼성을 성원을 하지는 않는 것인지?
삼성을 쪼개서 중국에 넘기고 싶은 세력이 있거든요
뭔가 삼성은 콩라인같아서 그런게 아닐지......ㅋㅋㅋㅋㅋㅋㅋ
대만은 tsmc가 없으면 망하지만, 한국은 삼성이 없어진다고 망하지 않으니까.
@@ramremram 미국에 넘어가는건 괜찮고??
@@rlaqudrjs12 누가 괜찮다고 했나???
넌 왜 세상을 이분법적으로,
중국편 아니면 미국편으로 밖에 안보이냐?
걱정되서 그러는데 병원좀 가봐
영상이나 음성 데이터 압축하는 거랑 비슷한 건가?
엔비디아 칩은 가격도 비싸고 무거워요. 대중화가 어렵씁니다. 아주 큰 기업들이나 사용해서 돈을 벌어야 하는데 힘들죠. 경량화되고 가격이 저렴해져야 실생활에 사용이 가능해집니다. 그래야 보편적이 됩니다. 그게 더 수량이 많아요.
엔비디아는 칩을 파는게 아니라 생태계를 파는거아닌가요????
@@coco-v6f9i 칩을 팔려고 생태계를 만들어보려는 겁니다.
CUDA를 하루 아침에 어케 무너트리냐...반도체 육각형 기업중...삼성이 제일 못하는게 소프트 부문인데..지금 파운드리도 TSMC에 밀리고..
솔직히 저것도 카피캣 느낌인데...짐캘러도 CUDA 생태계는 무시 못한다고 함...그러니까 AI칩 개발은 좋은데 어디 소프트에 적용할지가 관건이지..이제 범용의 칩시대가 아니라 맞춤형인데 그 맞춤형 칩을 소프트+하드 조합임..NVIDIA는 팹리스 이면서 CUDA 생태계까지 염두해두고 오랜시간 투자한 산물..
이런다고 글카가 싸지는것도 아니잖아;;; 앤비디아는 PC 삼성은 모바일 아닌가...소비자가 원하는건 합당한 가격이라구ㅠㅠ
이러다가 반도체가 스스로 전기까지 생산가능할지도.
삼성은 다 계획이 있구나..화이팅~!
댓글 딸피들 ㅋㅋㅋㅋㅋ 진짜로 엔비디아랑 비빌수 있다고 생각하는거 개웃기네
엔비디아는 커녕 AMD 인텔 아마존 구글칩한테도 못비비는데 ㅋㅋㅋㅋㅋ
마하1이 뭔지는 지금도 모르겠지만 그걸 pc에 장착만 하면 엔비디아 제품들처럼 바로 사용이 가능합니까?
사용자가 쉽게 사용을 하려면 하드웨어 뿐만 아니라 소프트웨어가 있어야 가능합니다
삼성에 도대체 무슨 소프트웨어 파워가 있습니까 타이젠도 도태되었고 과거 삼성이 손 댄 소프트웨어는 전멸인데 무슨 엔비디아와 경쟁을 합니까
기계가 아무리 있으면 뭘 해요
쓸 수가 없는데
불편한데
gpu와 cuda를 하나의 라인으로 봐야하는데 gpu만 백날 이야기하면 뭘 하느냔 말입니까
그래서 마하1 나왔냐? 5달 지났어.ㅋㅋㅋ
그런데 마하1이 나오는데도 불구하고 삼성이 HBM도 한다는건 앞뒤가 안맏는거 아닌가요 ?
그냥 앤비디아한테 도전장 날린거임.
이론상은 전력소모가 적어서 엔비디아보다 효율적이다라는 말은 있지만....
과연 단점이 없을까 라는겁니다ㅋㅋㅋㅋㅋㅋㅋ 이게 단점이 명확하면 전력소모가 많더라도 엔비디아는 시간이 지남에 따라 전력소모를 줄일것이고
그렇게되면 삼성은 어떤 단점이 나올지 모르는 상태로 단점을 찾아나가며 보완해 나가는반면 앤비디아는 전력소모만 잡으면서 쭉쭉 달리는.........
분명 이론상은 삼성이 유리해보일지 모르지만 어떤 단점이 나타날지 모른다는게 가장큰 단점 .
만약 전련소모를 저렇게나 많이 줄인 칩을 만들었는데 단점이 없다????????
지금 앤비디아 독주가 예상되는게 삼성전자 독주가 될수있다는거죠. 그러면 삼성 HBM이 문제가 아니라
다른 HBM기업들한테 "야~ 우리한테 맞춰서 이렇게 HBM만들어서 납품해~" 이런 입장이 된다는거죠ㅋㅋㅋㅋ
시장이 다른 거라고 봐야 합니다. 엔비디아-HBM과 시장이 다른 소규모 인공지능-마하1이렇게요.
어짜피 인공지능을 엔비디아가 다 독점할 수도 없고, 인공지능은 계속 소형화되고 가격이 떨어집니다. 거기에 맞춘 거겠죠. 엔비디아-HBM 단점이 전력 소비량이 높은데다가 가격을 낮추기가 매우 어렵거든요.
삼성도 온디바이스 Ai 를 열심히 만들고 있는데 여기에 붙일 메모리도 있어야겠죠.
예를 들어, 삼성 폰에 저전력 AI지원 전용 메모리를 넣으면 지금 관심을 많이 받는 갤럭시24보다 훨씬 더 강력한 인공지능 성능을 갖추게 되겠지요.
애플이 맛이 가고 있는 중인데 삼성에겐 기회가 왔지요 삼성이 전용 메모리를 탑재해서 온디바이스 ai 성능을 확 끌어올리면 애플을 잡을 기회가 생길 겁니다.
이런 식으로 온디바이스에서 작동할 수 있도록 하기 위해 저전력이 필요하고, 어짜피 온디바이스 기기들은 64비트 기반이라 64비트로 만든 거죠.
온디바이스, 또는 소규모 인공지능을 타겟으로 한 메모리고, 삼성이 시장을 잘 만들면 수익이 쏠쏠할 것으로 보입니다.
@@johnbillon7757
그럼 앤비디아랑 삼성이 맞짱뜨는건 아닌건가??? 난 이렇게 이해했었는데..
@@coco-v6f9i 엑시노스도 헉헉대는 삼성이 엔비디아까지 넘볼 필요도 이유도 가치도 능력도 없구요. 삼성이 gpu 능력이 안되어서 amd와 gpu 협업을 하는데 이거 생각보다 잘 안되는 마당에 무슨 엔비디아까지
엔비디아와 유사한 길을 가는 겁니다.
엔비디아가 그래픽 카드 수요가 줄어들자 그래픽 카드 판매량을 높이고 시장 지배력을 강화하기 위해 쿠다라는 그래픽카드 연산 지원 소프트웨어를 만들었죠.
삼성도 메모리 시장을 확장하고 시장을 지키려고 옛날부터 메모리에다가 소프트웨어를 넣어서 연산 효율을 높이는 작업을 계속해 왔습니다. PIM이라고 하지요. 주로 cpu가 하는 단순 반복 연산을 메모리가 일부 떠안아서 cpu 효율성을 높이는 목적입니다.
마하는 그냥 gpu/npu- 메모리 병목현상을 줄이기 위해 데이터를 압축하고 처리 효율성을 높이는 거지, gpu/npu를 대체하는 것 아닙니다.
cpu나 gpu npu 연산을 지원해서 서버용 메모리 시장 장악력을 높이려는 수준이지, cpu/npu/gpu와 직접 경쟁하려는 의도는 아니죠.
쿠다가 인공지능에 효율적이라는 논문이 나와서 갑자기 엔비디아가 뜬 것처럼 삼성 PIM이 어떤 유형의 인공지능에 최적이라는 논문이 나오며 엔비디아의 길을 갈 가능성이 없다고는 말은 못하겠지만, 그냥 운빨인 거죠.
그냥 메모리입니다. 쿠다처럼 범용 지원 언어가 있는 것도 아닌, 메모리에 간단한 소프트웨어를 내장시킨 수준.
@@coco-v6f9i
저건 병목 현상을 해결하려는 디램 메모리지, GPU가 아닙니다. 메모리에 압축 소프트웨어를 넣어서 GPU-메모리 데이터 전송 효율화하려는 거지 , GPU를 대체하는 게 아니죠.
그냥, 속임수죠. AI 가속기를 AI 칩으로
삼성에 대한민국 최고의 인재가 있으니. 잘될거야
원래 한국 대기업은 태생부터 글로벌 대기업에 머리 박고 이로 물어뜯으면서 여기까지 왔습니다. 세계 유일무이 철광석 없는 글로벌 철강사, 석유없는 석유화학사. 이가 없으면 잇몸으로 무는 게 한국인이죠. 삼성이 선도하는 건 잘 못하는데, 잘 나가는 기업 나가리 시키는 건 잘해서 지켜볼만 합니다.
매 시간 시간 발전 한다 자칫 멈추기라도 하면 영영 따라가기 힘든 때 이다 걸림돌로 작용 하는 정치인들 야바위꾼들 없음 좋겠다,
아..대통령이 되고 싶다
AI는 하드보다 소프트가 핵심 이지요.....마하원을 작동 시키는 소프트가 얼마나 잘 작동 할지? 얼마나 많은 소비자들이 호응을 할지가 ....
반드시 삼성이 반도체 시장 석권해야한다..가자 뒤집기 가자!!!!!
❤감사합니다❤❤
영상 제목이 이상하네요 HBM은 메모리칩인데..
뭔소린지 잘은 모르겠지만 잘나가는 펩리스가 삼성파운드리로 안오는 이유는 알겠군요. 고객과 경쟁하니 못믿겠네요
배가 아프다 이말이네요
저건 메모리인데 무슨 경쟁을, 엔비디아가 하이닉스 HBM을 전량 가져다 쓰는데, 엔비디아하고 하이닉스가 경쟁관계임? 협력관계임?
에스케이도잘되야지
이겨야산다 초격차로 언른 엔비디아를저겨라 삼전 이십만원아니 백만전자로가자엔비댜처럼!
삼성이 가만히 있을 기업이 아니죠
두달전 병맛이였네.ㅎ
삼성에 증오심 심을려고 발악하는 집단이 있지! 그들을 파쇄하는 선거가 되었으면 좋겠다! 삼성을 해체하겠다고 말한 정치인들도 있는데.. 삼성 홧팅!
엔디비아는 포괄적,,, 삼성은 핸드폰 한정적..
엑시노스 동급이면 곤란합니다.
삼성:그래도 한국엔 비싸게 팔꺼지롱~
가라아아아앗~ 삼성!!!
ai 다 쓸어모아라!!
하지만 삼전 주식은 그대로죠?