AI 추론에도 HBM이 꼭 필요할까? 가장 핫한 AI 반도체 HBM 제대로 알기!

Поделиться
HTML-код
  • Опубликовано: 10 ноя 2024

Комментарии • 5

  • @jeongseungyeob4852
    @jeongseungyeob4852 6 месяцев назад +2

    단순히 GPU를 여러개 묶어서 사용하는데에는 기술적 한계가 있죠.
    말씀해주신것처럼 여러 회로(반도체)제품을 병렬로 사용하기 위해선 그를 뒷받침해주기 위한 회로가 복잡하게 설계 될 수 밖에 없습니다.
    HBM에서 보여주는 반도체 기술 뿐만 아니라 인공지능과 관련한 기술들이 얼마나 더 등장할지 기대 되네요.
    좋은 영상 감사합니다.

    • @engiuniverse
      @engiuniverse  6 месяцев назад

      좋은 말씀 감사합니다! 앞으로 더 알찬 내용으로 찾아뵙겠습니다🙏

  • @유튜브까만북금곰
    @유튜브까만북금곰 6 месяцев назад +1

    평소에 단순히 AI한테 이미지 생성은 추론 영역이었군요... 음악 생성이나 동영상 생성같은 작업도 생성형 AI의 사용 빈도가 점점 증가하는데 이것도 추론 영역으로 보이는데, 지금은 40%밖에 차지하지 않지만 시장은 더 커질 듯 싶네요. 그 결과 AI의 추론에 있어서는 대역폭이 높고 에너지 효율이 좋은 HBM에 대한 요구가 증가할 것 같고, 경쟁자로 나온 삼성의 마하도 언제 나올지 모르는 상황에서 메모리 업계에서는 SK의 독주일 듯 싶네요.

    • @engiuniverse
      @engiuniverse  6 месяцев назад

      좋은 말씀 감사합니다! 다들 개발에 박차를 가한만큼 또 어떤 기술적인 발전이 있을지 저도 정말 궁금해지네요

  • @esprit7771
    @esprit7771 7 дней назад

    마하는 메모리 반도체가 아니니까 HBM이랑은 경쟁관계가 아니지 않나요?