Размер видео: 1280 X 720853 X 480640 X 360
Показать панель управления
Автовоспроизведение
Автоповтор
왕초보를 위한 코드깎는노인의 클래스에서 코딩으로 상상을 현실화하는 것의 즐거움을 경험하세요!cokac.com ⏰ 6월 1일 20시 슈퍼얼리버드 한정판매 오픈
은총 받은 저의 맥스튜디오가 기뻐하고 있습니다. 귀한 컨텐츠 정말 감사합니다.
항상 중앙서버와 트러블 없이 잘 지내는점 1분 1초 매 순간 감사합니다.
뭐야... 이거
안녕하세요. 영상에서 LLaMA3 70B를 사용하셨는데 양자화를 한 모델인가요? 혹시 출력속도는 어느정도로 나오나요?
양자화 된 버전입니다. 속도는 맥스튜디오 울트라로 예전 gpt-4 초기때 속도정도 나옵니다. 감사합니다!
GPU 자원을 사용해서 생성되는데도 세월이 내월아 걸리나요?? ㅎㄷㄷ
GPU 가속 되어도 만만치 않더군요 ㅎㅎ
다행히 저는 맥스튜디오 울트라를 가지고 있어서 라마3 70B를 돌려봤습니다. 아직은 3만원내고 챗GPT4써야겠더군요. 올해안에 챗GPT4 성능나오는 괴물이 나오면 좋겠어요. 다만 걱정은 챗GPT4정도 성능이 70B정도 모델에서 구현이 가능할까하는 걱정입니다. 이거 넘어가면 맥스튜디오 울트라로도 감당안될거같아요. 얼마나 고사양 컴을 장만해야할지 심히 걱정입니다.
그러게말입니다. 400B를 준비중이라는데 어느정도 사양이 필요할지 가늠이 어렵네요 ㅎㅎ. 저도 같은 생각을 하던 중 페북 보는데 쇼핑몰 맞춤광고로 웬 뜬금없이 그 비싼 엔비디아 H100 GPU가 뜨더라구요 ㅋㅋ
좋은 정보 감사합니다. 맥스튜디오 사양을 좀 알수 있을까요?예) GPU 60코어 × 64GB × 1TB
Mac Studio / M2 Ultra / 24코어 CPU / 60코어 GPU / 32코어 Neural Engine / 64GB 통합 메모리 / 1TB SSD 저장 장치입니다^^
안녕하세요. 소개해주신 aiexe릉 현업에 적용해 많은 일을 해보고있습니다. 넘 감사드리며. 현재는 gpt-4o 사용중인데, 라마3 70b를 구동할만한 서버컴도 가지고 있어서 시도해보고싶네요. 혹시 해당기능을 aiexe에서 구동하는 코드등을 공유해주실수도 있나요?
안녕하세요 관심가져주셔서 감사합니다. 라마3을 AIEXE를 구동하는 컴퓨터와 동일한 컴퓨터에서 구동하신다면 별도의 코드 없이 바로 AIEXE에서 라마3를 인식할 수 있습니다! 해보시고 어려우신점 있으시면 말씀 부탁드립니다. 감사합니다!
Msty로 무리없이 가능합니다.
오 msty도 궁금하네요. 저도 한번 살펴보도록 하겠습니다. 좋은 정보 감사합니다!
좋은 정보 감사합니다
영상 봐주셔서 감사합니다^^
ws(웹서버) 역할을 클라우드를 쓰라고요...? 어차피 혼자 쓸껀데????? oAuth 토큰 처리하면 되지 않나요? 아니면 구글 otp 소스 적용해서 써도 되고 뭐하러 클라우드를 또 씁니까?......................
맥스튜디오를 기술적으로 서버가 아니라 단지 클라이언트로서의 역할로 머물도록 하기 위해서 별도의 서버역할을 하는 컴퓨터가 필요한 상황이였습니다.
아참.. 그래야하는 이유를 추가적으로 말씀드리자면 영상에서 설명했듯 맥스튜디오를 직접 사용하시는 분의 네트워크 설정을 건드리지 않기 위함이였습니다
별 개 엉터리 설명을 하고 있네. 세상 어느 네트워크 포트가 입출력이 동시에 돼냐.
소켓통신에 대한 공부가 좀 더 필요해보이십니다. 이 댓글 지우지 마시고 공부하시며 궁금하신점 여기에 댓글 달아주시면 알려드리겠습니다 감사합니다
참고로 검색키워드도 함께 알려드립니다. 양방향 소켓통신 혹은 Bidirectional Socket Communication 로 검색해서 나오는 여러 자료를 통해서 추가적인 공부를 하실 수 있습니다. 구글의 경우는 이미지 탭에 이를 설명하는 좋은 도식들도 많으니 이를 함께 참고하시면 좋습니다.
😂😂😂
왕초보를 위한 코드깎는노인의 클래스에서 코딩으로 상상을 현실화하는 것의 즐거움을 경험하세요!
cokac.com ⏰ 6월 1일 20시 슈퍼얼리버드 한정판매 오픈
은총 받은 저의 맥스튜디오가 기뻐하고 있습니다. 귀한 컨텐츠 정말 감사합니다.
항상 중앙서버와 트러블 없이 잘 지내는점 1분 1초 매 순간 감사합니다.
뭐야... 이거
안녕하세요. 영상에서 LLaMA3 70B를 사용하셨는데 양자화를 한 모델인가요? 혹시 출력속도는 어느정도로 나오나요?
양자화 된 버전입니다. 속도는 맥스튜디오 울트라로 예전 gpt-4 초기때 속도정도 나옵니다. 감사합니다!
GPU 자원을 사용해서 생성되는데도 세월이 내월아 걸리나요?? ㅎㄷㄷ
GPU 가속 되어도 만만치 않더군요 ㅎㅎ
다행히 저는 맥스튜디오 울트라를 가지고 있어서 라마3 70B를 돌려봤습니다. 아직은 3만원내고 챗GPT4써야겠더군요. 올해안에 챗GPT4 성능나오는 괴물이 나오면 좋겠어요. 다만 걱정은 챗GPT4정도 성능이 70B정도 모델에서 구현이 가능할까하는 걱정입니다. 이거 넘어가면 맥스튜디오 울트라로도 감당안될거같아요. 얼마나 고사양 컴을 장만해야할지 심히 걱정입니다.
그러게말입니다. 400B를 준비중이라는데 어느정도 사양이 필요할지 가늠이 어렵네요 ㅎㅎ. 저도 같은 생각을 하던 중 페북 보는데 쇼핑몰 맞춤광고로 웬 뜬금없이 그 비싼 엔비디아 H100 GPU가 뜨더라구요 ㅋㅋ
좋은 정보 감사합니다.
맥스튜디오 사양을 좀 알수 있을까요?
예) GPU 60코어 × 64GB × 1TB
Mac Studio / M2 Ultra / 24코어 CPU / 60코어 GPU / 32코어 Neural Engine / 64GB 통합 메모리 / 1TB SSD 저장 장치
입니다^^
안녕하세요. 소개해주신 aiexe릉 현업에 적용해 많은 일을 해보고있습니다. 넘 감사드리며. 현재는 gpt-4o 사용중인데, 라마3 70b를 구동할만한 서버컴도 가지고 있어서 시도해보고싶네요. 혹시 해당기능을 aiexe에서 구동하는 코드등을 공유해주실수도 있나요?
안녕하세요 관심가져주셔서 감사합니다. 라마3을 AIEXE를 구동하는 컴퓨터와 동일한 컴퓨터에서 구동하신다면 별도의 코드 없이 바로 AIEXE에서 라마3를 인식할 수 있습니다! 해보시고 어려우신점 있으시면 말씀 부탁드립니다. 감사합니다!
Msty로 무리없이 가능합니다.
오 msty도 궁금하네요. 저도 한번 살펴보도록 하겠습니다. 좋은 정보 감사합니다!
좋은 정보 감사합니다
영상 봐주셔서 감사합니다^^
ws(웹서버) 역할을 클라우드를 쓰라고요...? 어차피 혼자 쓸껀데????? oAuth 토큰 처리하면 되지 않나요? 아니면 구글 otp 소스 적용해서 써도 되고 뭐하러 클라우드를 또 씁니까?......................
맥스튜디오를 기술적으로 서버가 아니라 단지 클라이언트로서의 역할로 머물도록 하기 위해서 별도의 서버역할을 하는 컴퓨터가 필요한 상황이였습니다.
아참.. 그래야하는 이유를 추가적으로 말씀드리자면 영상에서 설명했듯 맥스튜디오를 직접 사용하시는 분의 네트워크 설정을 건드리지 않기 위함이였습니다
별 개 엉터리 설명을 하고 있네. 세상 어느 네트워크 포트가 입출력이 동시에 돼냐.
소켓통신에 대한 공부가 좀 더 필요해보이십니다. 이 댓글 지우지 마시고 공부하시며 궁금하신점 여기에 댓글 달아주시면 알려드리겠습니다 감사합니다
참고로 검색키워드도 함께 알려드립니다. 양방향 소켓통신 혹은 Bidirectional Socket Communication 로 검색해서 나오는 여러 자료를 통해서 추가적인 공부를 하실 수 있습니다. 구글의 경우는 이미지 탭에 이를 설명하는 좋은 도식들도 많으니 이를 함께 참고하시면 좋습니다.
😂😂😂