한국어 환경에서는 OpenAI 모델에 대한 의존도가 절대적인게 아쉽죠 ㅠㅠ 클로드 좋은거 알지만, 서비스에 적용하자니 아직 얘네는 토큰 최적화가 안되어 있는 현실이에요. 최근 나온 Cluade-3.5-Sonnet도 GPT-4o보다 실제 한국어에선 토큰 때문에 2배 정도 비쌉니다. 성능이 대등하고 응답속도가 더 빠르고, 가격도 싸니 결국 OpenAI를 쓸 수 밖에 없네요. 랭체인도 못쓰는 하이퍼클로바는 정말 눈물만 나옵니다. 솔라는 번역은 잘하는데 한국어 입력이 조금 애매하고요 ㅠㅠ 한국어 기준으로 가장 빠르고 쉽고 정확하고 싼 길이 GPT-4o인게 참 맘이 아프네요. 올려주신 벤치마크 비교하는 것 처럼 우리도 좀 다양한 모델들 비교하고, sLLM도 많이 열리고 하면 좋을 것 같습니다!
@@polinus7 시간이 무엇을 해결해줄까요? 최소 한국어에서는 OpenAI가 해자를 구축한게 확실합니다. 오히려 지난 2년 동안 한국어 특화를 내세웠던 모델은 모두 깨지고 GPT류만 살아남았으니까요. 제미나이도 한국어 어쩌구 하더니, 결국 한국어는 쏙 빠지고, 가장 기대했던 네이버의 하이퍼클로바X는 너무나 무력하구요. 이제 우리의 희망은 메타가 LLaMA의 다음 모델에서 각 언어별 특화 모델을 개발하기로 마음먹고 이를 업스테이지와 함께 개발하는 것 뿐이라 생각이듭니다. 푸념만 늘어놓아서 죄송합니다. 그런데 한국어에서 만큼은 모델에 대한 선택권이 점점 줄어들고 있는게 너무나 아쉬워서 현직자로서 좀 불평을 늘여놓습니다.
@@eopsthvjoov LLaMa3 파인튜닝한 좋은 성능의 모델들이 많아지고 있고, sLLM 쪽으로 기업들이 선회하고 있는데 아무래도 파인튜닝 작업 자체에 대한 난도와 비용이 아직까지는 있는 편입니다. 서비스로 제공하기엔 서버 부담도 있구요. 한국어에서는 최근 괄목할만한 모델이 몇 있긴 했는데, 아직까지 서비스로 제공하기엔 조금 부족하다는 평이 많습니다.
LLM 모델의 중요성을 간과하는 것은 기초 과학의 가치를 이해하지 못하는 것과 다름없습니다. 기초 과학은 모든 응용 과학의 토대가 되며, 이를 통해 새로운 기술과 혁신이 가능해집니다. 마찬가지로, LLM 모델은 단순히 상품화 과정에서 소비자에게 제공되는 기능 이상의 중요한 역할을 합니다.
교통의 혁명을 이끈 철도와 기차는 초기에 그들이 돈을 벌게 만들었지만 향후 그 수단을 유통망으로 활용한 제조업체들이 더욱 큰 돈을 벌었습니다. LLM이 중요하지 않다는게 아니라 그 다음을 볼 줄 알아야하는데 OpenAI 팬들은 LLM 기술만 있으면 모든 시장을 그들이 먹을줄 압니다. 하지만 결국 LLM은 AI 시대에 시작을 알리는 가장 중요한 기본이지만, 향후 경쟁력과 패권은 이와 무관하게 활용 능력에 따라 결정될 것입니다. LLM도 결국 오랜시간이 지나면 상향 평준화가 될 것이고, 이 서비스 중에 아무거나 골라잡아도 이걸 활용하는 능력에 따라 결과가 달라지는 시대가 올거라고 봅니다.
오픈소스 실사용해본 입장에서 아쉽운점이 아직은 좀 있습니다. 1. RAG를 이용하여 API호출 시킬때 필요한 호출함수 이름을 제대로 못 불러와서 에러가 일어나는 경우가 있습니다. 2. 프롬프트를 잘 사용하려고 노력해도 원래 llm에 남아있는 특징(llama3 8b경우 이모지 난발)이 섞여있습니다. 3. 한글특화 파인튜닝이 아직은 많이 약하다 ㅠ 이정도 있는 것 같은데 솔직히 발전속도만보면 올해말이나 내년초면 전부 개선될것같습니다 ㅎㅎ
지금은 애플이 잘나가지만 10년 후에는? 만약 테슬라가 소형 로봇을 만들어서 핸드폰필요없게 만들고 운영체제도 만들어서 깔아서 팔면? 스마트폰이 언제까지 잘나갈까? 10년? 20년? 애플은 변화를 아에 준비안하고 있다. 스티븐잡스가 있었다면 이미 새로운 혁신을 준비 했겠지.
과녁에 여러번 총을 쏜다 생각했을 때, accuracy는 얼마나 중앙에 가깝게 분포했냐에 대한 문제고 trust는 얼마나 영점이 잘 맞춰졌냐로 이해할 수 있을 거 같아요. trust가 높다고 accuracy 가 높지 않을 수도 있는 거고 반대도 마찬가지인데, 저기에서는 종합 점수를 어떤 방식으로든 계산한 것 같네요.
다른거보다 아무리 중국이 날고 기어도 어차피 미국이 AI시장에서 싹쓸이 할 가능성이 80%에 달함. 근데 대한민국은 AI투자는 커녕 의대논쟁이나 하고 있고 저출산으로 인해 국가존폐위기에 놓인다는것 자체가 코미디.. 심지어 중국이 아무리 AI시장이 커지더라도 인도한테 따라잡힐 가능성이 매우높고 인도의 공대인재들이 미국찍고 인도로 되돌아가서 시장키우면 미국하고 AI시장 패권경쟁할수도 있음.
솔직히 그걸 애플이 주도한다고 생각되지 않지만 다 떠나서 현재의 LLM은 무슨 애들 장난감 수준이라 아직도 한참 멀었고 지금처럼 개발하는 접근방식으로는 때려죽여도 AGI로 못 감. 마치 광속보다 빠르게 팽창 중인 우주를 광원을 이용한 관측으로 측정하겠다고 덤비는 것처럼 무식한 방식임.
@@piter_park 이해하신 포인트가 다른 것 같습니다. 기업 입장에서 AI 서비스를, 영상에서 예를 들어주신 CRM에 적용한다 할 때, 한국어 서비스에서는 OpenAI 모델들이 가격과 성능에서 모두 압도적으로 좋습니다. 다시 말해, 한국 기업의 입장에서 한국어 사용자를 위해 AI 서비스를 개발한다 할 때, 다른 선택지가 현재 거의 없는 상황입니다. 물론 챗봇 같은 경우 sLLM을 쓰자는 얘기도 나오고 있으나, 최근 OpenAI 업데이트로 OpenAI가 가격이 많이 싸졌습니다. sLLM을 사용하는 코드 같은 경우도 랭체인 쓰는 경우엔, OpenAI API로 변경하려면 딱 한줄 바꾸면 됩니다. 이런 상황이라 1황이라고 말씀드린겁니다. OpenAI가 현시점 쓰레기라는 부분은 Claude-3.5의 공개나 오픈소스 파인튜닝의 약진 때문으로 말씀하신 것 같은데, "한국" 기업 입장에서는 좀 다릅니다. 혹시 반박하실 부분이 있다면, 제가 이해를 잘 못한 것 같으니 좀 자세하게 알려주시기를 부탁드립니다.
@@piter_park 이해를 잘못하신 것 같습니다. 한국 사용자 얼마나 된다고 열정있게 도입시킨다뇨? 한국 기업이 한국 사용자를 대상으로 서비스를 제공할 때 선택지가 없다는 말입니다. 영어 기준으로는 좋은 모델이 많아도, 한국어에서는 현재 가성비가 깡패입니다. 자체 sLLM을 사용하지 않는한 모두 OpenAI 모델들 사용이 강제됩니다.
감사합니다! 👍
한국어 환경에서는 OpenAI 모델에 대한 의존도가 절대적인게 아쉽죠 ㅠㅠ
클로드 좋은거 알지만, 서비스에 적용하자니 아직 얘네는 토큰 최적화가 안되어 있는 현실이에요.
최근 나온 Cluade-3.5-Sonnet도 GPT-4o보다 실제 한국어에선 토큰 때문에 2배 정도 비쌉니다. 성능이 대등하고 응답속도가 더 빠르고, 가격도 싸니 결국 OpenAI를 쓸 수 밖에 없네요.
랭체인도 못쓰는 하이퍼클로바는 정말 눈물만 나옵니다. 솔라는 번역은 잘하는데 한국어 입력이 조금 애매하고요 ㅠㅠ
한국어 기준으로 가장 빠르고 쉽고 정확하고 싼 길이 GPT-4o인게 참 맘이 아프네요.
올려주신 벤치마크 비교하는 것 처럼 우리도 좀 다양한 모델들 비교하고, sLLM도 많이 열리고 하면 좋을 것 같습니다!
시간이 해결해 줄거예요
@@polinus7 시간이 무엇을 해결해줄까요?
최소 한국어에서는 OpenAI가 해자를 구축한게 확실합니다. 오히려 지난 2년 동안 한국어 특화를 내세웠던 모델은 모두 깨지고 GPT류만 살아남았으니까요.
제미나이도 한국어 어쩌구 하더니, 결국 한국어는 쏙 빠지고, 가장 기대했던 네이버의 하이퍼클로바X는 너무나 무력하구요.
이제 우리의 희망은 메타가 LLaMA의 다음 모델에서 각 언어별 특화 모델을 개발하기로 마음먹고 이를 업스테이지와 함께 개발하는 것 뿐이라 생각이듭니다.
푸념만 늘어놓아서 죄송합니다. 그런데 한국어에서 만큼은 모델에 대한 선택권이 점점 줄어들고 있는게 너무나 아쉬워서 현직자로서 좀 불평을 늘여놓습니다.
라마는 어떤가요?
@@polinus7 시간이 해결해준다기엔 작년보다 오히려 상황이 안좋은 느낌이네요 ㅎㅎ
@@eopsthvjoov LLaMa3 파인튜닝한 좋은 성능의 모델들이 많아지고 있고, sLLM 쪽으로 기업들이 선회하고 있는데 아무래도 파인튜닝 작업 자체에 대한 난도와 비용이 아직까지는 있는 편입니다. 서비스로 제공하기엔 서버 부담도 있구요. 한국어에서는 최근 괄목할만한 모델이 몇 있긴 했는데, 아직까지 서비스로 제공하기엔 조금 부족하다는 평이 많습니다.
openAI 무새들이 말이 안통했던게 LLM 모델 자체보다 이걸로 뭘할지가 중요한게 너무 당연한거였는데 그걸 이해를 못함. LLM 모델을 가지고 있다는것으로 돈을 벌수는 있겠지만 결국 이 시장의 왕은 그 기술을 상품으로 구현해서 소비자들을 휘어잡는 사람이 될 것임.
좋은 통찰입니다.
LLM 모델의 중요성을 간과하는 것은 기초 과학의 가치를 이해하지 못하는 것과 다름없습니다. 기초 과학은 모든 응용 과학의 토대가 되며, 이를 통해 새로운 기술과 혁신이 가능해집니다. 마찬가지로, LLM 모델은 단순히 상품화 과정에서 소비자에게 제공되는 기능 이상의 중요한 역할을 합니다.
미국 골드러시 시절 진짜 승리자는 곡괭이 팔던 사람들이었다는 것처럼 안정적으로 버는 사람들은 결국
플랫폼을 이용한 상품
교통의 혁명을 이끈 철도와 기차는 초기에 그들이 돈을 벌게 만들었지만 향후 그 수단을 유통망으로 활용한 제조업체들이 더욱 큰 돈을 벌었습니다. LLM이 중요하지 않다는게 아니라 그 다음을 볼 줄 알아야하는데 OpenAI 팬들은 LLM 기술만 있으면 모든 시장을 그들이 먹을줄 압니다. 하지만 결국 LLM은 AI 시대에 시작을 알리는 가장 중요한 기본이지만, 향후 경쟁력과 패권은 이와 무관하게 활용 능력에 따라 결정될 것입니다. LLM도 결국 오랜시간이 지나면 상향 평준화가 될 것이고, 이 서비스 중에 아무거나 골라잡아도 이걸 활용하는 능력에 따라 결과가 달라지는 시대가 올거라고 봅니다.
저랑 생각이 또오옥같아요
한마디로 요악하면 이게 플랫폼의 힘이죠
오픈소스 실사용해본 입장에서 아쉽운점이 아직은 좀 있습니다.
1. RAG를 이용하여 API호출 시킬때 필요한 호출함수 이름을 제대로 못 불러와서 에러가 일어나는 경우가 있습니다.
2. 프롬프트를 잘 사용하려고 노력해도 원래 llm에 남아있는 특징(llama3 8b경우 이모지 난발)이 섞여있습니다.
3. 한글특화 파인튜닝이 아직은 많이 약하다 ㅠ
이정도 있는 것 같은데 솔직히 발전속도만보면 올해말이나 내년초면 전부 개선될것같습니다 ㅎㅎ
세일즈포스의 마케팅에 설득당하셨네요. 지금 ai들간 기술력 격차가 유의미하게 있는 상황에서 저런 벤치마크가 의미가 없죠. 그리고 b2c도 아니고 b2b인데 저걸 보고 고를까요? 저 정도 사업할 회사에서 저것 평가할 팀이 앖을까요?
정작 현업에서 쓰려면 원하는 결과값을 낼 수 있는 기능이 없죠...
범용 Ai도 좋지만 이제는 실제로 쓸 수 있는 걸 만들어야 할 듯 합니다. 결국 그게 사람이 할 일이라...
결국 공급자(제조사)보다는 유통업(플랫폼기업)이 승자?
회사입장에서 ai교육시키면서 회사기밀, 보안문서들을 써야하는 경우도 있는데 보안이 확실한 ai는 어떤게 있을까요??
오프라인 모델이요..
LLAMA같은걸 GPU에서 직접 돌리시면 유출의 걱저은 없긴하죠..
청바지, 곡괭이 파는 놈이 최고다!😁😁😁😁😁
결국 AI를 돌리는 하드웨어 플랫폼을 가지고 있는 애플이 승자.. 메타가 돈먹는 하마인 메타플랫폼 VR 투자를 계속하고 이유
지금은 애플이 잘나가지만 10년 후에는?
만약 테슬라가 소형 로봇을 만들어서 핸드폰필요없게 만들고 운영체제도 만들어서 깔아서 팔면?
스마트폰이 언제까지 잘나갈까? 10년? 20년?
애플은 변화를 아에 준비안하고 있다.
스티븐잡스가 있었다면 이미 새로운 혁신을 준비 했겠지.
Accuracy와 trust는 정확히 어떻게 다른건가요?
과녁에 여러번 총을 쏜다 생각했을 때, accuracy는 얼마나 중앙에 가깝게 분포했냐에 대한 문제고 trust는 얼마나 영점이 잘 맞춰졌냐로 이해할 수 있을 거 같아요.
trust가 높다고 accuracy 가 높지 않을 수도 있는 거고 반대도 마찬가지인데, 저기에서는 종합 점수를 어떤 방식으로든 계산한 것 같네요.
AI 기업은 재주부리는 곰이고, 플랫폼은 왕서방이다.
open aI 구독해서 쓰는데 너무 엉뚱한 답변을 자연스럽게 해서 자주 속아요.. 이거 계속 구독 해야 할지도 생각해 봐야 할정도입니다 아직은 시기 상조인듯..
클로드3.5 집어넣자. 걔집어넣고 카메라는 눈.. 팔다리 달린 케이스 달아주자.
아두이노할때가 생각나네요
단순하게 놀이처럼 코딩하고 센서 달아주고 부하를 달아주고 기계장치를 만들었는데
말씀하신것처럼 이제는 코딩도 쉽게 llm넣고 센서와 부하모듈 달아주면 간단한 나만의 친구, 일꾼을 만드는 시대가 올지도
오디오 소리 왜케 짝아용
자 그럼 핸드폰 화면 정보를 각각 ai플랫홈이 허용하도록 애플이나 삼성이 허락 할까요?
지금쯤이면 팔란티어 온톨로지나 엔비디아 ai서버구독 사업이 어느정도 성과를 보일 줄 알았는데 아직도 ai는 갈길이 먼 것 같네요.
애플도 유럽에는 on dev ai 탑재 불가라고 밝히고 이 와중에 메타는 아이폰에 메타 ai 넣어달라고 푸쉬하고 ㅎㅎ
그놈의 팔란티어는 한국인들 어디서 다 알고 오는거요?? 그래서 팔란티어 쓰는 한국 기업 어디?
팔란티어는 허상임
@@user-ir3rj7gs8r 어.. 팔란티어 한국에도 지사가 있답니다. 미국 테크회사에 다니다보니 알음알음 알게되네요 ㅎㅎ
그래서 결론은, CRM 주식을 사면 되겠네요.😊
ㅠ 너무 같은말을 반복하시니 5분이 지나도 주제가 안바뀌네오..
amazon bedrock..
동영상 생성 ai들이 여러군데에서 나오고 있는데 openai가 gpt 보이스모델이나 sora에 대하여 마케팅 과장되게 한것같음
언제쯤 저 차트에서 국산LLM을 볼 수 있을까?
지구멸망까지 못봅니다
ㅋㅋㅋㅋ
토큰이 그지같이 짤려서 영어보다 불리함. 한글이 디지털 친화는 개뿔
그만한 자본이 됨?
하드웨어 공급 문제가 제일 클 듯.. 학습 기준 gpt4급 돌리려면 수만장 단위가 필요한데 국내 총 도입 대수가 H100 기준 2000대 미만이라네요.
클로드왜없냐
‘해자’가 없는 지금 시점의 시대에는 1등 한다고 끝까지 1등할것도 아니고 의미없음..
해자가 없는데 한국기업은 왜 하나도 없죠?
다른거보다 아무리 중국이 날고 기어도 어차피 미국이 AI시장에서 싹쓸이 할 가능성이 80%에 달함.
근데 대한민국은 AI투자는 커녕 의대논쟁이나 하고 있고 저출산으로 인해 국가존폐위기에 놓인다는것 자체가 코미디..
심지어 중국이 아무리 AI시장이 커지더라도 인도한테 따라잡힐 가능성이 매우높고 인도의 공대인재들이
미국찍고 인도로 되돌아가서 시장키우면 미국하고 AI시장 패권경쟁할수도 있음.
이미 중국은 고성능칩 못구하기 때문에 미국이 독점할 확률이 99%임
미국은 절대 ai 장악력을 놓아주지 않을것임. ai를 지배하는 국가가 다음 2세기를 좌지우지할 수 있음
근데, 그 공급자가 [플랫홈기업]을 [세뇌]시킬 수 있다면. 어떻게 될까요?
솔직히 그걸 애플이 주도한다고 생각되지 않지만 다 떠나서 현재의 LLM은 무슨 애들 장난감 수준이라 아직도 한참 멀었고 지금처럼 개발하는 접근방식으로는 때려죽여도 AGI로 못 감. 마치 광속보다 빠르게 팽창 중인 우주를 광원을 이용한 관측으로 측정하겠다고 덤비는 것처럼 무식한 방식임.
누가 승자가 되든 nvidia는 팔린다
ai자체는 돈이 안돼
비용을 줄이는게 돈이 되는겁니다
1빠
삼성 ㅇㄷ? ai 스마트폰 1위라며
오픈ai는 현시점 쓰레기
현시점 한국어 서비스에서 유일하게 적용할 수 있는 1황입니다.
@@harkamont 네 한국 사용자 얼마나 된다고 열정 있게 도입 시키겠습까?
@@piter_park 그래서 저는 [강인공지능무장]을 하자는 의견을 가진 사람입니다.
@@piter_park 이해하신 포인트가 다른 것 같습니다.
기업 입장에서 AI 서비스를, 영상에서 예를 들어주신 CRM에 적용한다 할 때, 한국어 서비스에서는 OpenAI 모델들이 가격과 성능에서 모두 압도적으로 좋습니다.
다시 말해, 한국 기업의 입장에서 한국어 사용자를 위해 AI 서비스를 개발한다 할 때, 다른 선택지가 현재 거의 없는 상황입니다.
물론 챗봇 같은 경우 sLLM을 쓰자는 얘기도 나오고 있으나, 최근 OpenAI 업데이트로 OpenAI가 가격이 많이 싸졌습니다.
sLLM을 사용하는 코드 같은 경우도 랭체인 쓰는 경우엔, OpenAI API로 변경하려면 딱 한줄 바꾸면 됩니다.
이런 상황이라 1황이라고 말씀드린겁니다.
OpenAI가 현시점 쓰레기라는 부분은 Claude-3.5의 공개나 오픈소스 파인튜닝의 약진 때문으로 말씀하신 것 같은데, "한국" 기업 입장에서는 좀 다릅니다.
혹시 반박하실 부분이 있다면, 제가 이해를 잘 못한 것 같으니 좀 자세하게 알려주시기를 부탁드립니다.
@@piter_park 이해를 잘못하신 것 같습니다. 한국 사용자 얼마나 된다고 열정있게 도입시킨다뇨? 한국 기업이 한국 사용자를 대상으로 서비스를 제공할 때 선택지가 없다는 말입니다. 영어 기준으로는 좋은 모델이 많아도, 한국어에서는 현재 가성비가 깡패입니다. 자체 sLLM을 사용하지 않는한 모두 OpenAI 모델들 사용이 강제됩니다.