LLM을 프로덕션에 적용하며 배운 것들 | 당근 ML 밋업 1회

당근 ML 밋업은 당근의 머신러닝 기술, 도전 과제 및 앞으로 방향성에 대해 공유하고, 서로 네트워킹 할 수 있는 행사예요.
🥕 LLM을 프로덕션에 적용하며 배운 것들 (박민우/Tech Core)
🥕 당근 공고 살펴보기 : about.daangn.c...

[@priancho]

좋은 발표 감사합니다. 여러모로 배울 점이 많았습니다.

[@배성재-p4e]

감사합니다

[@VisionMaker-w8y]

Cost때문에 포기 한걸까요?

[@Kamael66]

흠 결국 언어 관련 분류나 정보추출에서는 더 이상의 개별 AI 모델은 불필요한 것이군요. 오늘 잠시 스팸처리 문제 때문에 모델을 만들어야 하나를 고민했었는데, 헛짓을 안 하게 되었네요.

[@JungHeeyun-t3x]

맞습니다. 그러한 nlp 모델을 따로 만드는것보다 llm이 월등히 좋다라고 이야기하는 논문도 있더라구요. 아무래도 자연어란 너무 경우의 수도 많고 복잡하기 때문에 거대한 데이터셋이 깡패인거 같습니다. 아무리 특정 유즈케이스에 맞게 파운데이션 모델을 만든다고 해도 말이죠.