그랩의 LLM Application 개발 경험/레슨런 공유회

Поделиться
HTML-код
  • Опубликовано: 12 ноя 2024

Комментарии • 14

  • @hokim1269
    @hokim1269 Год назад +4

    올해 들어본 LLM관련 내용 중 가장 좋았던 거 같습니다. LLM기본 배경부터 LLM application, LLMops와 prompt engineering까지 담겨 있어서 너무 좋았습니다. 계속 승승장구하시길 바랍니다. 감사합니다.^^👋👍

  • @wildforager
    @wildforager Год назад +1

    20년 넘게 IT Dev/QA 쪽에서 일 하다가 AI 쪽으로 커리어를 바꾸기 위해 공부하고 있는 아저씨 입니다. 한국 10년 미국 10년 경력 입니다. 앞으로 10년은 AI로 하고 은퇴를 계획중입니다. 공유해 주신 내용 정말 도움이 많이 되는 내용인것 같습니다. 계속 좋은 컨텐츠 올려 주세요.

  • @희택-1
    @희택-1 Год назад

    내용 설명 너무 좋네요. 이제 막 시도해보는 입장에서 전체적인 흐름 파악하기 좋았습니다.

    • @희택-1
      @희택-1 Год назад

      테슬라 시황이나 가격에 대한 질문인 경우, 질문에 맞는 템플릿을 선택해서 거기에 맞는 데이터를 찾아서 채워넣는 방식은 어떤가요?
      예를들어 어제 데이터를 모아서 전체 시장 흐름을 작성하고, 테슬라 관련 데이터를 분석하고, 두 작성 내용을 총체적으로 정리된 문단으로 나누어져 작성하도록 된 템플릿을 선택하고 채워서 보여주는 방식...
      여러 상상을 많이 하게되는 재밌는 엔지니어 분얀거같네요.

  • @jungsuheo5874
    @jungsuheo5874 Год назад +1

    좋은 발표와 자료 감사합니다!

  • @nicewook
    @nicewook Год назад +2

    어제 깜박 놓쳤습니다. 정주행하겠습니다. 🙂

  • @kyusikjoo5895
    @kyusikjoo5895 Год назад

    너무 좋은 자료 정말 감사합니다

  • @화성인-j8x
    @화성인-j8x Год назад

    이런 실무에 적용한 사례가 너무 좋습니다. 구독했어요.

  • @heuristicwave8922
    @heuristicwave8922 Год назад +8

    4:25 시작
    6:05 0.목차
    6:45 1.Intro
    8:18 오늘 할 이야기
    10:00 LLM 배경지식
    16:25 LLM 관련 사건
    2.LLM Application
    18:24 LLM Application 이란
    23:02 Data Retrieval
    29:31 Data Retrieval (Vector DB)
    33:00 Data Retrieval Tips
    39:50 LLM Library
    41:00 LLM Library (Langchain)
    45:01 LLM Library (Llama Index)
    48:26 복잡한 유즈케이스
    50:40 복잡한 유즈케이스 (Chaining)
    52:22 Agent
    56:00 운영에서 신경 쓸 것
    1:00:30 느낀점
    1:02:30 중간 홍보와 함께 쉬어가기
    1:10:01 중간 질의 응답
    3.LLM Ops
    1:13:14 LLM Ops란?
    1:16:23 LLM Ops Landscape
    1:17:03 Tool 소개 - Vellum
    1:17:36 Tool 소개 - HoneyHive
    1:18:00 Tool 소개 - FlowGPT, langflow
    1:19:21 오픈소스/SaaS 보면서 느낀점
    1:22:00 사내 LLMOps 툴 개발
    1:27:40 느낀점
    1:29:22 우리 LLMOps 툴 관심있으신 분?
    4. Prompt Engineering
    1:31:40 기본 팁
    1:32:35 X-shot Learning
    1:33:43 Chain-of-Thought
    1:34:48 Self-Consistency
    1:36:08 Tree-of-Thought
    1:38:14 ChatGPT
    1:41:23 Hallucination
    1:45:02 프롬프트 평가(Evaluation)
    1:47:32 프롬프트 관리
    1:47:48 느낀점
    5. 그랩의 생각 및 마무리
    1:49:25 느낀점
    1:53:08 추천
    1:55:06 설문 조사 부탁드립니다!!
    1:57:00 Q&A

  • @testtest-nu8lr
    @testtest-nu8lr 9 месяцев назад

    발표 자료도 공유 가능하신가요 너무 좋네요

  • @nick6267
    @nick6267 Год назад

    안녕하세요 실무에 적용 사례 알려주셔서 감사합니다.
    궁금한게 있는데요 논문이나 문서 검색, semantic or query understanding을 하려고 하는데
    관련 강의나 블로그가 있을까요?

  • @plot-ri4yz
    @plot-ri4yz Год назад

    24:42

  • @it9316
    @it9316  Год назад +3

    프로젝트 플루토에서 최고의 팀과 함께 엔지니어링 문제를 풀어갈 분을 찾습니다!
    www.projectpluto.co/careers?
    미국주식 q&a 서비스 moniGPT 사용하기
    monigpt.com

  • @plot-ri4yz
    @plot-ri4yz Год назад

    14:52