비용 걱정 없는 Open Source LLM 업무 매뉴얼 QA 시스템 구현 - 랭체인(LangChain), 올라마(ollama), 구글 젬마(gemma)

비용 걱정 없이 Open Source Large Language Models(LLMs)을 활용하여 업무 매뉴얼에 대한 질의응답(QA) 시스템을 구현하는 방법을 소개합니다.
랭체인(LangChain), 올라마(Ollama), 그리고 구글의 젬마(Gemma) 모델을 사용합니다.
실습파일(Github) : zrr.kr/eU97

[@yangseoklee1375]

좋은강의 감사합니다.

[@pandas-data-studio]

저도 감사드립니다

[@user-kn6it2eh6n]

덕분에 LLM 쉽게 공부하고 있습니다. 추가로 CSV와 DB를 RAG로 써서 학습하는 영상도 부탁드립니다. 제가 PDF 대신 csvloader 사용해서 csv 파일 학습해 봤는데 답변을 제대로 못 하네요... 지금까지 제가 해 본 건
1. pdfloader를 csvloader로만 변경(임베딩 등 그대로 사용): 전체 파일 중 극소수만 학습함
2. agent 사용: 답은 하는데 거의 다 틀림, handle parse error 계속 발생
3. 영상에서는 분명 한국어로 질문하면 한국어로 답변하던데 제 경우 한국어로 답변해 달라고 하지 않으면 영어로 답변함
아무리 찾아 봐도 해결이 안 돼서 요청드립니다.

[@user-mf4cm7dj9s]

올려주신 강좌 보면서 해보고있는데요. test.ipynb 을 생성하고 커널을 선택할때 python 환경에서 poetry env 가 리스트에서 보이지를 않습니다. 어떤 문제 일까요?

[@pandas-data-studio]

안녕하세요. 파이썬이 시스템 환경 변수에 등록이 되어 있는지 확인해보세요.
잘 등록이 된 상태라면 VScode를 다시 실행해보시면 될 것 같습니다.

[@pandas-data-studio]

실습파일(Discord) : discord.gg/Zqa5cXQh
실습파일(Github) : zrr.kr/eU97

[@user-fo5cf1xj3g]

안녕하세요 :) 소소하게 LLM 스터디를 하고 있는데 해당 내용 공유를 해도 될까요? 출저는 당연히 밝혀 놓겠습니다 :)

[@pandas-data-studio]

안녕하세요. 스터디 모임에서 공유하셔도 됩니다. 출처 밝혀주시면 감사하죠^^

[@imgodoil]

구글 코랩으로 공유하면 대성할 듯해요 디스코드 잘 안 씁니다

[@pandas-data-studio]

의견 감사합니다^^ 깃헙에도 공유하겠습니다~