EP02.

[@백창현-y2e]

많은 도움이 되었습니다. 감사합니다

[@teddynote]

감사합니다🤤👍

[@catch-bc2iy]

테디님 정말 많은 도움이 되고 있습니다!! 테디님이 올리시는거 하나하나 따라해가며 조금씩 랭체인과 gpt에 대해 이해해가고 있습니다 감사합니다 (_ _)

[@catch-bc2iy]

Assistant api RAG 성능도 꽤 괜찮게 뽑히고 있는거 같습니다. 그런데 확실히 요금이 조금더 나오는 느낌인데요
langchain과 같이 text splitting 이나 임베딩 관련 커스터마이징이 현재 assistant api 로는 지원이 되지 않은 상황인거죠?

[@catch-bc2iy]

streaming 도 아직 미지원인거 같아서 이런점이 아쉽네요! 그런데 성능은 매우 준수해 보입니다!

[@teddynote]

성능은 평타 이상 치는데요 스트리밍 미지원이 사실 좀 아쉽죠 ㅠㅠ 답답하긴 합니다... 빨리 강의 쉽게 따라하실 수 있게 만들어서 도움 드릴 수 있도록 하겠습니다 중간에 유튜브도 자주 찍어 올릴께요 궁금하신 점은 언제든 댓글 남겨 주세요!!

[@jakecho4665]

많은 도움이 되었습니다.
특히 마지막 function에서는 이거다 하는 생각을 했습니다.
궁금한 점은 API의 function기능을 assistant API도움 없이 구현이 가능한지궁금합니다.
특히 local LLM에서 RAG를 통한 문항작성에 있어서요.
감사합니다.

[@teddynote]

네 가능해요~ openai 의 gpt로도 가능하구요 로컬 llm으로도 가능합니다~

[@akrja4]

어시스턴트의경우에는 벡터디비도 필요가 없어지는군요?..

[@teddynote]

빙고!! 맞습니다. openai 자체 벡터디비를 사용하는 셈이죠!

[@containergenie]

테디노트님 안녕 하십니까? 검색 대상 문서의 보안 문제는 괜찮은지 궁금합니다.

[@teddynote]

예 안녕하세요^^ 보안은 openai 사의 assistant를 사용하면 장담할 수 없고요(DB가 외부에 있음) 하지만, 직접 DB구축을 하시는 방법이 있습니다. 또한 모델도 폐쇄망에서도 구동되는 모델을 사용하여 보안을 고려한 RAG 를 구축하는 방법도 있습니다!