详解RAG(2/2)

Поделиться
HTML-код
  • Опубликовано: 9 янв 2024
  • 使用Langchain传统和LCEL2种方案显示如何实现RAG,并介绍在开源世界RAG的实践
    * github.com/169/ai-snippets
    * github.com/danswer-ai/danswer
    * github.com/Mintplex-Labs/anyt...
    * github.com/langgenius/dify
    * github.com/StanGirard/quivr

Комментарии • 3

  • @user-ot6qr9zi1j
    @user-ot6qr9zi1j 2 месяца назад +2

    非常好的视频,谢谢! 请问Rag部分新增加的信息,在调用GPT的时候算token吗?

    • @AI-boblin
      @AI-boblin  2 месяца назад +1

      算token的,相当于prompt添加了额外的补充内容

  • @kiyorc
    @kiyorc Месяц назад

    没学过ai,在没看你视频前就是插入system数据给api,请问如果使用库的rag模式,库可以优化已被回答的问题的token数量吗。比如从数据库调取了数据A,用户问how about B,下次api时是否仍然会给数据A和数据B,还是压缩成数类似数据A被遗忘,除非已经出现在对话中否则无法调取。这里的假设是数据A和B的数据量都太庞大到无法同时存在在token中