Размер видео: 1280 X 720853 X 480640 X 360
Показать панель управления
Автовоспроизведение
Автоповтор
感謝分享,以下沒攻擊意思,感謝讓我理解rerank,我見解,文章用rag切片損失資訊後再輸入llm會好這做法我無法接受,這基礎上用rerank方法只改善少許,為何外面都吹rag再送llm is good的,個人玩玩體驗是可以,幫忙思考。
Fine tune is better way, along with higher cost. As i say it, RAG is easy and cheap to take your personal data into the computing.
先按讚再來看
有一个问题 为啥不把聊天记录 存到向量数据库里面 这样检索记忆 不就实现记住过去的对话了吗?
我想这还是由于目前的模型聊天补全,对于聊天历史,是以消息序列的方式提供给模型。因此,聊天历史的时序性更重要些,这方面不适合用向量数据库。
聊天,是有token 限制的,你如果全部都保存起来,那聊到后面,token 都不够用了吧 。
感謝分享,以下沒攻擊意思,感謝讓我理解rerank,我見解,文章用rag切片損失資訊後再輸入llm會好這做法我無法接受,這基礎上用rerank方法只改善少許,為何外面都吹rag再送llm is good的,個人玩玩體驗是可以,幫忙思考。
Fine tune is better way, along with higher cost. As i say it, RAG is easy and cheap to take your personal data into the computing.
先按讚再來看
有一个问题 为啥不把聊天记录 存到向量数据库里面 这样检索记忆 不就实现记住过去的对话了吗?
我想这还是由于目前的模型聊天补全,对于聊天历史,是以消息序列的方式提供给模型。因此,聊天历史的时序性更重要些,这方面不适合用向量数据库。
聊天,是有token 限制的,你如果全部都保存起来,那聊到后面,token 都不够用了吧 。