Jump to content
彼岸论坛
欢迎抵达彼岸 彼岸花开 此处谁在 -彼岸论坛

[问与答] 求推荐一个轻量 RAG LLM chat 的部署方案

小天管理

By 小天管理
in 灌水交流

 Share

Recommended Posts

小天管理 Rising Star

小天管理

Posted
Posted

需求：

  1. 构建英文 pdf 知识库，一次对话讨论可以涉及多个文件
  2. 向量数据库最好本地化
  3. 不需要本地部署模型，所有 embed, rerank, chat models 都用 api
  4. 不需要用户管理等冗余功能

看好多方案，ragflow fastgpt langchain-chatchat ，不知道实际用起来如何？或者有其他推荐的方案？

ChatGPT-Next-Web-langchain 感觉在上游的简单前端框架下加 rag 的逻辑，还是有点勉强了。

 Share
Go to topic listing

  • 游客注册

    游客注册

  • Members

    No members to show

  • Recent Status Updates

    No Recent Status Updates

  • Recently Browsing

    • No registered users viewing this page.
×
×
  • Create New...