发表于 2024年8月26日1年前 问题描述：准备搭一套企业内部问答系统，其中包含研发团队中通用的组件使用的问题，因此一方面需要把相关组件的使用手册收录到知识库中，另一方面希望能直接把相关代码喂给大模型，这样在回答相关问题时能给出些示例 诉求：计划在公司搭一套大模型的对话平台，回答企业内部员工的问题 使用群体：公司员工 知识库内容： IT 知识：包括域账号、网络、办公设备等 人事：包括入离职、人事规章制度等 行政：包括公司相关规章制度等等 研发助手：主要包含公司内部通用组件的问答 方案： 模型：Llama3.1-8b 应用：dify （计划使用 dify ，如果效果不好，可能会自己开发替换 dify ） 向量库：一部分使用 dify 自带的，一部分准备自己用 milvus 搭建，提供 api 在 dify 流程绘制中使用 以上知识库的搭建基本能满足非研发相关的问题咨询，但是关于研发相关的，效果可能不好，因此该如何处理代码相关的问答，能否通过 RAG 来实现，是否需要 Fine-tuning ？ 各位有没有过类似的实战经验，或者提供些关键词，方便我了解下
问题描述：准备搭一套企业内部问答系统，其中包含研发团队中通用的组件使用的问题，因此一方面需要把相关组件的使用手册收录到知识库中，另一方面希望能直接把相关代码喂给大模型，这样在回答相关问题时能给出些示例
诉求：计划在公司搭一套大模型的对话平台，回答企业内部员工的问题
使用群体：公司员工
知识库内容：
方案：
以上知识库的搭建基本能满足非研发相关的问题咨询，但是关于研发相关的，效果可能不好，因此该如何处理代码相关的问答，能否通过 RAG 来实现，是否需要 Fine-tuning ？
各位有没有过类似的实战经验，或者提供些关键词，方便我了解下