私有知识库使用说明
场景配置
知识库可以进行配置,点击 CubeStudio 右上角的 “AI” 图标,再进入私有知识库,即可配置知识库的场景。基础的大模型,配上自己的先验知识文件,或者不同的提示词模板,可以配置成不同的场景。
提示词模板中提供先验知识
比如下图中,我们就是将规模较大的先验知识库配置成 upload_url,再把召回的相关性最大的小知识库配置成 recall_url,就可以把相关性最大的知识库放到提示词模板中,提高大模型回答问题的准确性。

多轮对话配置
再比如下图中,我们可以通过在原生大模型中修改提示词模板,传入之前对话的 history 和 query 参数,完成多轮对话提示。由于大模型的使用存在提示词长度的限制,这里我们也可以限制上下文的长度。

接口类型配置
还需要配置「服务类型」(service_type),可选 openai 与 aihub,默认 openai;接口并不一定是 OpenAI,只要符合 HTTP 请求/响应格式即可(见 myapp/views/view_chat.py:339-344、341)。其中 openai 对应大模型对话接口,aihub 用于调用 AIHub 类型接口(文生图 AIGC 等通过该类型调用)。
在构建知识库的过程中,会先配置一个大的先验知识库,然后通过匹配用户的 query,召回一批最为相关的先验知识,再把召回的先验知识放到提示词中,和用户的 query 一起提给大模型,得到答案。如果答案离预期差太远,想要调试召回效果,可以通过知识库配置里的召回地址(recall_url,见 view_chat.py:217)来实现。

微信、钉钉智能聊天
私有知识库模块已经和微信、钉钉打通,如果想要在微信或钉钉中实现智能聊天,可以配置用户自身微信或钉钉的后台 AppID、秘钥、Token 等。

AIGC(文生图)
首先需要在 AIHUB 中部署文生图模型(参见 AIHub模型市场.md)。

在某个场景中配置 AIGC 服务接口。

然后就可以在聊天中进行文生图应用了。

场景对话
通过以上的几种配置,平台已经实现了以下几种智能聊天的场景。图示给出了使用 python 聊天窗的效果。

在聊天窗中直接新建会话场景,上传知识库文件,可以取得和后台配置知识库文件一样的效果。
