目录
介绍FastWiki
部署FastWiki
部署One-Api
开源地址
FastWiki是一个高性能、基于最新技术栈的知识库系统,旨在为大规模信息检索和智能搜索提供解决方案。它采用微软Semantic Kernel进行深度学习和自然语言处理,在后端使用,前端采用框架,实现了一个高效、易用、可扩展的智能向量搜索平台。其目标是帮助用户快速准确地获取所需信息,具有智能搜索、高性能、现代化前端、强大的后端等特点。除此之外,是开源和社区驱动的项目,采用Apache-2.0许可证,鼓励开发者和企业使用和贡献。
下面部署将使用docker-compose进行部署,如果不存在环境则先安装docker和docker-compose的环境,由于postgresql需要使用向量插件,自己打包向量插件会过于麻烦,所以FastWiki提供了一键docker-compose的文件,内部提供的postgresql自带了插件了,我们只需要执行脚本即可
部署One-Api
One-Api是干什么的:
-
One-Api用于AI的中转站,由于大部分的AI工具仅支持openai的api格式,但是国内的AI的接口格式五花八门,所以我们需要通过One-Api将国内的AI转换成openai的接口格式下面我们开始部署我们的One-Api
将下面的内容复制到一个文件中
我们使用最轻量级的Sqlite版本,启动容器以后打开浏览器访问:
登录系统,默认账号为 ,密码为 。
-
添加渠道 1.
-
添加星火大模型的渠道 1.
-
获取星火大模型的密钥
-
控制台-讯飞开放平台 (xfyun.cn) 在这里申请一个应用和产品,3.5个人用户可以免费领取200万的Token对于测试基本是够用的
-
-
获取到密钥 安装APPID|APISecret|APIKey的格式填写到上面One-Api的密钥当中即可,
5、创建One-Api的Token,设置无限额度,然后点击提交。
6、点击复制key,然后将key修改下面的compose文件中的OPENAI_CHAT_TOKEN的环境变量的值,OPENAI_CHAT_ENDPOINT的地址则修改成fast-wiki-service能访问的地址,比如你局域网的ip加端口 这样即可。1.
下载
然后打开下载的文件,知识库依赖了第三方服务所以不能直接运行,需要修改部分参数。
FastWikiService环境变量参数:
-
QUANTIZE_MAX_TASK:量化任务的最大并发数,默认为3
-
OPENAI_CHAT_ENDPOINT:OpenAI API的地址
-
OPENAI_CHAT_EMBEDDING_ENDPOINT:Embedding API的地址
-
OPENAI_CHAT_TOKEN:OpenAI API的Token
-
OPENAI_CHAT_MODEL:对话的模型,默认gpt-3.5-turbo
-
OPENAI_EMBEDDING_MODEL:Embedding的模型,默认text-embedding-3-small
-
OPENAI_EMBEDDING_TOKEN: Embedding的Token, 默认为空,为空则使用对话的Token
FastWiki.Web.Server环境变量参数:
-
FAST_WIKI_SERVICE:FastWikiService的地址,默认为http://localhost:5124
请注意FAST_WIKI_SERVICE环境变量一定是得外网能访问到的地址,否则在回复知识库内容的时候会导致引用的文件出现404.
FastWiki为你提供了免费的向量Api,这个地址和token仅支持向量(并且对于ip进行限流)。
创建自定义模型的json以便支持国产模型,文件需要于docker-compose.yml同级:
则是星火大模型。
上面文件创建好了以后执行,然后就可以访问
登录系统默认账号admin密码Aa123456
1、点击知识库->创建知识库 点击添加。
2、点击创建的知识库:
3、点击导入文件
4、拖动需要上传的.md/.pdf/.txt的文件到这里,然后点击下一步,一直到上传数据,
5、上传数据,点击上传,上传完成关闭弹窗。
6、数据上传以后服务会在后台进行量化,等待上传完成以后点击应用,然后创建应用
7、创建应用,然后打开创建的应用
8、绑定知识库,点击选择知识库然后点击需要绑定的知识库,在关闭弹窗,然后点击保存修改即可。
9、修改电话基础模型,修改为添加的然后点击保存修改即可 1.
10、打开聊天然后提问上传的文档的内容,这样就可以针对性规范AI了,还可以设置超出知识库返回的时候回复内容!
Github: https://github.com/239573049/fast-wiki
Gitee: https://gitee.com/hejiale010426/fast-wiki
在线文档:https://docs.token-ai.cn/
体验地址:https://chat.token-ai.cn/chat/share-chat?id=939b3ad2f853422db0d781bcb19a8bf1
知识库微信交流群加: