分享好友 最新动态首页 最新动态分类 切换频道
从0开始入门智能知识库和星火大模型,打造AI客服
2024-12-26 10:31

 

从0开始入门智能知识库和星火大模型,打造AI客服

目录

介绍FastWiki

部署FastWiki

部署One-Api

开源地址


FastWiki是一个高性能、基于最新技术栈的知识库系统,旨在为大规模信息检索和智能搜索提供解决方案。它采用微软Semantic Kernel进行深度学习和自然语言处理,在后端使用,前端采用框架,实现了一个高效、易用、可扩展的智能向量搜索平台。其目标是帮助用户快速准确地获取所需信息,具有智能搜索、高性能、现代化前端、强大的后端等特点。除此之外,是开源和社区驱动的项目,采用Apache-2.0许可证,鼓励开发者和企业使用和贡献。

下面部署将使用docker-compose进行部署,如果不存在环境则先安装docker和docker-compose的环境,由于postgresql需要使用向量插件,自己打包向量插件会过于麻烦,所以FastWiki提供了一键docker-compose的文件,内部提供的postgresql自带了插件了,我们只需要执行脚本即可

部署One-Api

One-Api是干什么的

  • One-Api用于AI的中转站,由于大部分的AI工具仅支持openai的api格式,但是国内的AI的接口格式五花八门,所以我们需要通过One-Api将国内的AI转换成openai的接口格式下面我们开始部署我们的One-Api

将下面的内容复制到一个文件中

 

我们使用最轻量级的Sqlite版本,启动容器以后打开浏览器访问

登录系统,默认账号为 ,密码为 。

  1. 添加渠道 1.

  2. 添加星火大模型的渠道 1.

  3. 获取星火大模型的密钥

    1. 控制台-讯飞开放平台 (xfyun.cn) 在这里申请一个应用和产品,3.5个人用户可以免费领取200万的Token对于测试基本是够用的

  4. 获取到密钥 安装APPID|APISecret|APIKey的格式填写到上面One-Api的密钥当中即可

5、创建One-Api的Token,设置无限额度,然后点击提交。

6、点击复制key,然后将key修改下面的compose文件中的OPENAI_CHAT_TOKEN的环境变量的值,OPENAI_CHAT_ENDPOINT的地址则修改成fast-wiki-service能访问的地址,比如你局域网的ip加端口  这样即可。1.

下载

 

然后打开下载的文件,知识库依赖了第三方服务所以不能直接运行,需要修改部分参数。

 

FastWikiService环境变量参数

  • QUANTIZE_MAX_TASK:量化任务的最大并发数,默认为3

  • OPENAI_CHAT_ENDPOINT:OpenAI API的地址

  • OPENAI_CHAT_EMBEDDING_ENDPOINT:Embedding API的地址

  • OPENAI_CHAT_TOKEN:OpenAI API的Token

  • OPENAI_CHAT_MODEL:对话的模型,默认gpt-3.5-turbo

  • OPENAI_EMBEDDING_MODEL:Embedding的模型,默认text-embedding-3-small

  • OPENAI_EMBEDDING_TOKEN: Embedding的Token, 默认为空,为空则使用对话的Token

FastWiki.Web.Server环境变量参数

  • FAST_WIKI_SERVICE:FastWikiService的地址,默认为http://localhost:5124

请注意FAST_WIKI_SERVICE环境变量一定是得外网能访问到的地址,否则在回复知识库内容的时候会导致引用的文件出现404.

FastWiki为你提供了免费的向量Api,这个地址和token仅支持向量(并且对于ip进行限流)。

创建自定义模型的json以便支持国产模型,文件需要于docker-compose.yml同级

 

则是星火大模型。

上面文件创建好了以后执行,然后就可以访问

 

登录系统默认账号admin密码Aa123456

1、点击知识库->创建知识库 点击添加。

2、点击创建的知识库

3、点击导入文件

4、拖动需要上传的.md/.pdf/.txt的文件到这里,然后点击下一步,一直到上传数据, 

5、上传数据,点击上传,上传完成关闭弹窗。

6、数据上传以后服务会在后台进行量化,等待上传完成以后点击应用,然后创建应用

7、创建应用,然后打开创建的应用

8、绑定知识库,点击选择知识库然后点击需要绑定的知识库,在关闭弹窗,然后点击保存修改即可。

9、修改电话基础模型,修改为添加的然后点击保存修改即可 1.

10、打开聊天然后提问上传的文档的内容,这样就可以针对性规范AI了,还可以设置超出知识库返回的时候回复内容

Github: https://github.com/239573049/fast-wiki

Gitee: https://gitee.com/hejiale010426/fast-wiki

在线文档:https://docs.token-ai.cn/

体验地址:https://chat.token-ai.cn/chat/share-chat?id=939b3ad2f853422db0d781bcb19a8bf1

知识库微信交流群加

最新文章
申请贷款延期后的下一步操作该怎么进行
申请贷款延期后的下一步操作在现代经济生活中,借贷已经成为了人们日常生活的重要组成部分。无论是个人消费贷款、房屋贷款还是企业贷款,贷款的需求都在不断增加。由于各种原因,借款人有时会面临还款能力不足的情况。这时,申请贷款延期就
浏览器大全网站免费下载官方最新版本最新版官方
价值评估:浏览器大全网站免费下载官方最新版本最新版官方于2024-12-16发布于本站,并永久保存在16757网址导航收录中,浏览器大全网站免费下载官方最新版本最新版官方主要是介绍浏览器大全网站免费下载官方最新版本最新版官方等相关内容的
安阳搜狗优化推广费用全揭秘,精准营销策略助力企业飞跃
安阳搜狗优化推广报价全解析,提供精准营销方案,助力企业提升品牌知名度,实现业绩增长。专业团队量身定制推广策略,全方位提升企业市场竞争力,让企业腾飞。随着互联网的快速发展,网络营销已经成为企业提升品牌知名度、拓展市场份额的重
直播助手软件哪个好用?如何选择适合自己的中文汉字直播工具?
1. 功能需求:要根据自己的需求来选择。如需进行实时翻译或语音识别,就需要选择具有这些功能的软件。2. 用户体验:选择一个界面友好、操作简便的软件可以让你更快速地掌握并使用它。3. 稳定性:一个稳定的软件能够保证直播过程的流畅性,
景联文科技提供高质量文本标注服务,驱动AI技术发展
文本标注是指在原始文本数据上添加标签的过程,这些标签可以用来指示特定的实体、关系、事件等信息,以帮助计算机理解和处理这些数据。 文本标注是自然语言处理(NLP)领域的一个重要环节,它通过为文本的不同部分提供具体的含义和上下文
跳一跳助手免root权限版下载
《跳一跳助手免root权限版》这一款不需要用权限的游戏辅助,强大的辅助软件,可以帮助用户准确无误的计算出每一次跳高的分数,帮助用户轻松获得跳高的帮助,把握好每一次跳跃的节奏,准确的跳到下一个关卡,游戏中还增加了挑战的多人在线和
数字化设计与AI设计的融合:如何实现人工智能的应用
人工智能(Artificial Intelligence, AI)是一门研究如何让机器具有智能行为的科学。它涉及到许多领域,包括机器学习、深度学习、自然语言处理、计算机视觉、语音识别、推理和决策等。随着数据量的增加,计算能力的提高以及算法
竞价排名推广方案:如何避免广告被竞争对手抢占?
竞价排名推广方案:如何避免广告被竞争对手抢占一、背景介绍竞价排名推广是一种基于互联网的广告形式,通过付费竞价和排名机制,让广告在搜索引擎结果页中获得较高曝光度。然而,在竞价排名推广中,广告被竞争对手抢占的情况时有发生,这不
Windows11优化大师软件
信息获得系统和系统上的所有硬件的详细信息;帮你找出的Windows,Office产品安装密钥;显示运行在你机器上进程和线程的详细信息;Windows 10 Manager提供1点击清理功能自动清扫系统;维修中心可以帮助您解决各种系统问题。优化调整你的系统以提
欧盟电视机和显示器能效ERP条例(EU) 2019/2021要求
欧盟电视机和显示器能效ERP条例(EU) 2019/2021更新科技的发展日新月异,引导着显示器和电视机的更新换代,为了准确衡量产品的能效,欧盟制定了2016-2019能效工作计划,电子显示器成为了一个新的产品类别,电视机也被纳入其中,并在2019年10
相关文章
推荐文章
发表评论
0评