RAG开源项目ChatWiki：芝麻最新开源的“本地化部署知识库”AI问答系统

小芝麻 • • ChatWiki, 常见玩法

RAG开源项目ChatWiki：芝麻最新开源的“本地化部署知识库”AI问答系统对于企业来说，为了考虑信息安全、防止数据泄露，企业私有的知识库不能直接利用公域的大模型，企业急需一套搭建基于本地大模型的个人/企业知识库的解决方案。

今天为大家分享一个由国内“芝麻小客服”公司开发的，可以部署在本地的问答知识库——ChatWiki，目前大家可免费在开源社区Github内进行下载（地址https://github.com/zhimaAi/chatwiki），一键部署即可使用！点此进入芝麻小客服官网

一、什么是ChatWiki

ChatWiki是一款开源的知识库 AI 问答系统。系统基于大语言模型（LLM ）和检索增强生成（RAG）技术构建，提供开箱即用的数据处理、模型调用等能力，可以帮助企业快速搭建自己的知识库 AI 问答系统。

ChatWiki有云端SaaS版本，也支持企业在Github上下载源代码，进行本地部署，确保信息安全。

RAG开源项目ChatWiki：芝麻最新开源的“本地化部署知识库”AI问答系统

ChatWiki官网：chatwiki.com

GitHub开源地址：https://github.com/zhimaAi/chatwiki

RAG开源项目ChatWiki：芝麻最新开源的“本地化部署知识库”AI问答系统

ChatWiki体验地址：http://h5.wikichat.com.cn/#/chat?robot_key=lTo85wvGSj

Animation演示动图.gif

二、ChatWiki特点

  • 免费开源：整个项目完全开源，允许任何个人或组织机构下载源码后，直接部署使用或者进行二次开发发布
  • 开箱即用：提供了完整的前后端套件支持，下载源码后只需要简单部署即可正常使用。
  • 数据安全：支持企业进行本地化部署，可离线使用。
  • 支持多种语言：支持中文、英文两种语言版本，方便全球用户使用。
  • 兼容多种模型，接入简单：支持接入国内外20多种大模型，如OpenAI、Azure OpenAI、Gemini、文心一言、通义千问、讯飞星火、月之暗面Kimi等模型，只需要简单配置模型API key等信息即可成功接入模型。
  • 多种使用场景：可在在线网站、H5链接、微信小程序、微信公众号、微信客服、视频号小店等场景使用。

三、ChatWiki原理和架构

ChatWiki的主要原理是于大语言模型（LLM ）和检索增强生成（RAG）技术构建。

RAG 模型的核心思想是将传统的检索方法与生成模型结合，通过引入外部知识库来增强生成的内容。

RAG 的工作流程可以参考下图来直观地了解。

RAG开源项目ChatWiki：芝麻最新开源的“本地化部署知识库”AI问答系统

四、快速使用

ChatWiki提供了SaaS服务和本地部署两种方式。我们以SaaS页面为例说明。

浏览器直接访问以下地址：https://chatwiki.com，注册账号后即可使用。

1.配置AI大模型

点击系统管理-可配置模型，选择任意AI大模型接入，填写API key等信息即可成功接入，API key需要企业自行去AI大模型官网申请。

RAG开源项目ChatWiki：芝麻最新开源的“本地化部署知识库”AI问答系统

2.创建知识库

点击知识库管理-新增知识库，可上传文档信息（目前支持pdf、docx、txt、Markdown、xlsx、csv、html、在线网页链接等格式），ChatWiki自动对导入的文本数据进行预处理、向量化或 QA 分割。

RAG开源项目ChatWiki：芝麻最新开源的“本地化部署知识库”AI问答系统

3.创建机器人

点击机器人管理-新增机器人，填写机器人名称即可创建成功。

接着设置机器人系统提示词、关联知识库、欢迎语、未知问题提示语等信息。

RAG开源项目ChatWiki：芝麻最新开源的“本地化部署知识库”AI问答系统

4.配置使用场景

机器人设置完成后后，在机器人管理-对外服务中，根据指引，可在在线网站、H5链接、微信小程序、微信公众号、微信客服、视频号小店等场景配置使用。有用户咨询时，消息都有AI机器人进行接待回答。

RAG开源项目ChatWiki：芝麻最新开源的“本地化部署知识库”AI问答系统

五、私有化部署

1.准备工作

再安装ChatWiki之前，您需要准备一台具有联网功能的linux服务器，并确保服务器满足最低系统要求

  • Cpu：最低需要2 Core
  • RAM：最低需要4GB

2.开始安装

ChatWiki社区版基于Docker部署，请先确保服务器已经安装好Docker。如果没有安装，可以通过以下命令安装：

sudo curl -sSL https://get.docker.com/ | CHANNEL=stable sh

安装好Docker后，逐步执行一下步骤安装ChatWiki社区版

(1)克隆或下载chatwiki项目代码

git clone https://github.com/zhimaAi/chatwiki.git

(2)使用Docker Compose构建并启动项目

cd chatwiki/docker

docker compose up -d

3.部署手册

①一键部署ChatWiki社区版（https://www.yuque.com/zhimaxiaoshiwangluo/pggco1/wql8ekkylbwegbzo）

②如何配置模型供应商及支持的模型（https://www.yuque.com/zhimaxiaoshiwangluo/pggco1/pn79lkvl53bo0xxm）

③本地模型部署（https://www.yuque.com/zhimaxiaoshiwangluo/pggco1/evmy0rr9gr2gp2i0）

④如何配置对外服务和接收推送的域名（https://www.yuque.com/zhimaxiaoshiwangluo/pggco1/nfk4slc95s4i8u4v）

⑤免Docker部署ChatWiki（https://www.yuque.com/zhimaxiaoshiwangluo/pggco1/klriercbhpy97o0g）

⑥如何获取大模型ApiKey（https://www.yuque.com/zhimaxiaoshiwangluo/pggco1/lx3ho90skq95dpdq）

点此进入芝麻小服官网

了解更多功能详情，

获取功能试用，请扫码联系025年企微活码最新玩法！芝麻微客渠道活码功能详解05--自动通过好友申请"

原创文章，作者：小芝麻，如若转载，请注明出处：https://xiaokefu.com.cn/blog/14335.html

赞 (0)
小芝麻小芝麻
0
上一篇 July 8, 2024 4:26 pm
下一篇 July 9, 2024 5:01 pm

相关推荐