最近发现一个不错的大模型管理平台，可以本地部署，可以设置RAG知识库搜索增强生成，还可以设置 工作流，更让我惊讶的是，只需一句代码，就可以将你构造的 大模型机器人，或者RAG知识库搜索嵌入到自己已有的网站，真的是网站升级AI人工智能的利器，废话不多说，上项目。

项目介绍

MaxKB = Max Knowledge Base，是一款基于大语言模型和 RAG 的开源知识库问答系统，广泛应用于企业内部知识库、客户服务、学术研究与教育等场景。

• 开箱即用：支持直接上传文档、自动爬取在线文档，支持文本自动拆分、向量化、RAG（检索增强生成），智能问答交互体验好；
• 模型中立：支持对接各种大语言模型，包括本地私有大模型（Llama 3 / Qwen 2 等）、国内公共大模型（通义千问 / 智谱 AI / 百度千帆 / Kimi / DeepSeek 等）和国外公共大模型（OpenAI / Azure OpenAI / Gemini 等）；
• 灵活编排：内置强大的工作流引擎，支持编排 AI 工作过程，满足复杂业务场景下的需求；
• 无缝嵌入：支持零编码快速嵌入到第三方业务系统，让已有系统快速拥有智能问答能力，提高用户满意度。

项目部署

我比较喜欢docker部署

docker run -d --name=maxkb -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data -v ~/.python-packages:/opt/maxkb/app/sandbox/python-packages cr2.fit2cloud.com/1panel/maxkb


# 用户名: admin
# 密码: MaxKB@123..

• 你也可以通过 1Panel 应用商店 快速部署 MaxKB + Ollama + Llama 3，30 分钟内即可上线基于本地大模型的知识库问答系统，并嵌入到第三方业务系统中；
• 如果是内网环境，推荐使用 离线安装包 进行安装部署；
• 你也可以在线体验：DataEase 小助手，它是基于 MaxKB 搭建的智能问答系统，已经嵌入到 DataEase 产品及在线文档中；

使用测试

1、配置模型

这里演示一下添加模型openai，和 ollama，第一次进入页面需要修改默认密码

这是首页

首先在【系统管理-模型设置】配置要用的模型，

Ollama

点击【添加模型】，选择供应商【Ollama】，直接进入下一步填写 Ollama 供应商的大模型表单。或者左侧供应商先选择【 Ollama 】，然后点击【添加模型】，则直接进入 Ollama 表单。
* 模型名称：MaxKB 中自定义的模型名称。
* 模型类型：大语言模型或向量模型。
* 基础模型：供应商的 LLM 模型，支持自定义输入，但需要与供应商的模型名称保持一致，系统会自动下载部署模型。
* API 域名和 API Key: Ollama 服务地址，例如：http://42.92.198.53:11434 。若没有设置 API Key，可以输入任意字符。
点击【添加】后校验通过则添加成功，便可以在应用的 AI 模型列表选择该模型。

ChatGPT

如果没有梯子，这个地址你也可以使用国内的代理商的地址，需要可以找我哈哈【夹带个私货】

在模型管理中，点击供应商【 OpenAI 】，直接进入下一步填写 OpenAI 的模型表单。
或者左侧供应商先选择【 OpenAI 】，然后点击【添加模型】，则直接进入 OpenAI 的模型表单。
* 模型名称：MaxKB 中自定义的模型名称。
* 模型类型：大语言模型。
* 基础模型：供应商的 LLM 模型，支持自定义输入，下拉选项是 OpenAI 常用的一些大语言模型如：gpt-3.5-turbo-0613、gpt-3.5-turbo、gpt-4 等。
* API 域名：国外服务器：https://api.openai.com/v1，国内服务器则填写：反向代理地址/v1。* API Key：访问 OpenAI 的 Key。

2、配置知识库

点击创建，您也可以 需要一个web站点

在这里上传知识库文件

上传文档要求：


支持文本文件格式为：Markdown、TXT、PDF、DOCX、HTML；
支持 QA 问答对格式为：Excel、CSV；
每次最多上传 50 个文件；
每个文件不超过 100 MB；
支持选择文件夹，上传文件夹下符合要求的文件。
文档规范建议：


规范分段标识：离线文档的分段标识要有一定规范，否则拆分出来的段落会不规整。
*段落要完整：一个分段中最好能描述一个完整的功能点或问题。

3、应用创建

点击创建一个应用，这个应用可以是单纯聊天，也可以使用知识库，这里我上传了一个个人简历做知识库，配置了国内的代理，这就是一个rag了

记得【保存并发布】

集成到我的网站

点击你自己创建的应用的概览，里边有个 【嵌入第三方】

复制这个代码，放入你的主页，就可以了，如下我本地测试的

哈哈，只能说，真的太赞了，我的网站 拥有了人工智能，各位站主试试吧

欢迎点赞关注我，获取更多关于 AI 的前沿资讯。别忘了将今天的内容分享给你的朋友们，让我们一起见证 AI 技术的飞跃！