Ollama+MaxKB搭建AI知识库方法
Ollama+MaxKB，基于 LLM 大语言模型的知识库问答系统。开箱即用，支持快速嵌入到第三方业务系统。
第一部分 MaxKB安装
MaxKB 简介：基于 LLM 大语言模型的知识库问答系统。开箱即用，支持快速嵌入到第三方业务系统。
GitHub地址：https://github.com/1Panel-dev/MaxKB
1.1 docker安装
MaxKB官方给出了docker部署方式，所以我们要先安装docker docker desktop 下载并安装 ：
https://www.docker.com/products/docker-desktop/
docker安装步骤网上找找，要开启虚拟化。
官方还给出了1Panel运维工具来安装MaxKB客户端，但是需要linux系统。还有个已经发布的离线安装包(支持linux系统)，离线包我们用不着，这里链接就不发了。
1.2 MaxKB 安装
windows系统使用Windows PowerShell。
docker 安装MaxKB 命令：
docker run -d --name=maxkb -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data cr2.fit2cloud.com/1panel/maxkb
# 初始密码
# 用户名: admin
# 密码: MaxKB@123..
#密码最后是两个点，有的文章发了3个点，搞的我一直没登录成功。
#有的文章docker安装命令失效，我的这个链接能正常下载maxkb。
1.3 登陆MaxKB 并设置
登陆MaxKB后可以先修改成自己的密码。
登录网址是 http://localhost:8080/ui/login
然后创建知识库，知识库支持文档和网页链接。创建问答应用并关联对应的知识库。设置大语言模型。
创建知识库，输入名称，导入多类型的文件。
第二部分 安装大语言模型
上面我们构建了知识库，现在需要一个大语言模型来学习这些知识，并理解我们的提问。我们使用Ollama的llama3，16G内存条的笔记本就能运行了。
2.1 Ollama的安装
Ollama是一个让我们可以一键运行大模型的软件。 下载地址：https://ollama.com/
安装完成后，在Windows PowerShell命令行中输入
ollama -v
显示对应版本，证明安装正确并正在运行
右下角会出现小羊驼的标志。
2.2 下载大语言模型
首先在ollama的模型库里面选择自己想要的模型，ollama model地址：https://ollama.com/library
在Windows PowerShell命令行中，运行对应的下载命令，例如我下载 llama3
ollama run llama3
装完以后，直接可以尝试聊天了。但是
第三部分 将MaxKB与大语言模型对接
在MaxKB网站中，系统设置⇒模型设置⇒Ollama⇒添加模型
注意！
“基础模型” 填写内容必须和下载模型名称一致
“API域名” 不要填127.0.0.1:11434，
而是填以下网址：
http://host.docker.internal:11434
Docker与本机的通讯不是127.0.0.1哦。这个地方要注意。不知道多少人卡在了这一步。
API KEY” 随意填写。
MaxKB创建应用，选择已经配置的llama3。
第四步嵌套第三方系统
点击“嵌入第三方”，有2种选择。一个是全屏模式，一个是浮窗模式。复制到第三方的网页代码中即可使用。
微信扫一扫，打开小程序浏览更便捷
原创文章，作者：howkunet，如若转载，请注明出处：https://www.intoep.com/othen/63445.html
微信扫一扫
支付宝扫一扫
相关推荐
-
AI 助手全套开源解决方案，自带运营管理后台，开箱即用
ChatGPT-PLUS 基于 AI 大语言模型 API 实现的 AI 助手全套开源解决方案，自带运营管理后台，开箱即用。集成了 OpenAI, Azure, ChatGLM,讯飞星火，文心一言等多个平台的大语言模型。集成了 MidJourney 和 Stable Diffusion AI绘画功能。
-
一款国产开源 Web 防火墙神器
一款国产开源 Web 防火墙神器，雷池是一款简单易用、广受好评的社区 WAF 项目，它底层基于 Nginx 的 Web 网关，作为反向代理接入网络，清洗来自黑客的恶意流量，保护你的网站不受黑客攻击。雷池拥有友好的 Web 界面
-
修复图片、高清化照片神器inpaint-web
inpaint-web 是一款基于 WebGPU 和 WASM 技术的免费开源工具，可以在浏览器中直接运行，帮你快速修复和高清化图片。
-
超强大的 Nginx 可视化管理平台 Nginx-Proxy-Manager 中文入门指南
nginx-proxy-manager 是一个反向代理管理系统，它基于 NGINX，具有漂亮干净的 Web UI。还可以获得受信任的 SSL 证书，并通过单独的配置、自定义和入侵保护来管理多个代理。
-
没有公网IP，cpolar实现内网穿透
在做网站、微信开发时，有时候会需要本地调试，但现在运营商基本不会分配给到独立的公网IP了，都是内网IP，就只能通过内网穿透来实现。这里推荐一款简单好用的内网穿透工具cpolar。