Windows本地化部署实战:DeepSeek R1+Chatbox实现Web访问 & AnythingLLM私有知识库搭建全流程指南

Windows本地化部署实战:DeepSeek R1+Chatbox实现Web访问 & AnythingLLM私有知识库搭建全流程指南
Windows本地化部署实战:DeepSeek R1+Chatbox实现Web访问 & AnythingLLM私有知识库搭建全流程指南

一、Ollama PC本地化部署

Ollama 是开源大模型应用,能本地快速运行各类模型,支持多模型切换,操作简便,为用户提供高效本地化 AI 体验。

下载Ollama

网址:https://ollama.com/download

Windows本地化部署实战:DeepSeek R1+Chatbox实现Web访问 & AnythingLLM私有知识库搭建全流程指南

Linux系统需要执行下面命令:

curl -fsSL https://ollama.com/install.sh | sh

网盘下载Ollama

Github有时需要魔法才能访问,而且国外网速超级慢,下面提供网盘下载方式。

安装Ollama

Windows本地化部署实战:DeepSeek R1+Chatbox实现Web访问 & AnythingLLM私有知识库搭建全流程指南

双击下载好的安装文件,点击「Install」开始安装。目前的Ollama会默认安装到C盘,路径如下:

C:\Users%username%\AppData\Local\Programs\Ollama

Windows本地化部署实战:DeepSeek R1+Chatbox实现Web访问 & AnythingLLM私有知识库搭建全流程指南

配置Ollama的环境变量

Ollama 服务器默认只允许来自127.0.0.1的跨域请求,如果你计划在其它前端面板中调用 Ollama API,比如ChatboxAnythingLLM,需要放开跨域限制。

放开跨域限制要配置下面两个环境变量:

OLLAMA_HOST:0.0.0.0
OLLAMA_ORIGINS:*

配置Ollama的环境变量前一定要退出Ollama,否则下边的环境配置无法生效!

右键图标,会出现退出的按钮「Quit Ollama」。

Windows本地化部署实战:DeepSeek R1+Chatbox实现Web访问 & AnythingLLM私有知识库搭建全流程指南
  • 1、在电脑的搜索框输入“编辑系统环境变量”,然后点击搜索出的链接。
  • 2、新建用户环境变量
Windows本地化部署实战:DeepSeek R1+Chatbox实现Web访问 & AnythingLLM私有知识库搭建全流程指南
Windows本地化部署实战:DeepSeek R1+Chatbox实现Web访问 & AnythingLLM私有知识库搭建全流程指南
  • 环境变量新建保存成功后,再次进入看到下面两个变量就是环境配置好了。
Windows本地化部署实战:DeepSeek R1+Chatbox实现Web访问 & AnythingLLM私有知识库搭建全流程指南

关闭开机自启动

Ollama 默认会随 Windows 自动启动,可以在「文件资源管理器」的地址栏中访问以下路径,删除其中的Ollama.lnk快捷方式文件,阻止它自动启动。

复制下面的路径粘贴到文件搜索栏:

%APPDATA%\Microsoft\Windows\Start Menu\Programs\Startup
Windows本地化部署实战:DeepSeek R1+Chatbox实现Web访问 & AnythingLLM私有知识库搭建全流程指南

启动Ollama

将上述更改的环境变量保存后,在「开始」菜单中找到 Ollama点击图标就可以重新启动,在cmd窗口执行ollama命令。

Windows本地化部署实战:DeepSeek R1+Chatbox实现Web访问 & AnythingLLM私有知识库搭建全流程指南

二、deepseek-r1模型

模型查找

Ollama安装好后就可以去选择deepseek-r1模型了。

查找网址:https://ollama.com/search

Windows本地化部署实战:DeepSeek R1+Chatbox实现Web访问 & AnythingLLM私有知识库搭建全流程指南

deepseek-r1各规模模型对本机PC的硬件要求:

Windows本地化部署实战:DeepSeek R1+Chatbox实现Web访问 & AnythingLLM私有知识库搭建全流程指南

选择模型

普通个人电脑选择1.5b的模型就可以了。

在Ollama上选择对应的模型参数,然后复制安装命令到cmd窗口中

ollama run deepseek-r1:1.5b
Windows本地化部署实战:DeepSeek R1+Chatbox实现Web访问 & AnythingLLM私有知识库搭建全流程指南

运行命令

Windows本地化部署实战:DeepSeek R1+Chatbox实现Web访问 & AnythingLLM私有知识库搭建全流程指南

三、Ollama启动deepseek

没有取消开机自启,只需打开cmd窗口,然后执行指令ollama run <模型名称>

例如:

ollama run deepseek-r1:1.5b

取消开机自启,电脑开机后需要进入到安装的ollama.exe目录,然后执行指令ollama run <模型名称>

例如:

ollama run deepseek-r1:8b
Windows本地化部署实战:DeepSeek R1+Chatbox实现Web访问 & AnythingLLM私有知识库搭建全流程指南

四、Chatbox

DeepSeek+Chatbox

本地cmd窗口命令行使用不太直观,可以安装Chatbox,通过UI页面与模型进行提问,提高可交互性。

Chatbox AI 是一款 AI 客户端应用和智能助手,支持众多先进的 AI 模型和 API,可在 Windows、MacOS、Android、iOS、Linux 和网页版上使用。

下载网址:https://chatboxai.app/zh/install?download

Windows本地化部署实战:DeepSeek R1+Chatbox实现Web访问 & AnythingLLM私有知识库搭建全流程指南

本地使用Ollama部署完成后,就可以使用Chatbox进行调用。

根据官方文档给出的步骤进行配置:

https://chatboxai.app/zh/help-center/connect-chatbox-remote-ollama-service-guide


五、安装Chatbox

Windows本地化部署实战:DeepSeek R1+Chatbox实现Web访问 & AnythingLLM私有知识库搭建全流程指南

安装成功后,打开APP,选择Use My Own API Key / Local Model

然后打开的对话框根据提示选择对应的模型。

模型提供方选择【Ollama API】

模型选择自己的安装的模型。

Windows本地化部署实战:DeepSeek R1+Chatbox实现Web访问 & AnythingLLM私有知识库搭建全流程指南

六、问答测试

Windows本地化部署实战:DeepSeek R1+Chatbox实现Web访问 & AnythingLLM私有知识库搭建全流程指南

七、DeepSeek知识库搭建

知识库应用场景

在日常的学习与工作中,你或许常常深陷这样的困境:手头堆积着如山的 PDF 文件,急需从中找出特定信息,于是习惯性地依赖 Ctrl+F 快捷键,在繁杂的文档海洋里反复摸索,花费大量时间,却依旧一无所获,挫败感扑面而来。

尤其是遇到那些格式怪异的文档时,常规的搜索功能完全失效,简直让人无从下手。其实,我们都渴望着一种更便捷、高效的解决方案。设想一下,倘若存在一款工具,只需将文档轻松 “投喂” 给 AI,随后便能如同与老友交谈一般,通过智能对话精准、迅速地获取关键内容,彻底告别繁琐的手动搜索,这该多美妙。而 AnythingLLM 正是这样一款契合需求的得力工具,有它助力,信息检索之路将畅行无阻。


八、AnythingLLM

AnythingLLM 由 mintplexlabs 推出,是一款开源全栈应用。它能将多种格式的文档转化为大语言模型的聊天背景知识,支持多用户管理,可自选模型与向量数据库,上手简单。其具备自定义 AI 代理、多模态等特性,创建工作区可有序管理文档,适用于学术、办公、客服等场景,有效助力信息获取,提升效率。

下载网址:https://anythingllm.com/desktop

点击.exe文件即可安装,如果发现以管理员身份安装没有反应,就选中安装包,右键选择“属性”查看安装文件是否已经被锁定

Windows本地化部署实战:DeepSeek R1+Chatbox实现Web访问 & AnythingLLM私有知识库搭建全流程指南

配置模型的连接信息

安装成功后,打开APP就根据提示一直下一步就行了,安装好开始配置 这里选Ollama 地址按它默认的填就行。

打开后可以点击【open setting】查看配置内容,自己的AI模型是使用Ollama安装的,那么LLM的首选项就是Ollama。

Windows本地化部署实战:DeepSeek R1+Chatbox实现Web访问 & AnythingLLM私有知识库搭建全流程指南
Windows本地化部署实战:DeepSeek R1+Chatbox实现Web访问 & AnythingLLM私有知识库搭建全流程指南
Windows本地化部署实战:DeepSeek R1+Chatbox实现Web访问 & AnythingLLM私有知识库搭建全流程指南
Windows本地化部署实战:DeepSeek R1+Chatbox实现Web访问 & AnythingLLM私有知识库搭建全流程指南

新建工作区

页面打开后点击新建工作区聊天设置工作区LLM提供者选择Ollama

Windows本地化部署实战:DeepSeek R1+Chatbox实现Web访问 & AnythingLLM私有知识库搭建全流程指南

当未向 DeepSeek 上传个人文档以丰富其知识储备时,向它提出一些基于特定个人资料、小众领域专业文档或私有项目细节等方面的问题,你会明显察觉到它无法给出精准且针对性的回答,因为它缺乏相应的专属信息输入。

Windows本地化部署实战:DeepSeek R1+Chatbox实现Web访问 & AnythingLLM私有知识库搭建全流程指南

给本地AI投喂私密文档

按照以下步骤给AI投喂个人文档。

Windows本地化部署实战:DeepSeek R1+Chatbox实现Web访问 & AnythingLLM私有知识库搭建全流程指南
Windows本地化部署实战:DeepSeek R1+Chatbox实现Web访问 & AnythingLLM私有知识库搭建全流程指南
Windows本地化部署实战:DeepSeek R1+Chatbox实现Web访问 & AnythingLLM私有知识库搭建全流程指南
Windows本地化部署实战:DeepSeek R1+Chatbox实现Web访问 & AnythingLLM私有知识库搭建全流程指南
Windows本地化部署实战:DeepSeek R1+Chatbox实现Web访问 & AnythingLLM私有知识库搭建全流程指南

根据上传文档的内容进行提问

将个人文档、商务报告、学术论文等各类文档上传后,在对话框输入与之相关的清晰问题,如 “《三体全集》多少钱”。点击发送,DeepSeek 会快速解析文档,给出精准回答。

Windows本地化部署实战:DeepSeek R1+Chatbox实现Web访问 & AnythingLLM私有知识库搭建全流程指南
Windows本地化部署实战:DeepSeek R1+Chatbox实现Web访问 & AnythingLLM私有知识库搭建全流程指南
Windows本地化部署实战:DeepSeek R1+Chatbox实现Web访问 & AnythingLLM私有知识库搭建全流程指南

九、数据迁移

AnythingLLM数据迁移:

1、查看数据存储位置:AnythingLLM 一般会将数据存储在其默认的向量数据库中,可在软件设置的 “向量数据库” 选项中查看具体存储路径。

2、使用数据库工具导出:如果向量数据库是常见的类型,如 LanceDB 等,可以尝试使用相应的数据库管理工具连接到该数据库,然后执行导出操作,将数据导出为 CSV、JSON 等常见格式。

3、查看工作区文档列表:在 AnythingLLM 的工作区中,通常会有已上传文档的列表,可通过点击工作区界面中的相关按钮或菜单选项,查找是否有导出文档的功能,可能会提供将单个或多个文档批量导出的操作。

阅读剩余 96%

转载作品,原作者:远方的音讯,文章来源:https://mp.weixin.qq.com/s/vuwEy7_W0ujLYxyAKuzotg

(1)
打赏 微信赞赏 微信赞赏 支付宝赞赏 支付宝赞赏
上一篇 2025-02-12 14:38
下一篇 2025-02-13 15:52

相关推荐

发表回复

登录后才能评论
扫码了解
扫码了解
反馈建议
分享本页
返回顶部