

一、Ollama PC本地化部署
Ollama 是开源大模型应用,能本地快速运行各类模型,支持多模型切换,操作简便,为用户提供高效本地化 AI 体验。
下载Ollama
网址:https://ollama.com/download

Linux系统需要执行下面命令:
curl -fsSL https://ollama.com/install.sh | sh
网盘下载Ollama
Github有时需要魔法才能访问,而且国外网速超级慢,下面提供网盘下载方式。
百度网盘限速: https://pan.baidu.com/s/1Il-iHZVpmt6GP6RiYFPj8A 提取码: 4463
123网盘不限速:https://www.123865.com/s/y9Mtjv-HSwWh? 提取码:g5oV
安装Ollama

双击下载好的安装文件,点击「Install」开始安装。目前的Ollama会默认安装到C盘,路径如下:
C:\Users%username%\AppData\Local\Programs\Ollama

配置Ollama的环境变量
Ollama 服务器默认只允许来自127.0.0.1的跨域请求,如果你计划在其它前端面板中调用 Ollama API,比如Chatbox和AnythingLLM,需要放开跨域限制。
放开跨域限制要配置下面两个环境变量:
OLLAMA_HOST:0.0.0.0
OLLAMA_ORIGINS:*
配置Ollama的环境变量前一定要退出Ollama,否则下边的环境配置无法生效!
右键图标,会出现退出的按钮「Quit Ollama」。

- 1、在电脑的搜索框输入“编辑系统环境变量”,然后点击搜索出的链接。
- 2、新建用户环境变量。


- 环境变量新建保存成功后,再次进入看到下面两个变量就是环境配置好了。

关闭开机自启动
Ollama 默认会随 Windows 自动启动,可以在「文件资源管理器」的地址栏中访问以下路径,删除其中的Ollama.lnk快捷方式文件,阻止它自动启动。
复制下面的路径粘贴到文件搜索栏:
%APPDATA%\Microsoft\Windows\Start Menu\Programs\Startup

启动Ollama
将上述更改的环境变量保存后,在「开始」菜单中找到 Ollama,点击图标就可以重新启动,在cmd窗口执行ollama命令。

二、deepseek-r1模型
模型查找
Ollama安装好后就可以去选择deepseek-r1模型了。
查找网址:https://ollama.com/search

deepseek-r1各规模模型对本机PC的硬件要求:

选择模型
普通个人电脑选择1.5b的模型就可以了。
在Ollama上选择对应的模型参数,然后复制安装命令到cmd窗口中。
ollama run deepseek-r1:1.5b

运行命令

三、Ollama启动deepseek
没有取消开机自启,只需打开cmd窗口,然后执行指令ollama run <模型名称>。
例如:
ollama run deepseek-r1:1.5b
取消开机自启,电脑开机后需要进入到安装的ollama.exe目录,然后执行指令ollama run <模型名称>。
例如:
ollama run deepseek-r1:8b

四、Chatbox
DeepSeek+Chatbox
本地cmd窗口命令行使用不太直观,可以安装Chatbox,通过UI页面与模型进行提问,提高可交互性。
Chatbox AI 是一款 AI 客户端应用和智能助手,支持众多先进的 AI 模型和 API,可在 Windows、MacOS、Android、iOS、Linux 和网页版上使用。
下载网址:https://chatboxai.app/zh/install?download

本地使用Ollama部署完成后,就可以使用Chatbox进行调用。
根据官方文档给出的步骤进行配置:
https://chatboxai.app/zh/help-center/connect-chatbox-remote-ollama-service-guide
五、安装Chatbox

安装成功后,打开APP,选择Use My Own API Key / Local Model。
然后打开的对话框根据提示选择对应的模型。
模型提供方选择【Ollama API】。
模型选择自己的安装的模型。

六、问答测试

七、DeepSeek知识库搭建
知识库应用场景
在日常的学习与工作中,你或许常常深陷这样的困境:手头堆积着如山的 PDF 文件,急需从中找出特定信息,于是习惯性地依赖 Ctrl+F 快捷键,在繁杂的文档海洋里反复摸索,花费大量时间,却依旧一无所获,挫败感扑面而来。
尤其是遇到那些格式怪异的文档时,常规的搜索功能完全失效,简直让人无从下手。其实,我们都渴望着一种更便捷、高效的解决方案。设想一下,倘若存在一款工具,只需将文档轻松 “投喂” 给 AI,随后便能如同与老友交谈一般,通过智能对话精准、迅速地获取关键内容,彻底告别繁琐的手动搜索,这该多美妙。而 AnythingLLM 正是这样一款契合需求的得力工具,有它助力,信息检索之路将畅行无阻。
八、AnythingLLM
AnythingLLM 由 mintplexlabs 推出,是一款开源全栈应用。它能将多种格式的文档转化为大语言模型的聊天背景知识,支持多用户管理,可自选模型与向量数据库,上手简单。其具备自定义 AI 代理、多模态等特性,创建工作区可有序管理文档,适用于学术、办公、客服等场景,有效助力信息获取,提升效率。
下载网址:https://anythingllm.com/desktop
点击.exe文件即可安装,如果发现以管理员身份安装没有反应,就选中安装包,右键选择“属性”查看安装文件是否已经被锁定。

配置模型的连接信息
安装成功后,打开APP就根据提示一直下一步就行了,安装好开始配置 这里选Ollama 地址按它默认的填就行。
打开后可以点击【open setting】查看配置内容,自己的AI模型是使用Ollama安装的,那么LLM的首选项就是Ollama。




新建工作区
页面打开后点击新建工作区,聊天设置的工作区LLM提供者选择Ollama。

当未向 DeepSeek 上传个人文档以丰富其知识储备时,向它提出一些基于特定个人资料、小众领域专业文档或私有项目细节等方面的问题,你会明显察觉到它无法给出精准且针对性的回答,因为它缺乏相应的专属信息输入。

给本地AI投喂私密文档
按照以下步骤给AI投喂个人文档。





根据上传文档的内容进行提问
将个人文档、商务报告、学术论文等各类文档上传后,在对话框输入与之相关的清晰问题,如 “《三体全集》多少钱”。点击发送,DeepSeek 会快速解析文档,给出精准回答。



九、数据迁移
AnythingLLM数据迁移:
1、查看数据存储位置:AnythingLLM 一般会将数据存储在其默认的向量数据库中,可在软件设置的 “向量数据库” 选项中查看具体存储路径。
2、使用数据库工具导出:如果向量数据库是常见的类型,如 LanceDB 等,可以尝试使用相应的数据库管理工具连接到该数据库,然后执行导出操作,将数据导出为 CSV、JSON 等常见格式。
3、查看工作区文档列表:在 AnythingLLM 的工作区中,通常会有已上传文档的列表,可通过点击工作区界面中的相关按钮或菜单选项,查找是否有导出文档的功能,可能会提供将单个或多个文档批量导出的操作。
转载作品,原作者:远方的音讯,文章来源:https://mp.weixin.qq.com/s/vuwEy7_W0ujLYxyAKuzotg