Ollama 简介
Ollama 是一个基于 Go 语言开发的可以本地运行大模型的开源框架。
官网:https://ollama.com/
GitHub 地址:https://github.com/ollama/ollama
目录:
Ollama 安装
Ollama 自定义安装目录
Ollama 下载大数据模型
Ollama 自定义大数据模型目录
Ollama 删除大数据模型
======================================================================================
Ollama 安装
1、下载Ollama
可在官网 https://ollama.com/ 下载Ollama
由于很多小伙伴反应无法下载,这里微夏提供网盘下载链接:
123盘:https://www.123684.com/s/8biA-gQpD3 提取码:vxia
百度网盘: https://pan.baidu.com/s/1BmmTdbMyMp1SUnHO8gOBNg?pwd=vxia 提取码: vxia
阿里云盘:https://www.alipan.com/s/ADbFT1zPNEU 提取码: qy19
2、安装
下载后双击打开即可正常安装。
注:Ollama 双击安装时,默认安装在C盘,后续的模型数据下载也在C盘。如果C盘空间不充足的小伙伴们,可继续往下阅读,使用教程安装在其他盘符中。
安装好之后,右下角会有一个羊驼的标志,代表已经安装并运行成功。
进一步查看的话,可使用 Win + R ,调出运行窗口,输入CMD,回车弹出命令提示符
在命令提示符处,输入 ollama -v 可查看当前 ollama 的版本号信息
======================================================================================
Ollama 自定义安装目录
有小伙伴的C盘空间不大,可把程序及大数据模型放在其他盘。
微夏这里以E盘Ollama文件夹为演示。
小伙伴可先在其他盘建好文件夹,然后按照下面的操作进行即可。
1、先在桌面新建一个文件夹,把安装程序放在文件夹中。
2、在文件路径处,输入 cmd 回车,即可进入该文件夹的命令提示符。
3、在命令提示符中,输入命令:OllamaSetup.exe /DIR=E:\Ollama
OllamaSetup.exe /DIR=后跟你需要安装的目录
4、回车运行后,弹出软件安装界面,点击下一步后,软件自动安装,可以看到安装目录已经是E盘Ollama文件夹了。
======================================================================================
Ollama 下载大数据模型
在Ollama官网点击 Models ,可选择大数据模型,这里以 deepseek-r1 为例
在下拉箭头这里,选择1.5b(1.5b = 15亿参数)
注:这里的模型,要根据自己的电脑配置进行选择,数字越大,代表参数越多,所需的配置也越高。
如果选择的模型过高,电脑配置达不到,还是会出现运行不了的情况。这里微夏选择的是最小的模型->1.5b,一般电脑选择此模型即可。
关于DeepSeek 模型所需要的配置,可参考此链接:
https://apxml.com/posts/gpu-requirements-deepseek-r1
选择此模型之后,点击 复制 安装命令 ollama run deepseek-r1:1.5b
把此命令粘贴到命令提示符,然后回车即可进入安装过程
注:下载过程中,可能报错,或下载速度过慢,此时可关闭窗口,重新打开命令提示符,重新粘贴执行一次命令即可。
模型大概1.1Gb,程序自动下载安装。此为下载完成后的截图。
此时就可以正常跟大模型聊天了。
在CMD窗口下聊天很不方便,可参考此文章链接:https://www.vxia.net/post-1654.html
使用 ChatBox 接入大模型,更方便简洁。
======================================================================================
Ollama 自定义大数据模型目录
此情况适用于已安装在C盘,不想重新安装Ollama;
或喜欢把安装程序和数据分开保存的小伙伴们。
具体操作方法如下:
比如我现在已经把Ollama安装在了 C盘,想把大数据模型保存在E盘中的 DeepSeek-r1 文件夹中。
1、增加环境变量
Win + R 打开运行窗口,输入 sysdm.cpl 确认或回车打开系统属性窗口
2、点击高级 --> 选择 环境变量
3、在弹出的 环境变量 窗口处,在用户变量处,点击新建:
变量名:OLLAMA_MODELS
变量值:E:\DeepSeek-r1
然后点击确定即可。(具体的变量值,根据自己选择的大数据模型目录而定。)
此时再下载模型,会发现已经下载到设置的目录中去了。
======================================================================================
Ollama 删除大数据模型
有小伙伴下载的大数据模型,电脑配置带不动,需要更换,或想使用其他大数据模型,或只是想简单的删除大数据模型,可使用下面的方法进行操作。
1、先在命令提示符中,使用命令 Ollama list 查看当前所有的大数据模型
2、删除语法为:Ollama rm 大数据模型
此以deepseek-r1为演示:Ollama rm deepseek-r1:1.5b
3、删除后再次使用 Ollama list 查看一下大数据模型列表,确认是否删除成功。
可以看到已删除成功。
======================================================================================