在电脑上部署自己的AI大模型

平时大家用的 ChatGPT、豆包、元宝，本质上都是云端大模型。

如果不想联网、担心隐私问题，或者想体验各种开源模型，其实可以直接在自己电脑上部署一个本地AI。

整个过程比想象中简单很多。

第一步：安装 Ollama（https://ollama.com/）

安装完成后打开 Ollama。

建议先进入 Settings，把 Model Location 修改到非C盘目录。否则后面下载的大模型都会存到C盘，占用大量空间。

第二步：下载模型

进入 Ollama 官网 Models 页面。常见模型都有DeepSeek、Qwen（通义千问）、GLM、Llama等。

找到想安装的模型后，复制对应命令代码。例如安装 DeepSeek-R1：ollama run deepseek-r1:7b，打开 Windows 终端（Win+R 输入 cmd），粘贴命令回车即可开始下载。

模型第一次下载时间较长，需要耐心等待。出现 success 即表示安装完成。

第三步：选择适合自己电脑的模型

很多人第一次看到：7B、14B、32B、70B，会有点懵。其实数字越大，模型越聪明，但对电脑配置要求也越高。

简单参考：8GB-16GB内存，推荐7B、8B，运行速度快。16GB-32GB内存，推荐14B、27B，效果和速度比较平衡。32GB以上内存，可以尝试：32B、70B，但对显卡和显存要求较高。

如果不知道自己配置：设置 → 系统 → 系统信息，查看 RAM（内存）、 GPU显存即可。

第四步：安装“破限版本”的AI大语言模型
到 Ollama 官网的 Models 搜索界面。输入你想要找的模型名，找到后缀带有abliterated 后缀字样的模型，就是破限后的版本啦。找到后，同样复制它的下载命令（例如 ollama run …），在 cmd 控制台中运行下载就好了。

模型下载完成后，打开 Ollama客户端，选择刚刚安装的模型，直接开始聊天。所有对话都在本地运行。不需要上传到第三方服务器。

如果你一直想拥有一个完全属于自己的AI，这是目前最简单的方案之一。