模型能在本机回答问题,你也能确认模型文件位置与占用空间。
全部指南
已完成编辑评估HAACC 尚未实机复测

Ollama

在自己的电脑上运行一个小型语言模型,并完成一次本地对话。

适合谁
想先理解“本地 AI”是什么,再考虑连接其他应用的人。
这些情况不适合从这里开始
不适合磁盘空间很少的旧电脑,也不适合期待云端大模型同等效果的人。
最终会看到什么
模型能在本机回答问题,你也能确认模型文件位置与占用空间。
预计耗时
45 min
设备
一台受支持的电脑;内存越大,可运行的模型通常越大
账号
基础本地路径通常不需要第三方账号
费用
软件开源,但电力、存储和可选服务仍有成本
数据
预留数 GB 磁盘空间,具体取决于所选模型
HAACC 检查状态
已完成编辑评估
HAACC 尚未实机复测
01

开始前准备

设备 / REQ

一台受支持的电脑;内存越大,可运行的模型通常越大

账号 / OPT

基础本地路径通常不需要第三方账号

费用 / OPT

软件开源,但电力、存储和可选服务仍有成本

数据 / REQ

预留数 GB 磁盘空间,具体取决于所选模型

经验 / OPT

愿意按官方步骤安装并检查磁盘空间

02

照着这条路径做

  1. 01

    先检查电脑条件

    记录操作系统、可用内存和磁盘空间。按当前官方文档选择较小模型,不要从热门的大模型开始。

    确认后再继续开始下载前,你已经知道模型大致占用空间。
  2. 02

    只从官方来源安装

    只按仓库或官网当前的系统说明操作,拒绝无关安装器,不运行社交平台复制来的命令。

    确认后再继续Ollama 本地服务启动,且没有索取无关权限。
  3. 03

    只下载一个小模型

    从当前官方模型库选择一个小模型,并记录名称和大小,方便之后准确删除。

    确认后再继续模型出现在本地列表中,磁盘占用增加量与预期相符。
  4. 04

    完成一次有限测试

    提出三个不含个人或机密数据的简单问题,保存一条回答,并记录响应时间与明显错误。

    确认后再继续在不连接可选云服务时,你仍能收到模型回答。
怎样算成功

一个选定模型在本机完成回答,并且它占用了多少空间是可知的。

03

证据边界

HAACC 已阅读公开来源并整理这条路径,但尚未在干净设备上实际运行。所有安装步骤都应视为未复测。

HAACC 已检查

  • 仓库身份、快照指标、声明的 MIT 许可证与本地模型产品逻辑
  • 从设备能力和删除方案开始的首次体验路径

仍未检查

  • 任何具体硬件上的安装与推理成功情况
  • 模型质量、网络行为、当前模型许可证与准确空间占用
04

先停一下,读完这些

谨慎

模型可能耗尽磁盘与内存

从小模型开始并观察资源占用。应用的许可证不自动代表所有下载模型的许可证。

注意

本地运行不等于自动隐私

可选集成、日志或其他软件仍可能传输数据,第一次只使用非敏感文本。

05

卡住时怎么处理

你会看到

模型下载中断或磁盘空间不足

应该怎么做

取消操作,按当前官方说明删除未完成或已选模型,再换更小的模型。

你会看到

电脑失去响应或极度缓慢

应该怎么做

停止运行,不要反复尝试明显超过电脑实际能力的模型。

如何停止与退出

停止本地服务,按当前官方方式删除模型并卸载应用,最后确认磁盘空间已释放。

06

把它变成自己的项目

01

离线笔记解释器

把一份本地文本变成可重复的摘要流程,但不处理敏感材料。

02

小模型适配报告

公开一台电脑上的响应速度、内存占用、质量边界和删除证据。

整理我的版本
07

来源快照

仓库
ollama/ollama
快照时间
2026-07-20
快照星标
176,451
快照 Fork
17,031
GitHub 许可证字段
MIT
固定版本
未固定
打开公开来源