依托 890万 月活开发者， 服务 85% 财富500强企业， 保持 17.6万 GitHub星标， 带来 零信任 的本地AI运行时。
从个人笔记本到财富500强内网，同一套命令、同一套 API。
他的笔记本只有 16GB 内存，过去跑大模型要配三天环境。现在 `ollama run qwen2.5:7b` 回车，30 秒后进对话。自动选最优量化、绑 GPU、开 API，全程不用看文档。
她在银行做合规，合同和客资不能出内网。Ollama 全部推理在本地完成，断网可用，日志不外发，符合等保与 GDPR。换云端 API 的方案直接被安全部驳回。
他把 base_url 从 api.openai.com 改成 localhost:11434，800 行代码一行没改。LangChain、LlamaIndex、AutoGen 全部零成本迁移，按 token 计费变成按电费计费。
他用 `ollama pull` 试了 12 个模型，像挑容器镜像一样。Llama 写文案、Qwen 翻中文、DeepSeek 算数学、CodeLlama 补代码，每个场景换一个，互不干扰。
三个真实场景，看它怎么把"难用"变成"顺手"。
以前配 CUDA、装 PyTorch、下权重要半天。他装好 Ollama 后打开终端，输入一条命令，进度条走完直接进入对话。模型自动量化到 4-bit，8GB 内存的笔记本也能流畅跑 7B。
她的 RAG 应用原本调 OpenAI，每月烧 200 美元。她把 base_url 指到 localhost:11434，模型换成 Llama 3.1 8B，输出质量没降级，成本归零。代码里只有 import 那一行动了。
他想让模型扮演资深 code reviewer。没碰训练代码，写了一份 Modelfile：系统提示词、温度、Top-P、绑工具，像写 Dockerfile 一样声明。同事 `ollama create` 一下就能复现他的配置。
三类典型用户，各自解决了什么麻烦。
做 side project 不想付 API 月费。他本地跑 7B 模型做原型，产品跑通了再考虑上云。一台 M2 MacBook 同时跑推理、写代码、开会议，风扇都不转。
她做医疗 NLP，患者数据不能出境。Ollama 跑在内网服务器上，7×24 小时批处理病历摘要，零外发流量。合规审查一次过，不用写数据流转说明。
他给公司搭内部 AI 助手，30 人共用一台 GPU 服务器。Ollama 的并发调度 + Open WebUI 做前端，员工以为在用 SaaS，其实是他机柜里那台老 Dell。运维成本约等于电费。
用朋友聊天的语气解释，不端着。
经验值：模型参数量(B) × 量化位数 ÷ 8 ≈ 所需内存(GB)。7B 模型 INT4 约 3.5GB，8GB 内存的笔记本刚好能跑。有 GPU 更好，没 GPU 也能用 CPU 跑，就是慢点。M 系列 Mac 因为统一内存架构，能塞更大的模型。先 `ollama run qwen:0.5b` 试水，能跑再上大的。
调用方式几乎一样，改个 base_url 就行。差别在：① 数据不出本机，敏感内容放心喂；② 没网也能用，飞机高铁不断档；③ 不按 token 收费，只花电费。代价是 7B 模型的能力天花板比 GPT-4 低，复杂任务上不去。建议开发阶段本地迭代，上线再按场景选云端或本地。
2024 年起就有官方 Windows 安装包了，双击 .exe 走完向导就行。自动配 PATH、装服务、开 11434 端口。NVIDIA 显卡（CUDA 12+）直接加速，AMD 显卡走 ROCm，Snapdragon X Elite 这种 ARM 本走 DirectML。不用碰 WSL。
v0.32.3 已经修过下载卡顿的 bug。如果还慢，大概率是网络问题——模型文件托管在境外 CDN。可以换网络、挂代理，或者用 `ollama pull` 的 `--insecure` 选项。下载是断点续传的，关了重开不会从头来。模型存到 `~/.ollama/models/`（macOS/Linux）或用户目录下，C 盘不够可以设 `OLLAMA_MODELS` 改路径。
Ollama 提供 embedding 模型（nomic-embed-text、mxbai-embed-large），配合 Chroma、Qdrant、Milvus 这种向量库就能搭 RAG。LangChain 和 LlamaIndex 都有官方 Ollama 集成，十几行代码搞定。把公司文档切片→向量化→存库→检索→喂给 LLM 生成答案，整条链路本地闭环。这是目前最受欢迎的用法之一。
不必须。不写 Modelfile 也能正常 `ollama run`。它更像"高级玩法"——你想固定系统提示词、调温度、绑工具、做 LoRA 微调时，把配置写进文件，版本化管理，可复现、可分享。同事拿到你的 Modelfile 一条 `ollama create my-model -f Modelfile` 就能复刻你的专属模型。当作用 Dockerfile 的思路去理解就对了。
来自 GitHub、Hacker News、V2EX 的真实声音
"我是做金融数据合规的，客户资料一个字节都不能出内网。试过好几套本地方案，Ollama 是唯一一个让安全部挑不出毛病的——没外发请求、没遥测、日志全在本地。现在我们 30 多人的团队全切到它上面跑内部知识库。"
"独立开发者的神器。之前每月 OpenAI 账单 200 多刀，换 Ollama 本地跑 Llama 3.1 8B 之后成本归零。M2 MacBook Air 16GB 上 7B 模型约 10 tok/s，写文案、做摘要够用。代码基本不用改，改个 URL 就行。"
"教学生用 LLM 不用再申请 API key、担心超额。让每人装 Ollama，作业模板用 Modelfile 分发，保证大家模型配置一致。从 Python 到 Go 到 Rust 调用都很直接，是我们课程的最佳入门路径。"