Ollama：在本地运行大模型，告别昂贵的API调用

如果你还在为每次调用 AI API 付费而心疼，那么 Ollama 就是你的救星。这个用 Go 语言编写的轻量级框架，让你能在自己的电脑上运行各种大语言模型，完全免费、完全离线。

Ollama 是什么？

Ollama 是一个本地大模型运行框架，支持 Llama、Mistral、Gemma、DeepSeek 等主流开源模型。你只需要几条命令，就能在个人电脑上运行数十亿参数的大模型。

GitHub 地址：https://github.com/ollama/ollama

零配置运行：一行命令下载并运行模型

广泛兼容：支持几乎所有主流开源模型

硬件优化：充分利用 GPU 加速，CPU 也能跑

API 兼容：提供兼容 OpenAI 的 API 接口

桌面应用：macOS 和 Windows 都有桌面版

所有数据都在本地处理，不需要将敏感信息发送到云端。对于企业来说，这解决了数据合规的大问题。

没有按 token 计费的压力，想用多少次就用多少次。对于高频调用场景，长期来看能节省大量成本。

不需要联网，在任何环境下都能使用 AI 能力。这对网络受限的场景尤为重要。

bash

# macOS
brew install ollama

# Linux
curl -fsSL https://ollama.com/install.sh | sh

bash

# 下载并运行 Llama 4
ollama run llama4

# 运行 DeepSeek
ollama run deepseek-v4

Ollama 启动后在本地 11434 端口提供 API：

bash

curl http://localhost:11434/api/generate -d '{
  "model": "llama4",
  "prompt": "解释什么是量子计算"
}'

Ollama 常与其他开源工具搭配使用，构建完整的本地 AI 方案：

Ollama + Open WebUI = 本地版 ChatGPT

Ollama + LangChain = 本地 AI 应用开发

Ollama + Continue = 本地 AI 编程助手

Ollama 让本地 AI 变得真正实用。对于注重隐私、控制成本或需要在离线环境使用 AI 的开发者来说，它是最值得关注的开源项目之一。

推荐指数：⭐⭐⭐⭐⭐

项目地址：https://github.com/ollama/ollama
官网：https://ollama.com