用 Ollama + Hermes 打造本地 AI Agent:私密、免费、12 种用途
2026-07-17 ollamalocal-aihermes
用 Ollama 与 Hermes 让一个够强的 AI Agent 完全跑在你自己的电脑上——数据不离开电脑,也不用按次付费。这篇走完整个本地搭建流程,以及 12 种日常实用的用法。
打造本地 AI Agent 的三步骤
- 安装运行引擎 — Ollama。 Ollama 是目前最通用的本地大型语言模型运行引擎。到 Ollama 官网下载对应你系统(Mac、Windows 或 Linux)的安装包并安装。
- 按你的内存挑选并下载核心模型。 按电脑内存大小选择模型规模,再到 Ollama 下载(例如 Qwen 2.5 14B)。
- 安装 Hermes 并指向 Ollama。 安装 Hermes Agent 桌面版,打开 Setting → Model,供应商选 Ollama,选择你刚下载的本地模型,按 Apply。确认主界面底部已切换成你的本地模型——之后就能免费使用。
按你的机器选模型
- 8 GB 内存 — 轻量小模型(大约 Qwen 7B)。
- 16 GB 内存(主流配置) — DeepSeek 14B、Qwen 14B,或 Llama 系列。
- 24 GB / 64 GB 内存 — 可流畅跑更大参数的高阶模型。
两个省下麻烦的设置小窍门
- 别用猜的——直接问。 与其照抄网上的固定推荐,不如把你电脑的完整规格贴给任何云端 AI(ChatGPT、Claude、Gemini),问它用 Ollama + Hermes 该跑哪个本地模型。按它建议的规模下载,体验最顺。
- 把上下文窗口设成 64K。 在 Ollama 下载好模型后,到设置里把 Context Window 调到 64K。这是硬性要求——上下文设太小,Hermes 在处理复杂或多轮任务时可能会报错或断线。
本地 Agent 的 12 种实用用途
- 自动竞品监测 — 定时抓取 Reddit 与网页讨论,整理成差异化报告。
- 多语言批量营销文案 — 零单次 Token 成本,大量本地化营销内容。
- 完全离线工作 — 在飞机上或任何没网络的地方查资料、做事。
- 个性化批量邮件草稿 — 针对不同收件人用不同语气。
- 全天候私人知识库 — 导入 Obsidian、Notion 与 PDF 笔记;答案不离开你的电脑。
- 多 Agent 头脑风暴 — 同时让工程师、产品经理、市场专家角色互相辩论。
- 自动整理书签 — 抓取浏览器收藏并打标签,收藏的链接不再石沉大海。
- 个人与家庭体检报告分析 — 私密地读多年的体检报告,没有被云端拿去训练的风险。
- 收件箱分类与草拟回信 — 自动分类来信,把回复先拟进草稿等你确认。
- 长文档深度阅读 — 读完数百页的 PDF 或行业报告。
- 多平台视频脚本改写 — 把一份核心脚本改成各平台专用的版本。
- 播客与音频整理 — 搭配 Whisper,把杂乱的音频转成干净、有时间戳的笔记。
下载内容包含完整的步骤教程,附简体与繁体中文。
/downloads
这支视频的文件
留 Email 即免费获取——一次注册即可解锁资源库里的所有文件。