用 Ollama + Hermes 打造本地 AI Agent：私密、免費、12 種用途

用 Ollama 與 Hermes 讓一個夠強的 AI Agent 完全跑在你自己的電腦上——資料不離開電腦，也不用按次付費。這篇走完整個本地架設流程，以及 12 種日常實用的用法。

打造本地 AI Agent 的三步驟

1. 安裝執行引擎 — Ollama。 Ollama 是目前最通用的本地大型語言模型執行引擎。到 Ollama 官網下載對應你系統（Mac、Windows 或 Linux）的安裝檔並安裝。
2. 依你的記憶體挑選並下載核心模型。 依電腦記憶體大小選擇模型規模，再到 Ollama 下載（例如 Qwen 2.5 14B）。
3. 安裝 Hermes 並指向 Ollama。 安裝 Hermes Agent 桌面版，打開 Setting → Model，供應商選 Ollama，選擇你剛下載的本地模型，按 Apply。確認主畫面底部已切換成你的本地模型——之後就能免費使用。

依你的機器選模型

• 8 GB 記憶體 — 輕量小模型（大約 Qwen 7B）。
• 16 GB 記憶體（主流配置） — DeepSeek 14B、Qwen 14B，或 Llama 系列。
• 24 GB / 64 GB 記憶體 — 可流暢跑更大參數的高階模型。

兩個省下麻煩的設定小訣竅

• 別用猜的——直接問。 與其照抄網路上的固定推薦，不如把你電腦的完整規格貼給任何雲端 AI（ChatGPT、Claude、Gemini），問它用 Ollama + Hermes 該跑哪個本地模型。照它建議的規模下載，體驗最順。
• 把上下文視窗設成 64K。 在 Ollama 下載好模型後，到設定裡把 Context Window 調到 64K。這是硬性要求——上下文設太小，Hermes 在處理複雜或多輪任務時可能會報錯或斷線。

本地 Agent 的 12 種實用用途

1. 自動競品監測 — 定時抓取 Reddit 與網頁討論，整理成差異化報告。
2. 多語言批次行銷文案 — 零單次 Token 成本，大量在地化行銷內容。
3. 完全離線工作 — 在飛機上或任何沒網路的地方查資料、做事。
4. 個人化批次郵件草稿 — 針對不同收件人用不同語氣。
5. 全天候私人知識庫 — 匯入 Obsidian、Notion 與 PDF 筆記；答案不離開你的電腦。
6. 多 Agent 腦力激盪 — 同時讓工程師、產品經理、市場專家角色互相辯論。
7. 自動整理書籤 — 抓取瀏覽器收藏並打標籤，收藏的連結不再石沉大海。
8. 個人與家庭健檢報告分析 — 私密地讀多年的健檢報告，沒有被雲端拿去訓練的風險。
9. 收件匣分類與草擬回信 — 自動分類來信，把回覆先擬進草稿等你確認。
10. 長文件深度閱讀 — 讀完數百頁的 PDF 或產業報告。
11. 多平台影片腳本改寫 — 把一份核心腳本改成各平台專用的版本。
12. Podcast 與音訊整理 — 搭配 Whisper，把雜亂的音訊轉成乾淨、有時間戳的筆記。

下載內容包含完整的步驟教學，附簡體與繁體中文。