两个月前,Nous Research 开源了 Hermes Agent,GitHub 星标已经从0飙到3.4万。
这不是又一个"把 ChatGPT 包装成 API"的项目。Hermes 住在你的服务器上,有持久记忆,会自己写技能卡片,越用越聪明。
但真正让我停下来的,是 Reddit 上一个帖子——有人用 Hermes Agent + FreeLLMAPI 搭了一个完全自托管的 WhatsApp AI 助手,月费$0。
零。不是"几乎零",不是"前三年免费"。是真的$0。
这个架构到底怎么工作的
先说结论:
WhatsApp → 自定义桥接 → Hermes Agent → FreeLLMAPI → 16个免费LLM提供商
整个链路跑在一台 Oracle Cloud Free Tier 服务器上。
你往自己的 WhatsApp 号码发消息,消息经过桥接层到达 Hermes Agent。Hermes 用自己的持久记忆处理上下文,然后把请求发给 FreeLLMAPI。FreeLLMAPI 自动选择当前可用的最佳免费模型,返回结果,Hermes 整理后发回 WhatsApp。
没有 OpenAI API Key。没有 Anthropic 订阅。没有 Groq 付费计划。
16个免费提供商的聚合,大约每月17亿token的免费额度。
Hermes Agent 到底是什么
Hermes Agent 是 Nous Research 在2026年2月发布的开源自主AI Agent框架。Nous 之前做过 Hermes 系列模型(3B、8B、70B、405B),但 Hermes Agent 是完全不同的东西——它不是一个模型,而是一个运行时环境。
它的核心卖点有两个:
第一,持久记忆。 大多数 AI 助手每次对话都是白纸一张。Hermes 在本地存储 ~/.hermes/ 下的所有记忆数据,跨会话累积上下文。你告诉它"我喜欢用 Neovim",三个月后它还记得。
第二,自主学习循环。 完成复杂任务后,Hermes 会自动将执行经验提炼成可重用的"技能卡片"。用久了,它越来越懂你的工作习惯。
支持的平台包括 CLI、Telegram、Discord、Slack、WhatsApp、Signal、Matrix、Mattermost、Email、SMS、钉钉、飞书、企业微信等16+个渠道。同一个 Agent 实例,多个入口。
它支持任意 LLM 后端——OpenAI、Anthropic、DeepSeek、Nous Portal、OpenRouter(200+模型),或者你自己的本地端点。
FreeLLMAPI:把免费额度榨干的代理层
FreeLLMAPI 是另一个开源项目,GitHub 星标4400+,MIT 协议。
它的功能很简单:把16+个 LLM 提供商的免费额度聚合到一个 OpenAI 兼容的 /v1/chat/completions 端点上。
支持的提供商包括:Google、Groq、Cerebras、NVIDIA、Mistral、OpenRouter、GitHub Models、Cohere、Cloudflare、Z.ai(智谱)、Ollama、Kilo、Pollinations、LLM7、OVH AI Endpoints、OpenCode Zen,以及任意自定义 OpenAI 兼容端点。
关键特性:
- 自动故障转移:一个提供商限流了,自动路由到下一个
- 用量追踪:每个 key 的免费额度消耗情况一目了然
- 密钥加密存储:API Key 加密后存数据库
- 智能路由:根据请求类型自动选择最佳可用模型
根据项目文档,所有配置的提供商加起来,理论上月免费 token 总量约17亿。
成本拆解:为什么是$0
这个方案最吸引人的地方在于,它的成本结构是真正零边际的。
服务器:Oracle Cloud Free Tier
Oracle 的永久免费套餐包括:
- 4 个 ARM Ampere A1 核心
- 24 GB RAM
- 200 GB 存储
对于一个跑 Hermes Agent + FreeLLMAPI 来说绰绰有余。Hermes 本身是 Python 进程,FreeLLMAPI 是 Node.js 服务,都不吃资源。
对比:
- AWS EC2 Free Tier:750小时/月的 t2.micro(仅12个月)
- Google Cloud Free Tier:e2-micro(仅12个月)
- Azure Free Account:750小时 B1s(仅12个月)
- Oracle Cloud Free Tier:ARM 实例永久免费
LLM API:FreeLLMAPI 聚合的16个免费提供商
不需要任何付费 API Key。每个提供商都有自己的免费额度,FreeLLMAPI 帮你自动分配请求到各个提供商。
WhatsApp:个人号码
不需要 WhatsApp Business API(那个要审核、要走商业流程)。直接用个人 WhatsApp 号码,往自己发消息就行。
总月费:$0
部署流程
1. 准备 Oracle Cloud Free Tier 账户
注册 Oracle Cloud,创建一个 ARM 实例(4核/24GB)。Ubuntu 22.04 或 24.04 都行。
2. 安装 Hermes Agent
curl -fsSL https://hermes-agent.org/install.sh | bash
hermes gateway install
安装完成后,Hermes 会以 systemd 服务形式运行。
3. 配置 WhatsApp 网关
Hermes 内置 WhatsApp 适配器。启动后扫描 QR 码绑定你的 WhatsApp 号码:
hermes gateway add --platform whatsapp
然后在手机上扫码。完成后,往自己的 WhatsApp 号码发消息就能跟 Agent 对话了。
4. 部署 FreeLLMAPI
git clone https://github.com/tashfeenahmed/freellmapi.git
cd freellmapi
npm install
配置 .env 文件,填入各个免费提供商的 API Key:
ENCRYPTION_KEY=your-encryption-key-here
DEV_MODE=false
NODE_ENV=production
然后填入你需要的所有免费 API Key(Google AI Studio、Groq、Cerebras 等都可以免费注册获取)。
5. 连接 Hermes 和 FreeLLMAPI
在 Hermes 的配置文件中指向 FreeLLMAPI 的本地端点:
LLM_BASE_URL=http://localhost:3000/v1
LLM_MODEL=auto
Hermes 会通过 FreeLLMAPI 自动选择最佳模型。
6. 启动
hermes gateway start
完成。现在你的 WhatsApp 上有了一个有记忆、能自主执行任务的 AI 助手。
踩坑记录
坑1:WhatsApp 桥接的稳定性
直接用个人 WhatsApp 号码做桥接,有一个隐性风险——WhatsApp 可能会检测到自动化行为并限制账号。
解决方案:
- 不要高频发消息(每小时不超过50条)
- 使用专门的 SIM 卡(卫星号码)
- 避免在消息中包含明显模板化的内容
有实践者用了德国卫星号码,运行数月无问题。
坑2:FreeLLMAPI 的提供商限流
虽然 FreeLLMAPI 有自动故障转移,但某些提供商(尤其是 Google AI Studio 和 Groq)的免费额度限制比较严格。如果你的使用量超过了某个提供商的阈值,FreeLLMAPI 会切换到备用提供商,但响应速度可能下降。
监控建议:在 FreeLLMAPI 的管理面板中定期检查各提供商的用量情况。
坑3:Hermes Agent 的上下文窗口
Hermes 的默认上下文窗口较小(64K tokens),对于长对话场景可能需要调整配置。在 ~/.hermes/config.yaml 中可以修改:
context_window: 128000
memory_retention_days: 30
坑4:系统服务权限
Hermes 以 systemd 服务运行,需要注意文件权限。特别是 ~/.hermes/ 目录下的记忆数据,确保 Hermes 进程有读写权限:
sudo chown -R hermes:hermes ~/.hermes
sudo systemctl daemon-reload
sudo systemctl restart hermes-agent
和其他方案对比
方案1:ChatGPT + WhatsApp 官方 API
成本:ChatGPT Plus $20/月 + WhatsApp Business API 按会话收费 优点:稳定、成熟 缺点:月费不低,没有持久记忆,数据在 OpenAI 服务器上
方案2:OpenClaw + OpenAI API
成本:服务器费用 + OpenAI API 费用(约$5-20/月) 优点:生态最大,插件丰富 缺点:需要付费 API Key,LLM 费用随使用量增长
方案3:本地 Ollama + WhatsApp 桥接
成本:服务器费用(需要 GPU) 优点:完全离线,隐私最好 缺点:需要 GPU 硬件,推理速度慢,模型质量不如云端
方案4:Hermes Agent + FreeLLMAPI(本文方案)
成本:$0 优点:零成本、持久记忆、多平台支持、自动故障转移 缺点:免费提供商的质量参差不齐,需要自己维护
这个方案适合谁
适合:
- 个人开发者,想搭一个私人 AI 助手但不想付费
- 对数据隐私敏感,希望所有数据留在自己服务器上
- 喜欢折腾技术,享受 DIY 的乐趣
- 需要多平台接入(WhatsApp + Telegram + Discord 等)
不适合:
- 需要企业级 SLA 的生产环境
- 不想维护基础设施的用户
- 对模型质量要求极高的场景(免费模型的智能水平有限)
后续扩展
这个架构的可扩展性很强:
- 添加 MCP 支持:让 Agent 能调用外部工具(日历、邮件、数据库)
- RAG 知识库:接入向量数据库,让 Agent 能回答你私有文档中的问题
- 语音支持:通过 TTS/STT 实现语音对话
- 多 Agent 协作:Hermes 支持子 Agent 并行工作,可以拆分复杂任务
- 自定义技能:基于 Hermes 的学习循环,让 Agent 自己生成和优化技能卡片
总结
Hermes Agent + FreeLLMAPI 的组合,是目前个人开发者能找到的性价比最高的自托管 AI Agent 方案。
$0 的月费意味着你可以毫无负担地折腾——试错成本为零。即使最终不满意,你损失的时间远小于付费方案的金钱成本。
更重要的是,这个架构让你理解了 AI Agent 的完整工作原理:消息路由、LLM 调用、记忆管理、技能演化。当你亲手搭过一次之后,再看那些 SaaS AI 产品,会觉得"不过如此"。
代码是逻辑的诗。这个$0的架构,就是最朴素也最美的那首。
相关链接: