https://softon.top/tags/api-%E8%B4%B9%E7%94%A8/ Recent content in API 费用 on softon.top Hugo zh-CN Wed, 16 Sep 2026 00:00:00 +0000 https://softon.top/ai/otis-local-agent-vs-cloud-api-rmb-cost-ledger/ Wed, 16 Sep 2026 00:00:00 +0000 https://softon.top/ai/otis-local-agent-vs-cloud-api-rmb-cost-ledger/ <p>前阵子 Show HN 上一个叫 <strong>Otis</strong> 的开源项目很对我的胃口：一个极简 AI Agent，安装时根据你的硬件自动推荐本地模型、自动下载、直接跑起来，还能接 Ollama、LM Studio、Nvidia PAIR。官方口径是&quot;隐私优先、开箱即用&quot;。</p> <p>听着很美。但&quot;开箱即用&quot;四个字背后藏着一笔账：<strong>你的电费、显卡折旧、模型维护、没 SLA 的风险，全算你自己头上</strong>。</p> <p>所以我决定不动手装，先把账算完。本文用人民币口径，把本地自托管和云端 API 两条路三年的总成本拆开对一遍，看看&quot;本地=省钱&quot;这个直觉到底站不站得住。</p> <blockquote> <p><strong>TL;DR</strong></p> <ul> <li>个人消费级（RTX 4090）本地月成本约 <strong>¥749</strong>，只有日均 token 量超过 200-300 万才可能比 OpenAI 系 API 便宜</li> <li>托管开源 API（DeepInfra/Groq/Together 这一档）约 <strong>¥0.65-0.79/百万 token</strong>，是个人本地自托管之前的正确中间站</li> <li>企业级自托管（2×A100）月成本约 <strong>¥8700</strong>，三年 ¥31 万+，盈亏点推到日均 1500-2000 万 token，个人根本碰不到</li> <li>本地部署的真实成本 = 硬件摊销 + 电费 + 维护 + 无 SLA，隐藏成本吃硬件摊销的 20%-40%，很多人第一年会算错</li> <li>Otis 这类工具的价值不在省钱，在于<strong>把本地 Agent 的启动门槛从&quot;折腾一周&quot;压到&quot;点一下安装&quot;</strong>，适不适合你取决于你的 token 量和隐私需求</li> </ul> </blockquote> <h2 id="为什么本地省钱是错觉">为什么&quot;本地=省钱&quot;是错觉？ </h2><p>先摆一个最反直觉的事实：<strong>本地 LLM 的标价是 0 元/百万 token，但这不是 0 成本，是成本被摊到你自己的硬件和电费里了</strong>。</p> <p>云端 API 的商业模式是：你按 token 付钱，我负责 GPU、冷却、运维、SLA。你付的钱里已经包含了这些成本，还带了利润。</p>