一根 U 盘就能跑本地大模型：NIGHTRUN 让你的电脑跳过操作系统直接进 LLM

Fri, 07 Aug 2026 00:00:00 +0000

DeepSeek 又要涨价了，你还敢把公司代码贴进云端 LLM 吗？

昨天 The Information 爆出一条新闻：DeepSeek 计划对 API 进行"significant"级别涨价。

看到这条消息，我第一反应不是骂人。而是打开自己的 .bashrc，看了一眼里面那一串明文的 OPENAI_API_KEY、ANTHROPIC_API_KEY、DEEPSEEK_API_KEY，然后叹了口气。

云端大模型这条路，我们其实一直知道有三个"随时会被捏"的把柄：

价格：厂商说涨就涨，你连议价空间都没有
审查：Prompt 里出现敏感词，接口直接 429 或返回空
隐私：你贴进去的每一句代码、每一份财务报表，都在别人的服务器上留了副本

理性上我们都知道该"本地化"。但本地化的门槛……你懂的：装 Linux、配 CUDA、拉 Ollama、下模型、写 systemd。折腾到深夜三点，本地 LLM 终于跑通了，第二天你就发现——这台机器你还得当开发机用，装了 QQ 微信 Chrome VSCode，本地 LLM 那点内存和显存优势瞬间烟消云散。

有没有一种方案，能把"本地大模型"和"日常使用的电脑"物理隔开，又不用买第二台机器？

前天在小众软件 appinn 上刷到一个骚东西，我盯着它标题看了半分钟：

NIGHTRUN — 无需操作系统，用 U 盘启动的本地大模型客户端。

拔盘即走，插盘就跑，全程不加载任何 OS。

我以为是标题党。翻了 GitHub、翻了 CNX Software 的评测、翻了作者的技术文档。

不是标题党。是真骚。

什么叫"不加载操作系统"

先摆事实。NIGHTRUN 的 GitHub 仓库地址是 github.com/hardrave/NIGHTRUN，MIT 协议，Rust 写的，星标数还不高（毕竟是 8 月 6 日刚在 appinn 首发的新玩意），但技术设计非常猛。

它的工作方式，一句话概括：

一个 UEFI 应用（BOOTAA64.EFI）直接从 U 盘启动，读取量化模型加载进内存，然后把磁盘"封印"，进入聊天界面。

UEFI on softon.top

一根 U 盘就能跑本地大模型：NIGHTRUN 让你的电脑跳过操作系统直接进 LLM

DeepSeek 又要涨价了，你还敢把公司代码贴进云端 LLM 吗？

什么叫"不加载操作系统"