Nous Research 的 Hermes Desktop 一键装好本地模型：读硬件、选构建、安装包自带 llama.cpp
Nous Research 的开源智能体应用 Hermes Desktop 把本地模型的安装压缩成一次点击。应用读取机器硬件，按这台机器评估目录里的每个模型，下载合适的那个，并自行配置 llama.cpp 运行时。该功能在首次启动时自动出现，也可在设置的服务商一栏中打开。
Nous Research 开源智能体框架 Hermes Agent 的 Mac、Windows 和 Linux 应用 Hermes Desktop，现在一键就能装好本地模型。据该公司 9 月 3 日在官方 X 账号发布的消息，应用会自动读取硬件，挑选最合适的模型，然后下载并配置运行时。设置界面首次启动时自动出现，也可从设置的服务商（Providers）一栏打开；本地模型在那里与 Nous Portal、OpenRouter、OpenAI 和自有端点并列为服务商选项。
它怎么选模型
据本地模型文档，目录里每个模型下载前都会按机器评估并标色：绿色可完全在 GPU 显存中运行，黄色会溢出到系统内存、速度变慢，红色则装不下。每个模型列出下载体积、起始和最大上下文窗口。
文档的选择规则是：Hermes 选取能完全在 GPU 上运行的最高质量构建；内存较少的机器拿到同一模型的更小构建。下限是 4 位量化，Nous Research 不再往下，认为质量损失过大。
运行时与上下文
安装包附带与硬件匹配的 llama.cpp 构建，体积几百兆字节，后端覆盖 CUDA、Metal、Vulkan、HIP 和 CPU。版本固定在 config.yaml 的 local_runtime 块中，更新由应用自行校验。
推荐模型保证至少 64K 上下文窗口；上下文起步于能放进 GPU 的大小，随对话变长增至模型原生上限。溢出时先把专家权重移到内存，注意力缓存从不外溢。到最大窗口才启动对话压缩。空闲模型 15 分钟后卸载出内存。
平台与许可
应用支持 macOS 12 及以上、Windows 10 和 11 以及各 Linux 发行版，采用 MIT 许可，免费开源；本地模型不需要账号。
对企业读者而言
在机构内部跑数据不出门的智能体，安装这一侧变容易了：模型、量化、上下文大小都交给应用。但有两个边界：“最佳模型”取决于 Nous Research 的目录及其标准，机构应自行验证；文档也未列出目录里有哪些模型。
来源
- 发布消息：Nous Research 的 X 帖子，9 月 3 日：x.com/NousResearch/status/2095602995874410664
- 文档：本地模型：hermes-agent.nousresearch.com/docs/user-guide/local-models
- 下载：hermes-agent.nousresearch.com/desktop
- 源码：github.com/NousResearch/hermes-agent
