GitHub Copilot在Windows上支持本地模型,HydraFusion统筹端云

微软和 GitHub 宣布,Windows 上的编程助手 GitHub Copilot 可以使用在电脑本机运行的模型。GitHub 用于把任务分配给合适模型的 HydraFusion 系统,今后除了云端模型,也能调用本地模型。智能体执行的命令将在名为 Microsoft Execution Containers 的隔离环境中运行。

Paylaş
GitHub Copilot在Windows上支持本地模型,HydraFusion统筹端云

微软和 GitHub 于 2026 年 10 月 7 日宣布,Windows 上的编程助手 GitHub Copilot 可以使用本地模型,也就是直接在电脑上运行的模型。此次公告的核心是 GitHub 的 HydraFusion。它是今年早些时候加入 Copilot 的路由层,会把每项任务分配给最合适的云端模型;根据微软的公告,它今后也能调用在设备上运行的模型。

这样做的目的是让一部分编程工作在电脑上完成而无需发送到网上,把云端用量留给真正需要的任务。微软把这种方式称为"混合智能":智能体在合适时于本地运行,需要时再使用云端。该功能将进入 GitHub Copilot 应用、Copilot CLI 和 Visual Studio Code。

两种使用本地模型的方式

根据微软 Command Line 博客上的技术文章,本地模型有两种用法。在自动路由模式下,Copilot 会针对每项任务自行判断在设备上还是在云端处理,预计在 10 月底前推出。在显式选择模式下,开发者自己指定某个本地模型:通过 Windows ML 运行的 MAI Code 1.1 Flash,或任何兼容 OpenAI 接口的本地端点。第二种方式让用 llama.cpp 等工具自建服务器的开发者也能把自己的模型接入 Copilot。文章还指出,即使使用本地推理,会话也并非完全离线。

HydraFusion 会为每个请求选择三种执行方式之一:交给单个模型处理;先由更便宜、更快的模型起草,若未通过质量检查再交给更强的模型;或者让另一模型家族的模型审阅第一个模型的草稿,再据此修改一次。根据 GitHub 社区页面的说明,HydraFusion 只使用用户套餐和所在机构允许的模型;它本身不单独收费,调用的每个模型按其标准价格计费。

在设备上运行的模型

微软重点介绍的本地模型是其编程模型 MAI Code 1.1 Flash。据该公司介绍,该模型总参数 1370 亿、每步激活 68 亿;设备版本被压缩到每个权重约 3.3 位,体积降至 53 GB,并在本地保留 25.6 万 token 的上下文。在微软给出的对比中,压缩后的本地版本在 SWE-Bench Verified 上的成绩接近云端版本,在 Terminal-Bench 2.1 上略高。公告还提到 NVIDIA 即将推出的 Nemotron 模型和 DeepSeek V4 Flash 也属于本地可选模型。

这种规模的模型需要强大的硬件。微软举例的设备是搭载 NVIDIA RTX Spark、统一内存最高 128 GB 的 Surface Laptop Ultra;据该公司介绍,MAI Code 1.1 Flash 在该设备上以 25.6 万 token 上下文运行时,内存峰值为 75.5 GB。华硕、戴尔、惠普、联想、微星和 Surface 的 RTX Spark 电脑将于 10 月 16 日开售。Windows ML 也在加入对 llama.cpp 的支持。

智能体在隔离环境中运行

让本地智能体在电脑上执行命令会带来安全问题。为此,微软采用了已在 Windows 11 上全面推出的 Microsoft Execution Containers(MXC)。MXC 是一个开源库,会把"智能体可以访问哪些文件和网络"的规则转换为操作系统自身的管控。在 Copilot 中开启沙箱后,shell 命令以及默认情况下的本地 MCP 服务器都会在这一边界内运行。在 CLI 中可用 /sandbox 命令开启,在 Copilot 应用中可在项目设置里打开"Sandbox new sessions"。据微软介绍,支持 MXC 的智能体包括 OpenAI 的 Codex、GitHub Copilot、OpenClaw、Replit、LM Studio 和 Unsloth AI,Anthropic 的 Claude Code 和 Perplexity 也在加入支持。

自动路由预计以实验性预览形式推出,而且正如微软所说,本地模型的表现会因设备和配置而异。公布的测试结果来自微软,大型本地模型只有在内存充足的新一代电脑上才能流畅运行。最好先在自己的代码库中测试本地模型的效果。想更全面地了解,值得关注独立研究人员的评估。

来源:Windows Experience Blog:Building Windows for hybrid intelligence、Microsoft Command Line:Bringing local models and sandboxed tools to Windows and GitHub Copilot、GitHub 社区:HydraFusion。

Devamını oku

Mistral تطلق نموذج Voxtral مفتوحا لتحويل الكلام العربي إلى نص فوريا

Mistral تطلق نموذج Voxtral مفتوحا لتحويل الكلام العربي إلى نص فوريا

أطلقت Mistral AI نموذج Voxtral Mini 4B Realtime Arabic الذي يحول الكلام بالعربية ولهجاتها إلى نص في الوقت الفعلي، بترخيص Apache 2.0. وإلى جانبه نموذج LIDstral Arabic الذي يحدد لهجة النص المكتوب بالحروف العربية أو لغته. وقد طُوّر النموذجان بالتعاون مع وزارة الانتقال الرقمي المغربية.

GlobalFeed Editor tarafından