# 将 LLM 模型添加到 GitHub Copilot 应用

从所选的外部提供商（托管在本地或云中）连接模型。

> [!NOTE]
> 在GitHub Copilot app中支持使用您自己的模型提供程序这一功能处于公开预览阶段，且可能会发生变化。

除了 GitHub Copilot app 提供的模型外，还可以使用“自带密钥”(BYOK) 配置 GitHub 以包含所选 LLM 提供程序中的模型。 您可以在首次打开应用时设置模型提供商，也可以稍后在应用设置中进行设置。

配备 NVIDIA GPU 且内存充足的 Windows 用户可以在其设备上本地安装 GitHub Copilot app 和 MAI Code 1.1 Flash 模型，并直接在 Flint NVFP4 中进行安装。

您必须使用 GitHub 帐户登录才能使用该应用，但如果您使用自己的模型提供方，则不需要 Copilot 套餐。 如果确实订阅了 Copilot 套餐，则可以在同一应用中使用自己的模型提供程序中的模型和 GitHub 提供的模型。

> [!NOTE]
> 本文介绍如何配置自定义模型供自己使用。 若要为组织或企业中的用户设置自定义模型，请参阅 [在你的组织中为 GitHub Copilot 启用自定义模型](/zh/copilot/how-tos/administer-copilot/manage-for-organization/enable-custom-models) 和 [在企业中为 GitHub Copilot 启用自定义模型](/zh/copilot/how-tos/administer-copilot/manage-for-enterprise/enable-custom-models)。

## 使用 BYOK 添加模型

可以使用 BYOK 方法将模型添加到 GitHub Copilot app。

### 支持的提供程序

GitHub Copilot app 支持以下 BYOK 模型提供程序：

* OpenAI
* Azure OpenAI
* Microsoft Foundry
* Anthropic
* Ollama
* 本地铸造厂
* LM Studio
* 任何与 OpenAI 兼容的 HTTP 终结点

### 先决条件

必须具有 API 密钥才能添加需要身份验证的模型提供程序。

### 设置模型提供商

如果你是第一次配置该应用，并且还没有 Copilot 计划，则可以选择在引导设置过程中自行配置模型提供方。

若要在以后添加或更新模型提供程序，请执行以下操作：

1. 单击 <span style="vertical-align: 2px"><svg version="1.1" width="16" height="16" viewBox="0 0 16 16" class="octicon octicon-gear" aria-label="Settings" role="img"><path d="M8 0a8.2 8.2 0 0 1 .701.031C9.444.095 9.99.645 10.16 1.29l.288 1.107c.018.066.079.158.212.224.231.114.454.243.668.386.123.082.233.09.299.071l1.103-.303c.644-.176 1.392.021 1.82.63.27.385.506.792.704 1.218.315.675.111 1.422-.364 1.891l-.814.806c-.049.048-.098.147-.088.294.016.257.016.515 0 .772-.01.147.038.246.088.294l.814.806c.475.469.679 1.216.364 1.891a7.977 7.977 0 0 1-.704 1.217c-.428.61-1.176.807-1.82.63l-1.102-.302c-.067-.019-.177-.011-.3.071a5.909 5.909 0 0 1-.668.386c-.133.066-.194.158-.211.224l-.29 1.106c-.168.646-.715 1.196-1.458 1.26a8.006 8.006 0 0 1-1.402 0c-.743-.064-1.289-.614-1.458-1.26l-.289-1.106c-.018-.066-.079-.158-.212-.224a5.738 5.738 0 0 1-.668-.386c-.123-.082-.233-.09-.299-.071l-1.103.303c-.644.176-1.392-.021-1.82-.63a8.12 8.12 0 0 1-.704-1.218c-.315-.675-.111-1.422.363-1.891l.815-.806c.05-.048.098-.147.088-.294a6.214 6.214 0 0 1 0-.772c.01-.147-.038-.246-.088-.294l-.815-.806C.635 6.045.431 5.298.746 4.623a7.92 7.92 0 0 1 .704-1.217c.428-.61 1.176-.807 1.82-.63l1.102.302c.067.019.177.011.3-.071.214-.143.437-.272.668-.386.133-.066.194-.158.211-.224l.29-1.106C6.009.645 6.556.095 7.299.03 7.53.01 7.764 0 8 0Zm-.571 1.525c-.036.003-.108.036-.137.146l-.289 1.105c-.147.561-.549.967-.998 1.189-.173.086-.34.183-.5.29-.417.278-.97.423-1.529.27l-1.103-.303c-.109-.03-.175.016-.195.045-.22.312-.412.644-.573.99-.014.031-.021.11.059.19l.815.806c.411.406.562.957.53 1.456a4.709 4.709 0 0 0 0 .582c.032.499-.119 1.05-.53 1.456l-.815.806c-.081.08-.073.159-.059.19.162.346.353.677.573.989.02.03.085.076.195.046l1.102-.303c.56-.153 1.113-.008 1.53.27.161.107.328.204.501.29.447.222.85.629.997 1.189l.289 1.105c.029.109.101.143.137.146a6.6 6.6 0 0 0 1.142 0c.036-.003.108-.036.137-.146l.289-1.105c.147-.561.549-.967.998-1.189.173-.086.34-.183.5-.29.417-.278.97-.423 1.529-.27l1.103.303c.109.029.175-.016.195-.045.22-.313.411-.644.573-.99.014-.031.021-.11-.059-.19l-.815-.806c-.411-.406-.562-.957-.53-1.456a4.709 4.709 0 0 0 0-.582c-.032-.499.119-1.05.53-1.456l.815-.806c.081-.08.073-.159.059-.19a6.464 6.464 0 0 0-.573-.989c-.02-.03-.085-.076-.195-.046l-1.102.303c-.56.153-1.113.008-1.53-.27a4.44 4.44 0 0 0-.501-.29c-.447-.222-.85-.629-.997-1.189l-.289-1.105c-.029-.11-.101-.143-.137-.146a6.6 6.6 0 0 0-1.142 0ZM11 8a3 3 0 1 1-6 0 3 3 0 0 1 6 0ZM9.5 8a1.5 1.5 0 1 0-3.001.001A1.5 1.5 0 0 0 9.5 8Z"></path></svg></span> 以打开“设置”对话框。
2. 在边栏中，单击“ **模型提供程序**”。
3. 单击“ **添加提供程序**”。
4. 选择你的提供商。
5. 输入提供方详细信息。 这因提供程序而异，但可能包括显示名称、基 URL 和 API 密钥。
6. 单击 **“添加提供程序** ”保存提供程序。

添加提供程序后，其模型会与 GitHub 托管的模型一起显示在模型选择器中。 您可以选择该模型并在会话中使用它。 有关详细信息，请参阅“[在 GitHub Copilot 应用中使用代理会话](/zh/copilot/how-tos/github-copilot-app/agent-sessions)”。

提供程序凭据存储在系统凭据存储中，永远不会显示在 UI 中。

## 从模型选取器安装本地模型

> [!NOTE]
> 此功能处于 公开预览 阶段，并且可能会发生变化。可以通过转到应用设置的“实验性”部分，并在“代理”下关闭**Windows ML 本地模型**选项来禁用此功能。
>
> 若要启用 Copilot Fusion 使用本地模型，必须在应用设置的“实验性”部分中打开“**本地模型自动路由**”选项。

如果使用 Windows，并且计算机满足以下先决条件，则可以从应用的设置中在本地下载并安装以下模型：

* MAI Code 1.1 Flash
* Flint NVFP4

### Prerequisites

您必须具备：

* Windows电脑

* 需要 NVIDIA GPU（不支持 AMD）

* 每个模型的最低可用总 RAM：

  * **MAI Code 1.1 Flash：**  96 GB
  * **Flint NVFP4：**  48 GB

* 每个模型的最低可用存储空间：

  * **MAI Code 1.1 Flash：**  60 GB
  * **Flint NVFP4：**  23 GB

* 已安装 llama.cpp v0.7.0 或更高版本，并将 `LLAMACPP_SERVER_PATH` 设置为其安装路径。 所需的构建版本：

  * **MAI Code 1.1 Flash：** [b11669](https://github.com/ggml-org/llama.cpp/releases/tag/b11669?utm_source=local-model-prereq-mai-code\&utm_medium=docs\&utm_campaign=universe-2026) 或更高版本
  * **Flint NVFP4：** [b11803](https://github.com/ggml-org/llama.cpp/releases?q=flint\&expanded=true\&utm_source=local-model-prerequisite-flint\&utm_medium=docs\&utm_campaign=universe-2026#release-b11803) 或更高版本

  请参阅[安装Windows llama.cpp](#installing-llamacpp-for-windows)。

### 在本地使用 MAI Code 1.1 Flash 的好处

MAI Code 1.1 Flash是一种编码优化模型，可在Windows电脑上本地运行。 通过使用在本地运行的模型，即可离线使用 Copilot 并避免消耗 GitHub AI Credits。

安装 MAI Code 1.1 Flash后，可以从模型选取器中选择它，就像任何其他模型一样。 该模型也可用于 Copilot Fusion 的 Fusion Standard 工作量级别。 当你将模型选择设置为 **Copilot Fusion** 并使用 Fusion Standard 时，MAI Code 1.1 Flash 将被自动选中来处理适当的任务，为需要更多资源或更高性能的任务保留基于云的模型。

### 安装用于Windows的llama.cpp

若要在 Windows 上安装使用 CUDA 构建版本的 llama.cpp：

1. 在浏览器中，转到llama.cpp存储库的发布页： [https://github.com/ggml-org/llama.cpp/releases](https://github.com/ggml-org/llama.cpp/releases?utm_source=llama-windows-install-cta\&utm_medium=docs\&utm_campaign=universe-2026)

2. 选择要安装的版本，例如 [b11803](https://github.com/ggml-org/llama.cpp/releases?q=flint\&expanded=true\&utm_source=local-model-prerequisite-flint\&utm_medium=docs\&utm_campaign=universe-2026#release-b11803)。

3. 单击链接下载适用于 Windows CUDA 13.4 ARM64 版本的这两个文件：

   * Windows arm64 （CUDA 13）
   * CUDA 13.4 DLLs

4. 打开命令提示符并创建安装文件夹：

   ```shell copy
   mkdir "%LOCALAPPDATA%\Programs\llama.cpp\BUILD-cuda-13.4-arm64"
   ```

   替换 `BUILD` 版本号，例如 `b11803`。

5. 将这两个 ZIP 文件中的所有文件直接提取到此文件夹中。 如果使用文件资源管理器中的 **“全部提取”**，请将目标更改为此文件夹，因为默认情况下，文件资源管理器会为每个 ZIP 文件创建单独的子文件夹。 完成后，文件夹应包含大量文件，包括 `llama-server.exe`、`cudart64_13.dll`、`cublas64_13.dll` 和 `cublasLt64_13.dll`，且不包含子文件夹。

6. `LLAMACPP_SERVER_PATH`设置环境变量：

   ```shell copy
   setx LLAMACPP_SERVER_PATH "%LOCALAPPDATA%\Programs\llama.cpp\BUILD-cuda-13.4-arm64\llama-server.exe"
   ```

   正在替换 `BUILD` 版本号。

7. 关闭命令提示符并打开新的命令提示符窗口。 如果 Copilot app 或 VS Code 已经打开，请重新启动它。 如果 Copilot CLI 正在运行，请退出它，并从新的终端窗口中再次启动它。

8. 要检查安装情况，请运行：

   ```shell copy
   "%LLAMACPP_SERVER_PATH%" --list-devices
   ```

### 在  中安装本地模型

1. 单击 <span style="vertical-align: 2px"><svg version="1.1" width="16" height="16" viewBox="0 0 16 16" class="octicon octicon-gear" aria-label="Settings" role="img"><path d="M8 0a8.2 8.2 0 0 1 .701.031C9.444.095 9.99.645 10.16 1.29l.288 1.107c.018.066.079.158.212.224.231.114.454.243.668.386.123.082.233.09.299.071l1.103-.303c.644-.176 1.392.021 1.82.63.27.385.506.792.704 1.218.315.675.111 1.422-.364 1.891l-.814.806c-.049.048-.098.147-.088.294.016.257.016.515 0 .772-.01.147.038.246.088.294l.814.806c.475.469.679 1.216.364 1.891a7.977 7.977 0 0 1-.704 1.217c-.428.61-1.176.807-1.82.63l-1.102-.302c-.067-.019-.177-.011-.3.071a5.909 5.909 0 0 1-.668.386c-.133.066-.194.158-.211.224l-.29 1.106c-.168.646-.715 1.196-1.458 1.26a8.006 8.006 0 0 1-1.402 0c-.743-.064-1.289-.614-1.458-1.26l-.289-1.106c-.018-.066-.079-.158-.212-.224a5.738 5.738 0 0 1-.668-.386c-.123-.082-.233-.09-.299-.071l-1.103.303c-.644.176-1.392-.021-1.82-.63a8.12 8.12 0 0 1-.704-1.218c-.315-.675-.111-1.422.363-1.891l.815-.806c.05-.048.098-.147.088-.294a6.214 6.214 0 0 1 0-.772c.01-.147-.038-.246-.088-.294l-.815-.806C.635 6.045.431 5.298.746 4.623a7.92 7.92 0 0 1 .704-1.217c.428-.61 1.176-.807 1.82-.63l1.102.302c.067.019.177.011.3-.071.214-.143.437-.272.668-.386.133-.066.194-.158.211-.224l.29-1.106C6.009.645 6.556.095 7.299.03 7.53.01 7.764 0 8 0Zm-.571 1.525c-.036.003-.108.036-.137.146l-.289 1.105c-.147.561-.549.967-.998 1.189-.173.086-.34.183-.5.29-.417.278-.97.423-1.529.27l-1.103-.303c-.109-.03-.175.016-.195.045-.22.312-.412.644-.573.99-.014.031-.021.11.059.19l.815.806c.411.406.562.957.53 1.456a4.709 4.709 0 0 0 0 .582c.032.499-.119 1.05-.53 1.456l-.815.806c-.081.08-.073.159-.059.19.162.346.353.677.573.989.02.03.085.076.195.046l1.102-.303c.56-.153 1.113-.008 1.53.27.161.107.328.204.501.29.447.222.85.629.997 1.189l.289 1.105c.029.109.101.143.137.146a6.6 6.6 0 0 0 1.142 0c.036-.003.108-.036.137-.146l.289-1.105c.147-.561.549-.967.998-1.189.173-.086.34-.183.5-.29.417-.278.97-.423 1.529-.27l1.103.303c.109.029.175-.016.195-.045.22-.313.411-.644.573-.99.014-.031.021-.11-.059-.19l-.815-.806c-.411-.406-.562-.957-.53-1.456a4.709 4.709 0 0 0 0-.582c-.032-.499.119-1.05.53-1.456l.815-.806c.081-.08.073-.159.059-.19a6.464 6.464 0 0 0-.573-.989c-.02-.03-.085-.076-.195-.046l-1.102.303c-.56.153-1.113.008-1.53-.27a4.44 4.44 0 0 0-.501-.29c-.447-.222-.85-.629-.997-1.189l-.289-1.105c-.029-.11-.101-.143-.137-.146a6.6 6.6 0 0 0-1.142 0ZM11 8a3 3 0 1 1-6 0 3 3 0 0 1 6 0ZM9.5 8a1.5 1.5 0 1 0-3.001.001A1.5 1.5 0 0 0 9.5 8Z"></path></svg></span> 以打开“设置”对话框。

2. 在边栏中，单击“ **模型提供程序**”。

3. 单击“ **添加提供程序**”。

4. 选择**Windows ML**。

   如果本地计算机满足先决条件，则支持的本地模型将列在“可用模型”下。

5. 单击“**下载**”以安装所需模型。

6. 使用**要使用的最大系统内存百分比**滑块来限制 Windows ML 模型可以使用的系统内存量。

7. 启用**在应用重启时重新启动模型**，以便在重启Copilot app后自动重新启动已下载的 Windows ML 模型。

8. 根据需要更改特定于模型的设置。

### 使用下载的本地模型

下载完成后，本地模型将可用于会话。

您可以选择以下任一选项：

* 从模型选取器中选择它，方式与选择任何其他可用模型相同。 请参阅“[在  中选择模型](/zh/copilot/how-tos/github-copilot-app/choose-a-model)”。
* **MAI Code 1.1 Flash 仅：** 选择 **Copilot Fusion，然后在 Fusion Standard** 模型选取器中选择工作量级别，Copilot 会在适当时自动使用此模型。
* 将其分配给 custom agent，用于专注处理任务。 然后，可以提示 Copilot 将该自定义代理用于某个任务的一部分，同时让主会话继续在云端的另一模型上运行。 请参阅“[为 GitHub Copilot CLI 创建和使用自定义智能体](/zh/copilot/how-tos/copilot-cli/customize-copilot/create-custom-agents-for-cli#delegating-focused-tasks-to-a-specific-model)”。

> [!IMPORTANT]
> 从模型选取器下载本地模型后，请不要无论是通过直接选择还是通过 Copilot Fusion，在不同Copilot界面（VS Code、Copilot CLI、Copilot app）的会话中同时使用它。 每个图面都会将该模型的一个独立实例加载到内存中，这很可能会导致本地计算机耗尽 RAM。