에이전트에 대한 Copilot의 LLM 사용

Copilot의 LLM(언어 학습 모델) 정보

Copilot의 LLM(언어 학습 모델)은 코드, 설명서 및 기타 텍스트를 포함하여 다양한 범위의 데이터 원본에서 학습되는 강력한 대규모 언어 모델입니다. Copilot의 LLM은 GitHub Copilot의 기능을 뒷받침하며 코드 생성, 설명서 생성 및 코드 완성을 포함하여 모든 Copilot의 기능을 구동하는 데 사용됩니다.

Copilot의 LLM을 사용하여 에이전트에 전원을 공급하는 옵션이 있습니다. 이 옵션은 에이전트가 사용자 메시지에 대한 완성을 생성할 수 있기를 원하지만 사용자 고유의 LLM을 관리하지 않으려는 경우에 유용합니다.

에이전트에 Copilot의 LLM 사용

POST 요청으로 https://api.githubcopilot.com/chat/completions에 Copilot의 LLM 배포를 호출할 수 있습니다. 요청 및 응답은 OpenAI API와 동일한 형식이어야 합니다.

인증하려면 에이전트에 전송된 동일한 X-Github-Token 헤더를 사용합니다. 자세한 내용은 "GitHub와 통신하도록 Copilot 에이전트 구성"을(를) 참조하세요.

다음은 Blackbeard 확장에서 Copilot의 LLM 배포를 사용하여 사용자 메시지에 대한 완성을 생성하는 방법의 예입니다.

  // Use Copilot's LLM to generate a response to the user's
  //  messages, with our extra system messages attached.
  const copilotLLMResponse = await fetch(
    "https://api.githubcopilot.com/chat/completions",
    {
      method: "POST",
      headers: {
        authorization: `Bearer ${tokenForUser}`,
        "content-type": "application/json",
      },
      body: JSON.stringify({
        messages,
        stream: true,
      }),
    }
  );

전체 컨텍스트에서 이 예제를 보려면 Blackbeard 확장을 참조하세요.