Usando as chaves de API do provedor LLM com o Copilot

Aprenda como integrar seus modelos personalizados preferidos com o GitHub Copilot usando suas próprias chaves de API do LLM e disponibilizá-las para os membros da sua organização.

Neste artigo

Observação

A capacidade de trazer suas próprias chaves de API para GitHub Copilot está em versão prévia pública e é sujeita a alterações.

Você pode trazer suas próprias chaves de API para GitHub Copilot e permitir que as equipes usem seus provedores de modelo de linguagem grande (LLM) preferidos com Chat GitHub Copilot.

Há suporte para chaves de API dos seguintes provedores:

  • Anthropic
  • AWS Bedrock
  • Google AI Studio
  • Microsoft Foundry
  • OpenAI
  • Provedores compatíveis com OpenAI
  • xAI

Modelos com ajustes finos também são suportados, mas a funcionalidade e a qualidade dos resultados podem variar dependendo da configuração do ajuste. Você deve testar seu modelo e examinar suas saídas cuidadosamente antes de usá-lo em produção.

Por que trazer suas próprias chaves de API?

Como proprietário de uma organização, você pode ter requisitos específicos para governança, segurança de dados e conformidade. Configurar suas próprias chaves de API permite que você resolva:

  •         **Governança e conformidade:** escolher provedores LLM em conformidade com as políticas e os requisitos regulatórios da sua organização.

  •         **Gerenciamento de custos:** alinhar-se com suas formas de pagamento, contratos, créditos ou taxas negociadas existentes e evitar excessos de uso.

  •         **Visibilidade e controle:** gerenciar quais modelos sua equipe pode acessar e monitorar o uso por meio dos painéis e cobrança existentes do seu provedor.

  •         **Flexibilidade:** dar suporte a modelos personalizados ou especializados que sua organização já usa.

Adicionando sua chave a uma conta da organização

Importante

É altamente recomendável cumprir o princípio do privilégio mínimo atribuindo apenas os escopos mínimos necessários às suas chaves de API.

Depois de adicionar sua chave e selecionar um ou mais modelos, você e os membros da sua organização poderão usá-los com Chat GitHub Copilot. Seus modelos aparecerão na parte inferior do seletor de modelos, sob o nome da organização.

  1. No canto superior direito de GitHub, clique na foto de perfil e clique em Your organizations.

  2. Ao lado da organização, clique em Configurações.

  3. Na barra lateral, em "Code, planning, and automation", clique em Copilot.

  4. Em "Copilot", clique em Modelos.

  5. Clique na guia Modelos personalizados .

  6. Acima da lista de chaves de API, clique em Adicionar chave de API.

  7. Em "Provedor", selecione o provedor LLM que você deseja usar.

  8. Em "Nome", digite um nome para essa chave. Isso será mostrado no seletor de modelo.

  9. Em "Chave de API", digite ou cole sua chave.

  10. Dependendo de qual provedor você está usando, selecione ou adicione modelos.

    • Se você estiver usando OpenAI, Antropic ou xAI, clique em no campo de texto da chave de API para buscar os modelos associados à sua chave. Em seguida, em "Modelos disponíveis", selecione os modelos que você deseja usar.

      Captura de tela do formulário "Adicionar chave de API". O botão "Buscar novos modelos" é realçado com uma borda laranja.

    • Se você estiver usando o Microsoft Foundry, digite sua URL de implantação no campo em "URL de Implantação". Em seguida, no campo em "Modelos disponíveis", digite uma ID do Modelo e clique em para adicioná-la.

      Se seus modelos tiverem URLs de implantação diferentes, eles não poderão ser adicionados à mesma chave de API. Crie uma chave de API separada para cada URL de implantação.

      Captura de tela do formulário "Adicionar chave de API". O campo de texto do modelo e o botão "Adicionar modelo" são destacados com um contorno laranja.

  11. Depois de selecionar ou adicionar os modelos que deseja disponibilizar, clique em Salvar.

Leitura adicional

  •         [AUTOTITLE](/copilot/how-tos/administer-copilot/manage-for-enterprise/use-your-own-api-keys) em nossa documentação para contas empresariais.

  •         [AUTOTITLE](/copilot/concepts/chat)