Usando as chaves de API do provedor LLM com o Copilot

Aprenda como integrar seus modelos personalizados preferidos com o GitHub Copilot usando suas próprias chaves de API do LLM e disponibilizá-los para organizações em sua conta corporativa.

Neste artigo

Observação

A capacidade de trazer suas próprias chaves de API para GitHub Copilot está em versão prévia pública e é sujeita a alterações.

Você pode trazer suas próprias chaves de API para GitHub Copilot e permitir que as equipes usem seus provedores de modelo de linguagem grande (LLM) preferidos com Chat GitHub Copilot.

Há suporte para chaves de API dos seguintes provedores:

  • Anthropic
  • AWS Bedrock
  • Google AI Studio
  • Microsoft Foundry
  • OpenAI
  • Provedores compatíveis com OpenAI
  • xAI

Modelos com ajustes finos também são suportados, mas a funcionalidade e a qualidade dos resultados podem variar dependendo da configuração do ajuste. Você deve testar seu modelo e examinar suas saídas cuidadosamente antes de usá-lo em produção.

Por que trazer suas próprias chaves de API?

Como proprietário da empresa, você pode ter requisitos específicos para governança, segurança de dados e conformidade. Configurar suas próprias chaves de API permite que você resolva:

  •         **Governança e conformidade:** escolher provedores LLM em conformidade com as políticas e os requisitos regulatórios da sua organização.

  •         **Gerenciamento de custos:** alinhar-se com suas formas de pagamento, contratos, créditos ou taxas negociadas existentes e evitar excessos de uso.

  •         **Visibilidade e controle:** gerenciar quais modelos sua equipe pode acessar e monitorar o uso por meio dos painéis e cobrança existentes do seu provedor.

  •         **Flexibilidade:** dar suporte a modelos personalizados ou especializados que sua organização já usa.

Adicionando sua chave a uma conta corporativa

Importante

É altamente recomendável cumprir o princípio do privilégio mínimo atribuindo apenas os escopos mínimos necessários às suas chaves de API.

Depois de adicionar sua chave e selecionar um ou mais modelos, você e os membros de suas organizações poderão usá-los com Chat GitHub Copilot. Seus modelos aparecerão na parte inferior do seletor de modelos, sob o nome da empresa.

  1. Navegue até sua empresa. Por exemplo, na página Enterprises em GitHub.com.

  2. Na parte superior da página, clique em controles de IA.

  3. Na barra lateral, clique em Copilot.

  4. Clique em Configurar modelos permitidos.

  5. Clique na guia Modelos personalizados .

  6. Acima da lista de chaves de API, clique em Adicionar chave de API.

  7. Em "Provedor", selecione o provedor LLM que você deseja usar.

  8. Em "Nome", digite um nome para essa chave. Isso será mostrado no seletor de modelo.

  9. Em "Chave de API", digite ou cole sua chave.

  10. Dependendo de qual provedor você está usando, selecione ou adicione modelos.

    • Se você estiver usando OpenAI, Antropic ou xAI, clique em no campo de texto da chave de API para buscar os modelos associados à sua chave. Em seguida, em "Modelos disponíveis", selecione os modelos que você deseja usar.

      Captura de tela do formulário "Adicionar chave de API". O botão "Buscar novos modelos" é realçado com uma borda laranja.

    • Se você estiver usando o Microsoft Foundry, digite sua URL de implantação no campo em "URL de Implantação". Em seguida, no campo em "Modelos disponíveis", digite uma ID do Modelo e clique em para adicioná-la.

      Se seus modelos tiverem URLs de implantação diferentes, eles não poderão ser adicionados à mesma chave de API. Crie uma chave de API separada para cada URL de implantação.

      Captura de tela do formulário "Adicionar chave de API". O campo de texto do modelo e o botão "Adicionar modelo" são destacados com um contorno laranja.

  11. Depois de selecionar ou adicionar os modelos que deseja disponibilizar, clique em Salvar.

Gerenciando a disponibilidade de modelos personalizados em suas organizações

Você pode escolher se os modelos adicionados estão disponíveis para as organizações em sua conta corporativa.

  1. Navegue até sua empresa. Por exemplo, na página Enterprises em GitHub.com.
  2. Na parte superior da página, clique em controles de IA.
  3. Na barra lateral, clique em Copilot.
  4. Clique em Configurar modelos permitidos.
  5. Clique na guia Modelos personalizados .
  6. Acima da lista de chaves de API, clique na guia Modelos Adicionados .
  7. Ao lado de um modelo, clique em Configurar. Se alguma organização já tiver access ao modelo, em vez de "Configurar", você precisará clicar em Todas organizações ou organizações X.
  8. No modal que se abre, clique na guia Access.

    Observação

    O modelo deve ser definido como "Habilitado" antes que a guia "Access" esteja disponível.

  9. Escolha como o modelo deve ser disponibilizado para as organizações:
    • Para disponibilizar o modelo para todas as organizações em sua conta corporativa, selecione Permitir para todas as organizações.
    • Para disponibilizar apenas o modelo para organizações específicas, selecione Escolher por organização e verifique ou desmarque as organizações listadas abaixo.
  10. Clique em Salvar.

Leitura adicional

  •         [AUTOTITLE](/copilot/how-tos/administer-copilot/manage-for-organization/use-your-own-api-keys) em nossa documentação para organizações.

  •         [AUTOTITLE](/copilot/concepts/chat)