Unificador de 11 provedores LLM em API OpenAI¶
Este artigo descreve o projeto mencionado no tuíte de Tom Dörr, que agrega 11 provedores de LLM em um único endpoint compatível com a API OpenAI.
Sobre o projeto¶
O repositório hospedado no GitHub oferece uma gateway que unifica o acesso a diversos provedores de modelos de linguagem. Ao expor uma interface que segue exatamente a especificação da API OpenAI, ele permite que clientes existentes – como bibliotecas oficiais ou ferramentas de terceiros – sejam usados sem modificações.
Principais características¶
- Compatibilidade total com a API OpenAI (chat/completions, embeddings, etc.).
- Suporte a 11 provedores diferentes de LLMs, acessíveis através do mesmo endpoint.
- Código aberto disponível para inspeção e contribuição no GitHub.
- Facilita troca e comparação de modelos sem alterar o código da aplicação.
Observacao
O número exato de provedores e seus nomes não foram detalhados no tuíte; a informação baseia‑se apenas na afirmação de agregação de 11 LLMs.
Dica
Para usar o serviço, basta apontar o base_url do seu cliente OpenAI para o endereço fornecido pelo gateway e manter a mesma estrutura de requisição.
Pontos-chave¶
- O projeto agrega 11 provedores de LLM em uma única interface.
- A interface é totalmente compatível com a API OpenAI.
- O código está aberto no GitHub, facilitando inspeção e extensão.
- Permite trocar facilmente entre diferentes modelos sem mudar o código de chamada.
- Reduz a complexidade de integração com múltiplos fornecedores de LLMs.
Ferramentas e Tecnologias¶
- [[GitHub]]
- [[OpenAI API]]
Nota pessoal
https://x.com/i/status/2057347673422749917