Um gateway para tudo.

Ligue, encaminhe e faça a governação do acesso a modelos de IA através de um gateway unificado, criado para cargas de trabalho empresariais.

Ligue, encaminhe e faça a governação do acesso a modelos de IA através de um gateway unificado, criado para cargas de trabalho empresariais.

Um só endereço para cada modelo

O seu código chama a gateway. A gateway decide que fornecedor serve o pedido e regista o que aconteceu.

Envie para um só ponto
Uma API, uma chave, uma forma de pedido. Trocar de fornecedor deixa de ser uma alteração de código.
Deixe a política escolher o modelo
Encaminhe por custo, latência, região ou capacidade, e comute quando um fornecedor se degrada.
Fique com o recibo
Cada chamada regista o modelo que alcançou, quanto custou, quanto demorou e quem perguntou.

O trabalho que aparece assim que chega um segundo modelo, um segundo fornecedor ou uma segunda equipa.

Comutação que não é problema seu
Quando um fornecedor abranda ou falha, o seguinte da política assume o pedido sem qualquer implantação.
Tetos de gasto que mordem
Limites por equipa e por chave aplicados na gateway, não descobertos na fatura.
As chaves dos fornecedores ficam num só sítio
As aplicações têm uma chave da gateway. As credenciais do fornecedor nunca saem dela.
Trabalho repetido não custa nada
Pedidos idênticos vêm da cache, com a taxa de acerto ao lado do gasto.

Fornecedores: Anthropic, OpenAI, Google, Mistral e qualquer ponto compatível com OpenAI que aloje.
Encaminhamento: Políticas ponderadas, atentas ao custo, à latência e à região, com comutação ordenada.
Limites: Tetos de ritmo e de gasto por chave, por equipa e por modelo.
Cache: Correspondência exata e prefixo do prompt, configuráveis por rota.
Registos: Cada pedido guardado com modelo, tokens, custo, latência e quem chamou.

O que as equipas de plataforma perguntam quando um único componente fica à frente de cada chamada a um modelo.

Mude um URL base, envie um pedido e leia a decisão de encaminhamento que tomou.