Comparer les prix des API LLM

Prix des jetons d’entrée et de sortie par million et fenêtres de contexte de chaque modèle que cette passerelle achemine, en direct du catalogue. Chaque prix est le prix catalogue du fournisseur : ce que votre fournisseur vous facture, puisqu’Autonomous Relay ajoute 0 %.

294 modèles, chacun servi sur votre propre clé de fournisseur, au prix catalogue du fournisseur. Les prix sont par million de jetons.

Comment lire ce catalogue

Prix

Par million de jetons, l’entrée puis la sortie. Quand plusieurs fournisseurs servent un modèle, chaque chiffre est le plus bas prix en vigueur parmi eux ; la page du modèle liste chaque fournisseur et son prix.

Appeler un modèle

Utilisez l’identifiant sous chaque nom comme paramètre model dans n’importe quel client compatible OpenAI pointé vers la passerelle. Le basculement et les plafonds de dépenses s’appliquent à chaque modèle.

Questions

Le prix affiché est-il ce que je paie ?

Oui, pour les jetons : l’inférence s’exécute avec votre propre clé de fournisseur, à son prix catalogue. Autonomous Relay ajoute 0 %; les forfaits coûtent 29 $, 99 $ ou 399 $ par mois par organisation, prix fixe.

Pourquoi chaque modèle affiche-t-il deux prix ?

Les jetons d’entrée, puis les jetons de sortie, par million. La sortie coûte généralement plus cher.

Pourquoi certains modèles indiquent-ils « Aucun prix actif » ?

Aucun fournisseur qui le sert n’a de prix en vigueur dans le catalogue ; aucun n’est donc affiché plutôt qu’un prix périmé.

Comment trier par prix ou par fenêtre de contexte ?

Avec le menu de tri : prix croissant, contexte décroissant ou plus récents. Les filtres restreignent par modalité, prix d’entrée et longueur de contexte.

Puis-je comparer des modèles côte à côte ?

Oui, sur la page Comparer.