Les fournisseurs d’API LLM et leurs politiques de données
Comparez les fournisseurs d’API LLM derrière un point d’accès compatible OpenAI : pays du siège, confidentialité, conditions et page d’état. Vos propres clés.
20 fournisseurs, dont 16 servent aujourd’hui un modèle du catalogue. L’auteur d’un modèle n’est pas toujours son fournisseur : les modèles à poids ouverts sont servis par des hébergeurs d’inférence, et le catalogue range chaque point d’accès sous le fournisseur qui l’exécute réellement.
| Fournisseur | Siège | Type | Modèles servis |
|---|---|---|---|
| AI21 Labs | IL | Concepteur de modèles | 2 |
| Alibaba Model Studio | SG | Concepteur de modèles | 21 |
| Anthropic | US | Concepteur de modèles | 18 |
| Cerebras | US | Hébergeur d’inférence | 0 |
| Cohere | CA | Concepteur de modèles | 4 |
| DeepInfra | US | Hébergeur d’inférence | 115 |
| DeepSeek | CN | Concepteur de modèles | 8 |
| Fireworks AI | US | Hébergeur d’inférence | 0 |
| US | Concepteur de modèles | 29 | |
| Groq | US | Hébergeur d’inférence | 0 |
| MiniMax | SG | Concepteur de modèles | 5 |
| Mistral AI | FR | Concepteur de modèles | 3 |
| Moonshot AI | CN | Concepteur de modèles | 5 |
| NVIDIA NIM | US | Hébergeur d’inférence | 9 |
| Novita AI | SG | Hébergeur d’inférence | 20 |
| OpenAI | US | Concepteur de modèles | 33 |
| SambaNova | US | Hébergeur d’inférence | 4 |
| Together AI | US | Hébergeur d’inférence | 0 |
| Z.ai | CN | Concepteur de modèles | 10 |
| xAI | US | Concepteur de modèles | 8 |
Comment un fournisseur est choisi pour chaque requête
Parmi les fournisseurs qui servent le modèle demandé, la passerelle tient compte de l’état de santé et du prix, écarte ceux que vos garde-fous excluent, et bascule vers le suivant si un fournisseur renvoie une erreur.
Vos données et chaque fournisseur
Les requêtes s’exécutent avec votre propre clé : chaque fournisseur traite donc vos requêtes selon votre propre entente avec lui, y compris s’il les conserve et pendant combien de temps. Chaque ligne renvoie à la politique de confidentialité, aux conditions et à la page d’état de ce fournisseur.
Questions
- Quel fournisseur a servi ma requête ?
- Les journaux montrent chaque envoi, une ligne par fournisseur essayé : un basculement apparaît donc sur deux lignes. Vous pouvez filtrer les journaux par fournisseur.
- Qui décide combien de temps mes requêtes sont conservées ?
- Votre entente avec chaque fournisseur, puisque l’inférence s’exécute avec votre propre clé. La politique de confidentialité du fournisseur, liée dans le tableau, et les conditions de votre compte chez lui en précisent la durée.
- Puis-je limiter les fournisseurs utilisés ?
- Oui. Les garde-fous restreignent les fournisseurs qu’une clé peut utiliser.
- Que signifie la colonne « Identifiant » ?
- C’est le nom sous lequel votre clé de fournisseur est classée quand vous l’ajoutez avec vos propres clés (BYOK).
- Que se passe-t-il quand un fournisseur est en panne ?
- Les requêtes basculent vers le fournisseur suivant qui sert le même modèle, et les contrôles d’état détournent le trafic de celui-ci.