meta-llama/Meta-Llama-3.1-70B-Instruct-Turbo
meta-llama/Meta-Llama-3.1-70B-Instruct-Turbo — offert par l’API d’Autonomous Relay Agents, servi par DeepInfra.
meta-llama/Meta-Llama-3.1-70B-Instruct-Turbo a une fenêtre de contexte de 131 072 jetons et coûte 0,40 $ par million de jetons en entrée et 0,40 $ par million de jetons en sortie, au prix catalogue du fournisseur, sur votre propre clé.
- Longueur de contexte
- 131 072 jetons
- Entrée
- 0,40 $ par M
- Sortie
- 0,40 $ par M
- Servi par
- deepinfra
- Modalités d’entrée
- texte
Ce modèle s’utilise uniquement avec votre propre clé (BYOK) : les requêtes passent par votre clé de fournisseur. Les prix affichés sont les prix catalogue du fournisseur.
L’appeler
Tout client compatible OpenAI fonctionne : changez l’URL de base et envoyez cet identifiant de modèle.
curl https://autonomousrelay.com/v1/chat/completions \
-H "Authorization: Bearer $AUTONOMOUS_RELAY_KEY" \
-H "Content-Type: application/json" \
-d '{"model": "meta-llama/Meta-Llama-3.1-70B-Instruct-Turbo", "messages": [{"role": "user", "content": "Hello"}]}'