# Qu’est-ce que le routage LLM ?

> Comment le routage LLM sélectionne des modèles selon les exigences de la requête, le coût, la qualité, la latence, le contexte et les règles.

Source: https://ailoot.ai/blog/fr/what-is-llm-routing/
Canonical: https://ailoot.ai/blog/fr/what-is-llm-routing/
Language: fr
Publisher: Ailoot (https://ailoot.ai/)
Translation: guide-100040
Revision: sha256-abd785e5be37212206860533cc137ddfe040f222fd4849c76fb729d11fc4d913


Le **routage LLM** consiste à envoyer chaque requête d’IA au modèle et au fournisseur les mieux adaptés, au lieu de coder en dur tous les appels vers un seul modèle. Un routeur évalue la requête en fonction de vos objectifs, du coût, de la qualité, de la latence, de la longueur du contexte et des règles, puis l’achemine vers l’option qui convient le mieux.

La plupart des équipes commencent par connecter directement leur application à un fournisseur, généralement OpenAI. Cela fonctionne jusqu’à ce que ce ne soit plus le cas : un modèle moins cher pourrait gérer tout aussi bien 60 % de votre trafic, un fournisseur connaît une panne, une requête nécessite une fenêtre de contexte plus longue ou une charge de travail réglementée ne peut pas quitter une juridiction. Un routeur résout tous ces problèmes derrière un point de terminaison unique.

## Fonctionnement du routage LLM

Vous dirigez votre SDK compatible avec OpenAI existant vers le routeur plutôt que vers le fournisseur. Pour chaque requête, le routeur :

1.  **Constitue un ensemble de candidats** parmi les modèles capables de traiter la requête (capacités adaptées, fenêtre de contexte et disponibilité).
2.  **Évalue les candidats** en fonction de votre objectif, par exemple « l’option la moins chère au-dessus d’un seuil de qualité » ou « la latence mesurée la plus faible ».
3.  **Applique des contraintes**, telles que les budgets, les fournisseurs autorisés, la résidence des données et les listes de modèles autorisés pour chaque clé.
4.  **Achemine la requête et prévoit un basculement** : si le premier choix renvoie une erreur ou dépasse le délai d’attente, le routeur essaie automatiquement le candidat suivant le mieux classé.

## Pourquoi les équipes utilisent le routage au lieu de coder en dur

- **Coût.** Acheminez les requêtes simples vers des modèles économiques et réservez les modèles premium à celles qui en ont besoin.
- **Fiabilité.** Le basculement automatique entre fournisseurs permet d’éviter qu’une panne chez un fournisseur ne mette votre produit hors service.
- **Flexibilité.** Remplacez ou ajoutez des modèles sans déployer de code, car le routage est défini dans une règle et non dans votre application.
- **Gouvernance.** Appliquez les budgets, la résidence des données et les seuils de qualité de manière centralisée plutôt que service par service.

## Routage et simple solution de repli

Une solution de repli (« si OpenAI échoue, essayer Anthropic ») est la forme la plus élémentaire du routage. Le routage véritable optimise toutefois **chaque** requête, et pas seulement les échecs : il choisit d’emblée la meilleure option en fonction du coût et de la qualité, au lieu d’intervenir uniquement en cas de problème.

## Mettez ce guide en pratique avec Ailoot

Connectez des modèles d’IA à vos applications, agents et automatisations via une seule API Ailoot. Choisissez le modèle adapté à votre tâche et suivez la [documentation Ailoot](https://ailoot.ai/docs/) pour commencer.


## Ailoot · L’entreprise et son portefeuille de projets

Ailoot s’appuie sur une expérience opérationnelle éprouvée, une large clientèle, un service stable et un suivi continu des KPI.

L’entreprise et son portefeuille de projets : des millions de clients ; des ventes qui se chiffrent en milliards chaque mois.

Ailoot met cette expérience opérationnelle au service de l’accès API aux fonctions d’IA dans les produits des clients, leurs agents, applications et automatisations.
