Ramp lance Router, un service de routage de modèles IA

Trois ans d’utilisation en interne ont donné naissance à un produit. Ramp a lancé Router, une API qui permet aux entreprises d’envoyer des requêtes à de grands modèles de langage de plusieurs fournisseurs et de passer de l’un à l’autre. Le service est actuellement disponible uniquement aux États-Unis.

Router se connecte aux modèles d’OpenAI, Anthropic, DeepSeek, Moonshot, Minimax, Nvidia, xAI et Z.ai. Ses stratégies de routage peuvent privilégier les niveaux d’utilisation flexibles des fournisseurs, sélectionner un modèle à l’aide d’un maximum de trois tests de référence définis par l’utilisateur ou diriger uniquement les problèmes complexes vers des modèles plus coûteux. Les utilisateurs peuvent également tester des modèles sans modifier manuellement leur intégration.

Le service ajoute un tableau de bord à la couche des modèles : les clients peuvent consulter leurs dépenses en tokens, le coût, la latence et les tentatives de basculement. Il est gratuit jusqu’à la fin de 2026 et comprend un crédit de lancement de 26 dollars, mais les clients paient toujours les coûts d’inférence des modèles d’IA. Ramp n’a pas communiqué le prix prévu pour l’année prochaine.

Le changement concret concerne les équipes qui gèrent déjà leur utilisation de l’IA via Ramp : le choix des modèles et les dépenses associées peuvent être regroupés avec les outils existants de l’entreprise pour suivre les tokens et contrôler leurs coûts. Pour Ramp, Router pourrait également contribuer à nouer des relations avec des laboratoires d’IA et des fournisseurs d’inférence, au-delà de sa plateforme de gestion des dépenses professionnelles.

Le service n’est toutefois pas sans limites. OpenRouter propose actuellement beaucoup plus de modèles d’IA, et la politique de conservation des données avec possibilité de refus de Router enregistre par défaut les entrées, sorties et appels d’outils pendant un an. Ramp affirme supprimer les informations permettant d’identifier une personne avant d’utiliser ces contenus pour améliorer le produit. Le lancement fournit aux clients un service de routage opérationnel, mais sa portée plus large et sa tarification pour l’année prochaine restent à préciser.