Mercury 3 à diffusion : 1 000 tokens/s et bat GPT-6 Luna

La vitesse est l'argument principal. Inception, une entreprise californienne de recherche en IA, a publié Mercury 3 et affirme qu'il génère plus de 1 000 tokens par seconde sur des GPU NVIDIA largement disponibles. Selon la société, le modèle devance deux concurrents optimisés pour la vitesse, GPT-6 Luna et Claude Haiku 5.5, dans une série de tests de référence, tout en fonctionnant quatre à huit fois plus vite.

La plupart des grands modèles de langage écrivent un token après l'autre, chacun étant prédit à partir du précédent. Les tokens sont les fragments de texte qu'un modèle lit et produit. Les modèles de langage à diffusion fonctionnent autrement : ils génèrent et affinent plusieurs tokens en parallèle. Cela leur permet de répondre plus vite, mais oblige aussi, depuis longtemps, les développeurs à choisir entre un petit modèle rapide et un modèle plus performant mais plus lent. Inception soutient que Mercury 3 fait sauter ce compromis, en conservant sa vitesse tout en traitant des tâches plus complexes.

Le modèle est le quatrième d'une entreprise qui a publié sa première version, Mercury 1, en juin 2025. Mercury 2 a ajouté le raisonnement, et Mercury 2.5 a introduit un raisonnement réglable et porté la fenêtre de contexte à 260 000 tokens. Mercury 3 la porte à 1 million de tokens, et Inception affirme qu'il est plus de 40 fois plus grand que Mercury 1. Stefano Ermon, cofondateur d'Inception, a expliqué que la question la plus posée par les clients était de savoir si la diffusion pouvait passer à l'échelle. La société indique que l'entraînement de son prochain modèle a déjà commencé.

Qui en profite, et quand ? Les développeurs qui conçoivent des agents, lesquels enchaînent plusieurs appels de modèles, devraient bénéficier le plus rapidement du gain, puisque chaque appel revient plus vite. L'éducation constitue un premier cas d'usage : la société indique que RevisionDojo, une entreprise d'edtech, a réduit à environ une seconde les délais de réponse de ses retours aux élèves, qui comprennent indices, définitions et corrections. La traduction en direct et le tutorat interactif figurent parmi les autres cibles citées par l'entreprise. Mercury 3 est déjà accessible via l'API d'Inception, Baseten, OpenRouter et Vercel, et il utilise le format de l'API OpenAI : les applications existantes peuvent donc passer à ce modèle sans réécriture importante.

Les réserves comptent. Les résultats aux tests de référence et les chiffres de vitesse proviennent d'Inception elle-même, et les exemples de clients sont des testeurs en accès anticipé, et non une enquête élargie auprès des utilisateurs. Une vitesse mesurée dans un cadre contrôlé ne garantit ni une vitesse équivalente à grande échelle, ni une qualité de réponse constante sur toutes les tâches. Ce qui comptera, c'est de savoir si les tests indépendants et l'usage quotidien en production confirment ces gains.