iFLYTEK réduit l’écart de calcul IA grâce à l’ingénierie

Le 21 août, le CEO d’iFLYTEK Liu Qingfeng a expliqué en partie l’absence de l’entreprise dans la dernière vague de l’IA axée sur le code et les agents en évoquant le coût des fenêtres de contexte extrêmement longues sur les infrastructures de calcul nationales. Sa réponse n’est pas d’attendre du matériel plus rapide, mais de tirer davantage parti des puces déjà disponibles. iFLYTEK affirme que ses accélérateurs nationaux peuvent accuser un retard pouvant atteindre environ cinq fois celui du H200 de Nvidia en matière d’efficacité d’entraînement lorsque le contexte dépasse 256 K tokens.

Cet écart compte moins pour les charges de travail ciblées par iFLYTEK que pour les expérimentations de pointe. L’entreprise affirme que 90 % à 95 % des cas d’usage dans l’éducation, la santé, l’automobile et les entreprises publiques n’ont pas besoin de fenêtres de contexte d’un million de tokens. Elle ajuste donc toute la pile simultanément : architecture des modèles, opérateurs, communications, mémoire et frameworks d’entraînement, tout en validant des techniques d’inférence sur de longues séquences.

La stratégie a déjà débouché sur un déploiement concret. Spark X2-Flash, lancé en avril, est devenu le premier modèle Mixture-of-Experts à 30 milliards de paramètres qu’iFLYTEK affirme avoir entièrement entraîné et déployé sur des clusters Huawei Ascend 910B. Spark X2 est arrivé en février, Spark X2-VL a suivi en juin, et l’entreprise a indiqué qu’un nouveau modèle général phare entièrement national était attendu fin août, notamment lors de son 1024 Developers Festival annuel.

Cette offensive d’ingénierie s’étend également à l’infrastructure sous-jacente aux modèles. En juillet, iFLYTEK a partagé un premier prix national pour le Pengcheng Cloud Brain, un projet national de calcul intelligent à grande échelle dirigé par le Pengcheng National Laboratory. Sur le plan commercial, ses revenus tirés des API de LLM et du MaaS — modèle en tant que service — ont progressé d’environ 70 % sur un an au premier semestre. L’entreprise combine des modèles cloud à l’échelle du billion de paramètres avec des modèles exécutés sur les appareils, et vend des résultats plutôt que des tokens.

Pour ces secteurs, l’entreprise soutient que la plupart des déploiements peuvent éviter les fenêtres de contexte d’un million de tokens. Liu affirme que cette approche protège la marge et les priorités d’iFLYTEK à mesure que les écosystèmes de puces nationaux arrivent à maturité, même si les chiffres de performance proviennent de l’entreprise et qu’aucune reproduction indépendante n’est citée ici. Liu prévoit que le désavantage en matière de calcul face aux acteurs nationaux se résorbera dans les deux ans ; il s’agit d’une prévision, et non d’un résultat acquis.