OpenAI Accélère GPT-5.6 Sol avec son Mode Ultrafast
OpenAI a récemment lancé un nouveau mode appelé Ultrafast, permettant d’exécuter son modèle GPT-5.6 Sol jusqu’à 14 fois plus vite que le traitement standard, avec une capacité de génération atteignant 750 tokens par seconde. Ce développement marque une évolution significative dans la manière dont les modèles d’intelligence artificielle sont exécutés, en introduisant une nouvelle classe de vitesse en plus de l’intelligence et du coût.
Traditionnellement, les utilisateurs choisissaient un modèle d’IA en fonction d’un compromis entre intelligence, rapidité et coût. Avec Ultrafast, OpenAI cherche à redéfinir cette équation, en offrant une exécution très rapide sans nécessiter un modèle allégé.
Contexte et Technologie
Cette avancée repose sur un partenariat avec Cerebras, une entreprise spécialisée dans le matériel informatique. OpenAI a signé un contrat en janvier pour le déploiement progressif de 750 MW de capacité de calcul à très faible latence d’ici 2028. Cerebras utilise un Wafer-Scale Engine, qui intègre des centaines de milliers de cœurs sur une seule puce, optimisant ainsi la bande passante entre la mémoire et le calcul. Cela réduit les goulets d’étranglement liés aux mouvements de données, un frein majeur à l’inférence générative.
Impact et Limites
L’impact potentiel d’Ultrafast est particulièrement pertinent pour des applications où le temps de réponse est critique, telles que les assistants vocaux, le support client et l’analyse financière en temps réel. Cependant, ce mode est actuellement disponible en preview limitée dans l’API OpenAI, et son accès sera élargi progressivement.
OpenAI n’a pas encore communiqué de détails sur la tarification ou le calendrier de généralisation. Il est à noter que cette nouvelle fonctionnalité nécessite une infrastructure spécifique de Cerebras, ce qui pourrait limiter son adoption immédiate.
Conclusion
Avec Ultrafast, OpenAI démontre que la course à l’intelligence artificielle ne se limite plus à l’amélioration des modèles, mais inclut également des innovations dans l’infrastructure. Cela pourrait transformer la manière dont les utilisateurs interagissent avec les systèmes d’IA, rendant les réponses plus instantanées et intégrées dans divers workflows.
Source : OpenAI
