Moonshot AI veut entraîner Kimi K4 avec les GPU Blackwell 

Moonshot AI vise à entraîner Kimi K4 avec des GPU Blackwell malgré les restrictions américaines

Malgré les restrictions américaines sur les exportations de puces vers la Chine, Moonshot AI ne compte pas ralentir ses ambitions. La startup chinoise cherche à acquérir des GPU Nvidia Blackwell, les processeurs les plus avancés de Nvidia, afin d’entraîner Kimi K4, le successeur de son modèle Kimi K3.

Cette initiative s’inscrit dans un contexte de fortes tensions entre Washington et Pékin concernant l’intelligence artificielle. Moonshot AI fait déjà l’objet d’accusations de contournement des sanctions américaines, mais l’entreprise continue d’investir pour développer une nouvelle génération de modèles toujours plus puissants.

D’après les informations du média The Information, Moonshot AI cherche à réunir un maximum de GPU Blackwell pour renforcer sa puissance de calcul. L’objectif est clair : disposer des ressources nécessaires pour développer un modèle encore plus performant que Kimi K3, qui a été présenté à la mi-juillet 2026.

Dans le domaine de l’IA générative, la capacité de calcul est cruciale. Les modèles les plus avancés nécessitent des milliers de puces fonctionnant en parallèle pendant plusieurs semaines, voire plusieurs mois. Pour Moonshot AI, accéder aux dernières générations de GPU de Nvidia représente donc un enjeu stratégique.

Dévoilé en open-weight à la mi-juillet, Kimi K3 est un modèle multimodal qui revendique près de 2 800 milliards de paramètres. Son architecture repose sur un système de 896 experts, permettant d’améliorer l’efficacité des calculs tout en limitant la consommation de mémoire. Le modèle prend également en charge une fenêtre de contexte pouvant atteindre un million de tokens. Selon des estimations relayées par Microsoft, utiliser Kimi K3 pour faire fonctionner Copilot pourrait réduire les coûts d’inférence de près de 600 millions de dollars.

Cette quête de GPU intervient alors que Moonshot AI fait face à des critiques de l’administration américaine. Michael Kratsios, ancien directeur de l’Office of Science and Technology Policy, accuse la startup d’avoir contourné les règles d’exportation imposées par les États-Unis. Washington affirme également que Kimi K3 aurait été entraîné, au moins en partie, grâce à une technique de distillation reposant sur les réponses du modèle Fable d’Anthropic. Moonshot AI rejette ces accusations, arguant que Fable n’a été de nouveau accessible qu’à la fin du mois de juin 2026, un délai jugé trop court pour l’entraînement d’un modèle aussi massif.

Pour entraîner Kimi K3, Moonshot AI avait mobilisé plusieurs centres de données chinois, chaque serveur étant équipé de huit GPU. Avec Kimi K4, la startup vise une infrastructure encore plus puissante. Cette montée en puissance pourrait raviver les tensions entre Washington et Pékin, l’administration américaine étudiant la possibilité de restreindre davantage les modèles open-weight développés par des entreprises chinoises.

À l’inverse, plusieurs géants du secteur, dont Nvidia, Microsoft, Meta, Dell et Mistral AI, ont récemment signé une lettre commune pour défendre le maintien d’un écosystème open-weight, affirmant que l’ouverture des modèles reste un moteur essentiel de l’innovation, même dans un contexte de rivalité technologique croissante.

Source : Intelligence-Artificielle.

Source
Leave a Comment

Comments

No comments yet. Why don’t you start the discussion?

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *