Les attentes à l’égard des derniers LLM étaient immenses, mais pour beaucoup, cet enthousiasme initial a cédé la place à de la déception. L’engouement initial suscité par les LLM est déjà en train de s’essouffler et les SLM s’imposent progressivement sur le devant de la scène. Ils offrent des avantages indéniables en matière de rentabilité et d’adaptabilité que les SLM apportent. Ils peuvent également être déployés en production plus rapidement et adaptés pour répondre aux besoins spécifiques des entreprises.
Avant de déployer l’IA, les entreprises devraient commencer par établir quel modèle de langage, LLM (grand modèle de langage) ou SLM (petit modèle de langage), répond le mieux à leurs besoins. En fonction des objectifs liés aux déploiements d’IA, il est possible de déterminer s’il est préférable de s’appuyer sur un LLM généraliste ou un SLM spécialisé. Pour garantir la réussite des projets d’IA, les entreprises doivent avoir clairement conscience de ce qui distingue ces deux types de modèles.
Les LLM sont conçus pour un usage universel et disposent d’une base de connaissances vaste, mais élémentaire. Cela implique qu’ils ne sont pas configurés pour fournir des réponses extrêmement spécifiques dans un domaine particulier. Ils posent également quelques défis, en particulier les hallucinations, qui peuvent se révéler difficiles à déceler et à éradiquer. En revanche, les SLM, qui constituent des versions plus compactes et spécialisées des LLM, peuvent être adaptés et déployés rapidement et efficacement.
À la différence des LLM, les SLM sont généralement entraînés à l’aide de jeux de données plus restreints et extrêmement spécialisés. Ces ensembles de données sont conçus sur me en fonction du secteur d’activité, du domaine de spécialité, voire de sujets spécifiques. À titre d’exemple, un prestataire de services de santé peut utiliser un chatbot alimenté par un SLM qui a été entraîné à l’aide d’ensembles de données médicales. Dans ce cas précis, le chatbot n’a pas besoin de disposer de connaissances génériques, car celles-ci ne sont pas pertinentes dans un contexte de prise en charge spécifique.
Les modèles plus petits présentent de nombreux avantages sur les LLM. Ils permettent l’adaptation dynamique et l’intégration continue de nouvelles données, et leurs cycles d’entraînement sont beaucoup plus courts. Par ailleurs, comparés aux LLM, dont les milliards de paramètres nécessitent un investissement considérable, les SLM sont beaucoup plus rentables. En outre, ils sont capables de traiter de vastes volumes de données à l’aide de ressources de calcul minimales. Dans ce contexte, le terme « petit » ne signifie pas « limité » ou « doté de fonctionnalités restreintes », mais plutôt « adapté aux besoins », « rapide » et « interchangeable ».
Enfin, le recours à des petits modèles alimentés par des données spécifiques à un domaine réduit la dépendance des entreprises vis-à-vis des grands fournisseurs de modèles de LLM, dont les solutions sont souvent opaques en termes d’algorithmes, de données d’entraînement et de modèles. Ainsi, les IA de plus petite taille contribuent à renforcer la souveraineté numérique, dans une logique de « own your stack » et « own your data ».
De l’amélioration des réponses à l’exécution de fonctionnalités externes
Avec de tels avantages, les IA de plus petite taille devraient être de plus en plus utilisées à l’avenir pour accomplir des tâches spécifiques. Même les principaux fournisseurs de LLM sont en train de lancer leurs propres petits modèles de langage. En principe, les LLM peuvent servir de socle technologique et être optimisés pour répondre aux exigences d’une entreprise spécifique. Par exemple, la technologie de Retrieval-Augmented Generation (RAG) complète les données disponibles dans un LLM à l’aide de sources de connaissances externes, tels que les répertoires de données, les collections de textes et la documentation existante. Ces ressources sont segmentées et indexées au sein d’une base de données vectorielle, avant d’être utilisées comme sources de référence pour fournir des réponses plus précises. Cela permet de minimiser les risques d’hallucinations. Le Model Context Protocol (MCP) désigne une norme ouverte et une interface standardisée pour l’échange de données entre les LLM et les outils, les sources de données et les systèmes externes. Le protocole MCP a rapidement gagné en importance en raison de sa facilité d’utilisation et de ses avantages liés à l’utilisation de l’IA. Alors que la technologie RAG sert à compléter et à améliorer les réponses des LLM à l’aide d’informations externes et à jour, l’approche MCP permet principalement d’entreprendre des actions directes. Les agents d’IA peuvent ainsi interagir avec des API, des outils et des bases de données pour mettre à jour leurs enregistrements de données.
S’appuyer sur l’open source pour adopter l’IA de confiance
Le recours à un modèle d’IA soulève inévitablement des questions relatives à la sécurité et à l’indépendance des utilisateurs, en particulier à l’heure où la souveraineté numérique gagne en importance. Heureusement, il existe désormais de nombreuses solutions, à l’image de la famille de modèles open source et sous licence Granite. Granite est un LLM qui a été développé par IBM pour les applications d’entreprises. Cette famille de modèles couvre une vaste gamme de cas d’usage d’IA, y compris la génération de code, le traitement du langage naturel et l’extraction d’enseignements à partir de vastes ensembles de données et ces modèles sont tous disponibles sous licence open source. Ils disposent d’une base de connaissances élémentaires, qui peut être personnalisée à l’aide d’un affinement du modèle, ce qui leur permet d’effectuer des tâches spécifiques dans presque tous les secteurs d’activité. Les modèles d’IA Granite se distinguent d’autres modèles de base par la possibilité qu’ils offrent aux utilisateurs de consulter leurs données d’entraînement, renforçant ainsi la transparence.
vLLM et llm-d, les pierres angulaires des applications d’IA modernes
Le secteur de l’IA se caractérise actuellement par son dynamisme, avec l’émergence quotidienne de nombreuses offres et fonctionnalités. Deux développements récents mis au point par la communauté open source se révèlent aujourd’hui particulièrement utiles : les vLLM et les llm-d.
vLLM est une bibliothèque de code open source gérée par la communauté vLLM. Ce modèle permet aux LLM de gagner en efficacité de calcul. Plus spécifiquement, vLLM est un serveur d’inférence qui accélère la production d’outputs par les applications d’IA générative en optimisant l’utilisation de la mémoire GPU. Ainsi, le serveur d’inférence aide à surmonter un défi majeur. Les modèles d’IA génératives sont de plus en plus complexes et de plus en plus utilisés, ce qui fait du processus d’inférence l’un des principaux goulots d’étranglement. Il nécessite des ressources matérielles considérables, allonge les temps de réponse et contribue à l’augmentation des coûts. Des serveurs d’inférence robustes permettent une exploitation bien plus efficace du matériel nécessaire aux charges de travail d’IA.
Tandis que vLLM offre une prise en charge exhaustive des modèles pour une vaste gamme de plateformes matérielles, llm-d va plus loin. En s’appuyant sur des infrastructures informatiques d’entreprises existantes, llm-d s’accompagne de capacités d’inférence distribuées et avancées qui permettent d’économiser des ressources tout en améliorant la performance. Ces capacités incluent des gains de temps significatifs pour générer le premier token et une hausse du débit tout en respectant les contraintes de latence. llm-d représente une suite d’innovations puissantes. La désagrégation et la couche de planification intelligente sont deux exemples phares d’innovations permettant d’améliorer le processus d’inférence. La désagrégation favorise une utilisation plus efficace des accélérateurs matériels au cours du processus. Elle sépare le traitement des prompts de la génération de tokens et les répartit en charges de travail individuelles, nommées pods. Cette division permet une mise à l’échelle et une optimisation indépendante au cours des différentes phases, qui possèdent chacune des besoins spécifiques en termes de puissance de calcul. La couche de planification intelligente est une extension de l’API Kubernetes Gateway et permet de prendre des décisions d’acheminement plus différenciées pour les requêtes entrantes. Les données en temps réel, comme le cache ou l’utilisation des pods, servent à acheminer les requêtes vers l’instance la mieux indiquée, optimisant ainsi la répartition de la charge de travail au sein du cluster.
Le cloud hybride, socle infrastructurel
Quelle que soit la façon dont l’IA évoluera, il est essentiel de disposer d’une architecture et d’une infrastructure adaptées. Afin d’éviter la dépendance aux fournisseurs et d’intégrer de nouveaux cas d’usage à l’aide d’innovations d’IA, il est recommandé de se doter d’une plateforme flexible, hybride et open source. Ce type de plateforme dote les entreprises de la flexibilité nécessaire pour entraîner et affiner, ainsi que pour déployer et monitorer des modèles d’IA dans le cloud, en périphérie des réseaux et sur site. À titre d’exemple, le processus d’entraînement peut avoir lieu sur des fermes de GPU hébergées dans le cloud, dotées d’une séparation stricte entre les environnements clients. Le modèle peut ensuite être déployé sur site pour un usage en production. Cela permet de réconcilier la sécurité et la souveraineté des données en évitant les coûts de puissance de calculs considérables liés aux modèles d’IA avancés.
Les solutions cloud hybrides sont les plus indiquées, car elles éradiquent les barrières de l’IA qui découlent de l’isolement des infrastructures. À terme, les entreprises devraient être en me de faire appel à n’importe quel modèle sur n’importe quel accélérateur, dans n’importe quel cloud, tout en bénéficiant d’une expérience utilisateur cohérente et sans être confrontées à des coûts exorbitants. De telles solutions existent déjà. Plus important encore, une approche de l’IA en essaim, qui se fonde sur le recours à de nombreux modèles de petite taille pour des tâches spécifiques en se substituant aux LLM, peut ouvrir la voie vers un avenir prometteur pour l’IA. Ainsi, la technologie pourrait devenir un outil concret sur lequel les entreprises peuvent s’appuyer en toute indépendance, afin d’offrir un soutien direct à leurs collaborateurs au quotidien.
Par Jan Wildeboer, Évangéliste EMEA, Red Hat
À lire également
RAG et agents IA : repenser l’architecture de la productivité en entreprise
Model Context Protocol : repenser la sécurité à l’ère de l’IA autonome
La modernisation des paiements soutenue par l’IA agentique et les modèles de langage compacts
SAS s’attaque aux données non structurées à l’ère de l’IA agentique
Hyperscalers, open source, edge : l’infrastructure IA se réinvente
Post Views: 0
