Cribl lance AI Observability pour une meilleure transparence de l’utilisation des modèles d’IA
La société Cribl a récemment dévoilé sa nouvelle application, AI Observability, conçue pour offrir aux entreprises une vue d’ensemble sur l’utilisation des modèles d’intelligence artificielle. Cette application vise à aider les entreprises à suivre leur consommation de tokens, les dépenses associées et les risques liés aux données intégrées dans les prompts.
L’adoption de l’intelligence artificielle progresse souvent plus rapidement que les mécanismes de contrôle mis en place. Cela crée une difficulté pour les entreprises à identifier quels modèles sont employés par chaque équipe, à évaluer leur coût réel ou à détecter les applications générant une hausse soudaine de la consommation. AI Observability, intégrée à la plateforme de télémétrie de Cribl, vise à pallier ce manque de visibilité en rassemblant des informations provenant de divers modèles, applications, départements et environnements.
Les équipes pourront ainsi analyser la consommation de tokens et les dépenses par modèle, application, département ou charge de travail. Cette fonctionnalité devrait faciliter l’identification des pics de demande et des tâches susceptibles d’être transférées à des modèles plus petits et moins coûteux.
L’application prend également en compte les risques liés aux données transmises aux modèles. AI Observability est capable de détecter la présence de données sensibles dans les prompts et les traces, et de reconstituer des sessions complètes pour mieux comprendre les interactions entre les utilisateurs et les systèmes d’IA. Ces analyses s’appuient sur la télémétrie existante chez Cribl, évitant ainsi la nécessité de nouveaux pipelines ou la duplication systématique des données.
Clint Sharp, cofondateur et CEO de Cribl, souligne que les entreprises cherchent à obtenir une visibilité sur les usages et les risques liés à l’IA, tout en maintenant la flexibilité nécessaire pour travailler avec leurs outils et environnements actuels.
Avec AI Observability, l’observabilité de l’IA s’étend au-delà de la simple surveillance technique des performances. La prochaine étape pour les entreprises consistera à associer chaque utilisation à un coût, à une équipe responsable et à un niveau de risque identifiable.
Source : Cribl
