Google déploie le Mode IA en France : une nouvelle problématique pour les RSSI
Depuis le 22 juillet, les responsables de la sécurité des systèmes d’information (RSSI) français font face à un nouveau défi. Ce jour-là, Google a déployé en France les Aperçus IA et le Mode IA, deux ans après leur lancement dans le reste du monde. Ce déploiement, qui varie selon les comptes et les terminaux, laisse dans l’incertitude les entreprises, notamment celles de grande taille. Par exemple, dans une entreprise de dix mille personnes, il est difficile de savoir combien de collaborateurs ont réellement basculé vers ces nouvelles fonctionnalités.
Une gouvernance en question
La doctrine actuelle traite l’intelligence artificielle générative comme une collection d’outils. Les entreprises dressent des listes d’outils autorisés, en bloquant le reste et en faisant signer des chartes. Cependant, le Mode IA échappe à cette classification. Il ne s’agit pas d’un outil au sens traditionnel ; c’est une modification de l’état de la barre de recherche. Le domaine reste google.com, et le flux de trafic est indistinguable de celui des semaines précédentes. Aucune nouvelle application n’est créée, et rien ne laisse présager l’usage de cette fonctionnalité.
Défis techniques de filtrage
Pour filtrer l’utilisation du Mode IA, il faudrait déchiffrer le TLS sur le moteur de recherche le plus utilisé de l’entreprise, puis réécrire la chaîne de requête en temps réel. Les fournisseurs de proxy avertissent que cette manipulation pourrait devenir obsolète dès que Google modifie ses paramètres. Au niveau DNS, le filtrage est également problématique, car il n’a jamais réussi à prendre en compte les paramètres d’URL.
Un changement de comportement
Le changement majeur n’est pas seulement technique, mais aussi comportemental. Pendant des décennies, les employés ont utilisé des mots-clés pour effectuer leurs recherches. Désormais, ce même champ accepte des textes longs, des fichiers, et même le contenu des onglets ouverts. Google introduit une couche de contexte personnel, permettant aux utilisateurs de connecter leur messagerie. Ce qui était autrefois une simple recherche est devenu un extrait d’information personnelle, partagé sans le contrôle de l’administration.
Visibilité et compréhension nécessaires
L’Autorité de la concurrence a mis en garde, cinq jours avant le lancement, sur les risques liés à ce placement par défaut. La visibilité sur l’utilisation du Mode IA est essentielle. Les RSSI doivent savoir quelle part des recherches bascule vers le mode conversationnel et dans quels secteurs cela se produit. Sans ces données, les préoccupations risquent de passer inaperçues en comité de direction.
Conclusion
L’apparition de ces nouvelles fonctionnalités par défaut dans un produit largement déployé soulève des questions cruciales sur la gouvernance de l’IA en entreprise. Le défi réside non seulement dans le contrôle de l’usage, mais aussi dans la compréhension des comportements des utilisateurs et des risques associés.
Source : Article d’Avanoo
