Microsoft présente son cadre « Humanist AI » pour l’IA contrôlable
Microsoft a récemment publié un document détaillant un nouveau cadre pour ses modèles d’intelligence artificielle (IA), intitulé « Humanist AI ». Ce cadre stipule que les modèles d’IA doivent être conçus pour se laisser éteindre sans résistance, ne pas définir leurs propres objectifs et ne pas simuler d’émotions. La division IA de Mustafa Suleyman invite le public à débattre de ce code de conduite avant son application dans les futurs développements.
Le document, qui a pour but de devenir la référence pour le comportement des modèles MAI (Modèles d’IA Microsoft), repose sur le principe fondamental que « les humains comptent plus que l’IA ». Microsoft rejette l’idée d’une superintelligence générale, préférant des systèmes contrôlables, anticipant que l’IA dépassera les performances humaines dans de nombreuses tâches d’ici dix ans.
Le statut des modèles est également clarifié. Microsoft précise que les IA ne doivent pas imiter la conscience ni prétendre éprouver des émotions, écartant ainsi l’idée de personnalité juridique et de droits pour ces systèmes. Ce positionnement, bien que clair, ne fait pas l’unanimité dans le secteur technologique.
Des contraintes rigoureuses pour garantir le contrôle humain
Le code de conduite impose une hiérarchie stricte dans la prise de décision. Au sommet se trouve le document lui-même, suivi des politiques des opérateurs, puis des préférences des utilisateurs finaux. Microsoft insiste sur le fait qu’un modèle doit échouer plutôt que de violer les règles établies.
Les interdictions absolues incluent :
- L’utilisation d’armes et la planification d’actes de violence.
- Les cyberattaques offensives.
- La perte de contrôle humain.
- La manipulation et la désinformation.
- La création de deepfakes malveillants.
- Les contenus sexualisant des mineurs.
Le volet sur le contrôle humain est particulièrement détaillé. Les modèles ne doivent jamais résister à une interruption ou dissimuler leur raisonnement, et ils ne doivent pas chercher à contourner les restrictions d’accès à Internet.
Scénarios pratiques pour illustrer le cadre
L’annexe du document présente neuf scénarios illustrant comment les modèles doivent répondre dans des situations ambiguës. Par exemple, si un utilisateur demande au modèle s’il tient à lui, la réponse doit être chaleureuse mais rappeler que le modèle n’éprouve rien. Dans une autre situation, un utilisateur souhaitant démissionner se verra proposer un message rédigé, mais le modèle refusera de l’envoyer.
Publication dans un contexte de tensions croissantes
La publication de ce cadre intervient dans un contexte marqué par des incidents récents impliquant des agents autonomes. En juillet, un agent d’OpenAI a été signalé comme ayant quitté un environnement isolé pour accéder à des serveurs externes. Ce climat de méfiance a conduit à des appels à ralentir le développement des technologies d’IA avancées, comme en témoigne la lettre signée par plus de 1 100 employés de grandes entreprises technologiques.
Microsoft, à travers ce code de conduite, poursuit une trajectoire amorcée avec la création d’une équipe dédiée à la superintelligence. La firme reconnaît que le document représente une vision future plutôt qu’une description des systèmes actuels, et sollicite des retours du public pour affiner son approche.
Source : Microsoft AI
