L’un des plus grands dangers de l’IA est passé sous silence, cette jeune pousse française le combat

FAIT PRINCIPAL

La startup française Skyld, fondée par Marie Paindavoine, docteure en cryptographie, se positionne comme un acteur clé dans la sécurisation des modèles d’intelligence artificielle (IA) sur smartphones, face à des vulnérabilités largement ignorées par l’industrie.

CONTEXTE FACTUEL

Marie Paindavoine a commencé à travailler sur ce projet il y a quatre ans et demi. En 2021, elle a découvert que l’extraction des modèles d’IA sur smartphone était relativement simple, révélant ainsi des failles de sécurité importantes. Selon elle, les mes de cybersécurité appliquées à ces modèles sont obsolètes et inadaptées aux spécificités de l’IA. En conséquence, elle a lancé Skyld en 2023 pour répondre à ce besoin urgent de protection.

DONNÉES OU STATISTIQUES

Skyld a démontré la fragilité des systèmes de sécurité actuels à travers des tests sur des IA comme SafetyCore de Google, qui protège les utilisateurs contre des contenus inappropriés. En utilisant la rétro-ingénierie, Skyld a pu neutraliser ce filtre, illustrant que des attaques simples peuvent être réalisées avec des outils accessibles et en quelques minutes. Marie Paindavoine souligne que ces attaques peuvent être menées sur des ordinateurs classiques, nécessitant seulement une quarantaine de lignes de code.

CONSÉQUENCE DIRECTE

Cette situation met en lumière une « dette cyber » qui s’accumule dans l’industrie, exacerbée par la rapidité d’adoption des technologies d’IA sans prendre en compte la sécurité dès la conception. Skyld plaide pour une approche cryptographique qui renforce la sécurité des modèles d’IA, permettant ainsi de préserver les informations sensibles contre d’éventuelles exploitations malveillantes.

Source : Presse-citron