Privacy Gateway : un prototype filtre les données des chatbots

Un e-mail adressé au chatbot, un document volumineux à analyser : pour beaucoup de gens, l’intelligence artificielle est depuis longtemps un outil qui fait gagner du temps. Environ un tiers des personnes en Allemagne utilisent l’IA au moins une fois par semaine. Pascal Tippe, doctorant à l’université à distance de Hagen, et l’étudiant en master Michael Maximilian Grötzner s’attaquent précisément au point sensible : leur prototype Privacy Gateway supprime les données sensibles avant qu’une requête n’atteigne un modèle de langage d’IA.

Le filtre sert d’intermédiaire entre l’utilisateur et le chatbot. Il ne recherche pas seulement les noms évidents ou les suites de chiffres, mais évalue l’ensemble du contexte d’une requête. Pour cela, Tippe et Grötzner ont traduit les définitions juridiques du Règlement général sur la protection des données, aux articles 4 et 9, ainsi que le secret d’affaires allemand en un référentiel de consignes. Le système doit ainsi pouvoir non seulement reconnaître qu’une information doit être protégée, mais aussi expliquer pourquoi.

Le besoin ne concerne pas uniquement les utilisateurs eux-mêmes. Les requêtes peuvent contenir des informations sur des collègues, des clients ou des membres de la famille qui n’ont jamais consenti à leur transmission. Selon Tippe, de nombreuses informations individuelles peuvent permettre de créer des profils personnels sur les intérêts et les habitudes. Si de telles données tombent entre de mauvaises mains, par exemple à la suite d’une attaque informatique, elles peuvent être détournées ; les requêtes peuvent en outre servir à l’entraînement ultérieur des modèles d’IA.

Et concrètement ? Privacy Gateway pourrait permettre aux particuliers et aux entreprises de continuer à utiliser des chatbots pour leurs e-mails ou leurs documents sans devoir rechercher et supprimer manuellement chaque donnée sensible. Le prototype n’est toutefois pas encore une solution sans risque : une étude menée sur un vaste jeu de données composé de situations du quotidien a montré qu’il n’est pas toujours possible de supprimer les informations sensibles sans dégrader la réponse.

La limite apparaît particulièrement nettement avec les diagnostics médicaux détaillés. Plus un prompt contient d’informations à caractère personnel, plus l’anonymisation risque de supprimer des éléments importants pour la réponse, a expliqué Tippe. La protection des données et l’utilisabilité ne sont donc pas totalement compatibles. Le critère de référence de cette approche ne réside donc pas dans la suppression maximale, mais dans une protection efficace qui préserve autant que possible les fonctionnalités du chatbot.