Privacy-Gateway-Prototyp filtert Daten vor Chatbots

Eine E-Mail an den Chatbot, ein umfangreiches Dokument zur Auswertung: Für viele Menschen ist künstliche Intelligenz längst ein Werkzeug zum Zeitsparen. Rund ein Drittel der Menschen in Deutschland nutzt KI mindestens einmal pro Woche. Pascal Tippe, Doktorand an der Fernuniversität Hagen, und Masterstudent Michael Maximilian Grötzner setzen genau an der riskanten Stelle an: Ihr Prototyp Privacy Gateway entfernt sensible Daten, bevor eine Anfrage ein KI-Sprachmodell erreicht.

Der Filter arbeitet als Vermittler zwischen Nutzer und Chatbot. Er sucht nicht nur nach offensichtlichen Namen oder Zahlenfolgen, sondern bewertet den gesamten Zusammenhang einer Anfrage. Dafür übersetzten Tippe und Grötzner die rechtlichen Definitionen der Datenschutz-Grundverordnung aus Artikel 4 und Artikel 9 sowie das deutsche Geschäftsgeheimnis in ein Codebuch aus Anweisungen. Das System soll dadurch nicht nur erkennen, dass eine Information geschützt werden muss, sondern auch begründen können, warum.

Der Bedarf entsteht nicht nur bei den Nutzern selbst. Eingaben können Angaben über Kollegen, Kunden oder Familienmitglieder enthalten, die einer Weitergabe nie zugestimmt haben. Aus vielen einzelnen Informationen können laut Tippe persönliche Profile über Interessen und Gewohnheiten entstehen. Gelangen solche Daten etwa durch einen Hackerangriff in falsche Hände, können sie missbraucht werden; zudem können Eingaben dem weiteren Training von KI-Modellen dienen.

Und dann, konkret? Privacy Gateway könnte Menschen und Unternehmen ermöglichen, Chatbots weiter für E-Mails oder Dokumente einzusetzen, ohne jede sensible Angabe manuell suchen und löschen zu müssen. Der Prototyp ist jedoch noch keine risikofreie Lösung: In einer Studie mit einem umfangreichen Datensatz aus Alltagsszenarien zeigte sich, dass sensible Informationen nicht immer entfernt werden können, ohne die Antwort zu verschlechtern.

Besonders deutlich wird die Grenze bei umfangreichen medizinischen Diagnosen. Je mehr personenbezogene Informationen ein Prompt enthält, desto mehr kann bei der Anonymisierung verloren gehen, was für die Antwort wichtig wäre, erklärte Tippe. Datenschutz und Nutzbarkeit sind damit nicht vollständig vereinbar. Die Messlatte für den Ansatz liegt deshalb nicht bei maximalem Entfernen, sondern bei einem brauchbaren Schutz, der die Funktion des Chatbots möglichst erhält.