Aimino und asvin forschen für mehr KI-Sicherheit im KI-FOGGER-Projekt

Ziele und Vorgehen
Das vom BMFTR geförderte Projekt „KI-FOGGER“ will KI-Modelle so absichern, dass sie nur mit einer speziellen Freigabe korrekt funktionieren. Dafür setzt das Team gezielt Methoden ein, die ursprünglich für Angriffe auf KI entwickelt wurden – zum Beispiel das Einfügen falscher Daten (Data Poisoning) oder das Einbauen geheimer Zugänge (Backdoors). Ohne passende Autorisierung liefern die Modelle nur verzerrte, unbrauchbare Ergebnisse. So bleibt das im Modell enthaltene Wissen geschützt. Die Verfahren werden anschließend in realen Anwendungsszenarien in der Industrie getestet.

Innovationen und Perspektiven
Der Ansatz ist neuartig: Die Sicherheit wird direkt ins Modell eingebaut, sodass sensible Informationen auch dann geschützt bleiben, wenn das Modell selbst verloren geht. Das stärkt die technologische Unabhängigkeit deutscher Unternehmen und ermöglicht eine sichere und verantwortungsvolle Nutzung von KI. Das Projekt leistet damit einen wichtigen Beitrag zur digitalen Souveränität.