Forschung

Die Arbeitsgruppe adressiert die zentralen Herausforderungen moderner, vernetzter IT-Systeme: Sicherheit, Vertrauenswürdigkeit und Resilienz im Zeitalter Künstlicher Intelligenz. Der Forschungsansatz ist interdisziplinär und verbindet Methoden der IT-Sicherheit, der Softwaretechnik und des Maschinellen Lernens.

 

Vertrauenswürdige Plattformen und Systemarchitekturen

Ein Schwerpunkt liegt auf der Entwicklung von Architekturen, die auch unter dynamischen und potenziell unsicheren Betriebsbedingungen verlässlich arbeiten. Dazu gehören:

• Eingebettete Systeme und IoT-Geräte mit strengen Ressourcen- und Energiegrenzen
• Großskalige Cloud- und Edge-Infrastrukturen mit verteilter Verarbeitung und hohem Skalierungsbedarf

KI-gestützte Sicherheitsmechanismen

Die Forschungsgruppe untersucht den Einsatz von Künstlicher Intelligenz, um Sicherheitsdienste intelligenter und adaptiver zu gestalten. Dazu zählen insbesondere:

• Intelligente Anomalieerkennung für frühzeitiges Erkennen von Angriffen und Fehlfunktionen
• Automatisierte Bedrohungsabwehr, die in Echtzeit auf Sicherheitsvorfälle reagiert
• Transparentes Vertrauensmanagement (explainable trust management), bei dem Entscheidungen zur Vertrauensbewertung transparent und nachvollziehbar gestaltet werden

Sicherheit und Vertrauenswürdigkeit von KI-Systemen

Neben der Nutzung von KI für Sicherheitszwecke erforscht die Gruppe auch, wie KI selbst robuster und vertrauenswürdiger gestaltet werden kann. Schwerpunkte sind:

• Schutz vor gezielten Manipulationen und adversarialen Angriffen
• Robustheit gegenüber fehlerhaften oder bösartig veränderten Eingabedaten
• Datenschutz und Minimierung von Risiken bei der Verarbeitung sensibler Informationen