Software

TU Dresden: Koordinierung des Verbundprojektes „AI.Auto-Immune“ zur Abwehr KI-basierter Angriffe auf das Internet

13. März 2025. Wissenschaftlerinnen und Wissenschaftler der Technischen Universität Dresden (TUD), der HAW Hamburg, der Alpha Strike Labs GmbH und der Traversals Analytics und Intelligence GmbH wollen im mit 3,79 Millionen Euro unterstützten BMBF-Verbundprojekt „AI.Auto-Immune“ das Internet vor KI-Angriffen schützen. Die TUD koordiniert das Projekt und wird mit 1,1 Milionen Euro gefördert.

Foto: freepik/user26544460

Kategorien

Software

Schlagworte

Datensicherheit·Forschung & Entwicklung·IT·Künstliche Intelligenz (KI)

Kontakt

Silicon Saxony

Marketing, Kommunikation und Öffentlichkeitsarbeit

Manfred-von-Ardenne-Ring 20 F

Telefon: +49 351 8925 886

redaktion@silicon-saxony.de

Künstliche Intelligenz (KI) ist ideal, um riesige Datenmengen zu sammeln, sie zu analysieren und auf Grundlage der gewonnenen Erkenntnisse zu reagieren. Diese Vorteile nutzen Angreifer aus, um IT-Systeme zu bedrohen. KI wird somit zunehmend zu einem zentralen Bestandteil der Cybersicherheit.

Angreifer können mithilfe von hochentwickelten KI-Technologien nicht mehr nur gezielt nach einzelnen, bekannten Schwachstellen suchen, sondern die Angriffsoberfläche von IT-Infrastrukturen automatisiert erkunden. Dabei variiert die KI bisherige Angriffstechniken und entwickelt Möglichkeiten, um die automatisierten Schutzmechanismen, die auf bekannten Signaturen oder Mustern basieren, zu umgehen.

Das Verbundprojekt AI.Auto-Immune hat das Ziel, das Internet und seine Dienste vor KI-basierten Angriffen zu schützen. Die Wissenschaftlerinnen und Wissenschaftler werden an neuen Methoden arbeiten, um mithilfe von KI-Algorithmen Kommunikationsdaten und Netzwerkflüsse im Internet auszuwerten und so Schwachstellen zu finden. Die intelligente Analyse der Netzwerkdienste hilft, frühzeitig Muster und sich entwickelnde neue Bedrohungen zu erkennen und die Sicherheitsmaßnahmen entsprechend anzupassen. So können Gefahrenstellen automatisiert vorhergesagt und dafür Schutzempfehlungen abgegeben werden, indem die KI beispielsweise Lagebilder von Angriffspunkten für bestimmte Netzbereiche wie interne Firmennetze oder kritische Infrastrukturen generiert.

Matthias Wählisch, Professor für Distributed and Networked Systems an der TU Dresden und Verbundkoordinator, freut sich über die Projektbewilligung: „Die Stärkung der Sicherheit global verteilter und vernetzter Systeme ist enorm wichtig und wird uns dauerhaft begleiten. Den Wettlauf mit den Angreifern können wir nur gewinnen, wenn wir einerseits die Grenzen KI-basierter Angriffe verstehen, andererseits KI nutzen, um flexibler und schneller auf neu entstehende Bedrohungen zu reagieren.“ Sein Team wird sich gemeinsam mit den Wissenschaftlern der Professur für Maschinelles Lernen für Computer Vision unter Leitung von Björn Andres den Themen „Internet-Messungen und Clustering-Verfahren zur Absicherung von Internet-Diensten“ widmen. Dabei geht es insbesondre darum, auffällige Muster in Kommunikationsdiensten auch dann zu erkennen, wenn diese bisher unbekannt sind.

„AI.Auto-Immune ist nicht nur sehr bedeutsam für weitere wissenschaftliche Erfolge gegen KI-basierte Angriffe auf das Internet. Das Projekt ist auch von größter Wichtigkeit für unsere Universität als Institution und für Dresden als Wissenschaftsstandort“, hebt TUD-Rektorin Prof. Ursula Staudinger hervor und bedankt sich bei den mitwirkenden Forschern der Universität für ihr außerordentliches Engagement auf diesem Gebiet.

AI.Auto-Immune wird durch das Forschungsrahmenprogramm der Bundesregierung zur IT-Sicherheit „Digital. Sicher. Souverän.“ in der Maßnahme „Sichere Zukunftstechnologien in einer hypervernetzten Welt: Künstliche Intelligenz“ gefördert.